No confíes ciegamente en lo que te dice la IA, le dice el jefe de Google a la BBC

El jefe de la empresa matriz de Google, Alphabet, le dijo a la BBC que la gente no debería “confiar ciegamente” en todo lo que les dicen las herramientas de inteligencia artificial.

En una entrevista exclusiva, el director ejecutivo, Sundar Pichai, dijo que los modelos de IA son “propensos a errores” e instó a la gente a utilizarlos junto con otras herramientas.

Pichai dijo que esto resalta la importancia de tener un ecosistema de información rico en lugar de depender únicamente de la tecnología de inteligencia artificial.

“Es por eso que la gente también utiliza la Búsqueda de Google y tenemos otros productos que están más basados ​​en proporcionar información precisa”.

Si bien las herramientas de inteligencia artificial son útiles “si quieres escribir algo creativamente”, Pichai dijo que la gente debería “aprender a usar estas herramientas para lo que hacen bien y no creer ciegamente lo que dicen”.

Le dijo a la BBC: “Estamos orgullosos de la cantidad de trabajo que hacemos para proporcionar la información más precisa posible, pero la actual tecnología de inteligencia artificial de última generación tiene algunos defectos”.

El mundo de la tecnología está esperando el último lanzamiento del modelo de inteligencia artificial para consumidores de Google, Gemini 3.0, que está comenzando a recuperar participación de mercado frente a ChatGPT.

Desde mayo de este año, Google ha comenzado a introducir un nuevo “modo AI” en sus búsquedas, integrando su chatbot Gemini. Dirigido a brindar a los usuarios la experiencia de hablar con expertos..

En ese momento, Pichai dijo que la integración de Mithun con Search marcaba una “nueva fase del cambio de plataforma de IA”.

También es parte de la apuesta del gigante tecnológico por seguir siendo competitivo frente a servicios de inteligencia artificial como ChatGPT, que amenazan el dominio de las búsquedas en línea de Google.

Sus comentarios respaldan una investigación de la BBC de principios de este año, que encontró que los chatbots de IA tergiversaban las noticias.

ChatGPT de OpenAI, Copilot de Microsoft, Gemini de Google y Perplexity AI recibieron contenido del sitio web de la BBC y se les hicieron preguntas al respecto, y la investigación encontró respuestas de IA. Incluye “imprecisiones materiales”.“

En una entrevista con la BBC, Pichai dijo que había cierta tensión entre la rapidez con la que se estaba desarrollando la tecnología y cómo se estaban tomando medidas para prevenir efectos potencialmente dañinos.

Para Alphabet, Pichai dijo que manejar el estrés significa ser “valiente y responsable al mismo tiempo”.

“Así que estamos avanzando rápido en este momento. Creo que nuestros clientes lo exigen”, afirmó.

El gigante tecnológico ha aumentado su inversión en seguridad de IA en proporción a su inversión en IA, añadió Pichai.

“Por ejemplo, contamos con tecnología de código abierto que permitirá detectar si una imagen fue creada por IA”, dijo.

Cuando se le preguntó sobre años de comentarios recientemente revelados del multimillonario tecnológico Elon Musk a los fundadores de OpenAI sobre los temores de que DeepMind, ahora propiedad de Google, pudiera crear una “dictadura” de IA, Pichai dijo que “ninguna empresa debería poseer una tecnología tan poderosa como la IA”.

Pero hoy en día hay muchas empresas en el ecosistema de la IA, añadió.

“Si solo hubiera una empresa creando tecnología de inteligencia artificial y todos los demás la usaran, eso también me preocuparía, pero estamos muy lejos de esa situación en este momento”, dijo.