Tim Cook admite que Apple no consigue su IA deje de mentir

A principios de esta semana, Apple realizó uno de los anuncios más esperados durante la Conferencia Mundial de Desarrolladores: finalmente se une a la carrera de la IA. Durante el evento anunció un conjunto de herramientas de aprendizaje automático sorprendentemente familiares. Pero no fue lo único que llamó la atención: las confesiones posteriores de su CEO, Tim Cook acerca de la fiabilidad de estas herramientas.

En una entrevista con The Washington Post, Cook admitió abiertamente que no está del todo seguro de que la última "Inteligencia de Apple" no inventará mentiras y distorsionará confiadamente la verdad, una tendencia problemática y probablemente intrínseca que ha afectado a prácticamente todos los chatbots de IA lanzados hasta la fecha.

Cuando se le preguntó sobre su "confianza en que Apple Intelligence no alucinará", un término cada vez más impopular que rápidamente se ha convertido en el comodín para las mentiras generadas por la IA, Cook admitió que aún quedan muchas incógnitas.

“No es 100% fiable - respondió, argumentando que todavía - confía en que será de muy alta calidad. Pero yo diría con toda honestidad que eso es menos del 100 %. Eso sí, nunca diría que es 100%”.

Es una realidad incómoda, especialmente considerando cuán enfocados han estado la industria tecnológica y Wall Street en el desarrollo de chatbots de inteligencia artificial. A pesar de que se invierten decenas de miles de millones de dólares en esta tecnología, las herramientas de inteligencia artificial son sorprendidas repetidamente con falsedades obvias y, quizás lo más preocupante, mentiras convincentes.

Además de mezclar los hechos hasta el punto de que ya no se mantienen unidos, algunos de estos modelos de IA se entrenan con datos dudosos que ofrecen como verdad. Por ejemplo, el mes pasado, la función de búsqueda impulsada por inteligencia artificial de Google le dijo con total confianza a un usuario que pusiera pegamento en su pizza, respuesta que llegó a las redes sociales a través de un tweet.

https://t.co/W09ssjvOkJpic.twitter.com/6ALCbz6EjK

— SG-r01 (@heavenrend) May 22, 2024

A pesar de ello, Cook no es el primer ejecutivo tecnológico que admite que es posible que estas herramientas simplemente sigan mintiendo. La noticia llega después de que el director ejecutivo de Google, Sundar Pichai, hiciera declaraciones similares en otra entrevista el mes pasado.

"Definitivamente, hemos logrado avances cuando analizamos las métricas de factibilidad año tras año – explicaba Pichai -. Todos lo estamos mejorando, pero no está resuelto”.

Queda por ver cómo le irá a la propia implementación de Apple (una suerte de matrimonio entre Siri y la próxima integración ChatGPT) en lo que respecta a estas alucinaciones.

El resultado es importante si tenemos en cuenta que hay mucho en juego, como la gran cantidad de datos confidenciales de los consumidores, incluidas fotografías, correos electrónicos y mensajes de texto, que Apple ha recopilado de sus clientes. Nadie quiere que Siri invente una invitación del calendario o le diga que se canceló un vuelo, cuando no fue así.