ChatGPT: los límites de la Inteligencia Artificial que está revolucionando el mundo

La inteligencia artificial nos fascina e inquieta a partes iguales. Poco a poco nos hemos ido acostumbrando a oír hablar de ella y, al menos, ya no tememos que nos intente destruir con robots humanoides de acento austríaco. No obstante, las pesadillas no han desaparecido, se han refinado. El complejo de Frankenstein, ese miedo a que nuestra creación se vuelva contra nosotros, es algo que arraiga en lo más profundo de nuestro ser y que nos sigue generando escalofríos. Tal vez por eso, algunas personas eligen minimizar los grandes avances de las inteligencias artificiales generadoras de texto y de imágenes.

Durante 2022 salieron a la luz varios modelos capaces de hacer virguerías: respondían preguntas, programaban código por ti, resolvían problemas, traducían, pintaban, hacían imágenes hiperrealistas y, en resumen, creaban productos casi indistinguibles de los que hubiera generado un humano. Comparado con lo que hacían las IAs hace un año, estos avances son bastante espectaculares, nos gusten más o menos sus implicaciones socioeconómicas. Centrarse solo en sus defectos no es la manera más rigurosa de abordarlas, pero tampoco lo sería una loa a sus bondades. Para comprender bien cuál es el estado del arte en la inteligencia artificial tenemos que conocer ambas caras de la moneda y no solo la que nos convenga.

El valor de la autocrítica

Tomemos como ejemplo la inteligencia artificial que más se ha viralizado en los últimos meses, poco después de que se pusieran de moda las capaces de producir imágenes, como Stable Diffusion, DALL.E 2 o Midjourney. Pensemos concretamente en ChatGPT, ese sumidero de horas en las que algunos enterramos nuestras vacaciones de navidad. Ahora se ha vuelto tan popular, hay que hacer cola de varios días (o semanas) hasta encontrar disponibles sus servidores. Como modelo de lenguaje que es, hay varias tareas en las que podría no ser tan preciso o efectivo como nos gustaría. Por ejemplo, puede tener dificultades para comprender el contexto o el tono emocional en una conversación, o puede tener problemas para responder preguntas muy específicas o complejas. También puede tener dificultades para generar texto creativo u original, ya que está basado en patrones y estilos encontrados en el texto de entrenamiento.

Lo más impresionante es que, estas tres últimas frases acerca de los defectos de ChatGPT las ha escrito la propia inteligencia artificial. ¿Es acaso capaz de hacer autocrítica? Evidentemente no, pero entre lo que ha aprendido y lo que le han programado es capaz de devolver una respuesta bastante razonable. Eso sí, la cuarta frase que generó es algo más inquietante: “Sin embargo, estoy constantemente actualizado para mejorar mi desempeño”. Uno de los miedos más frecuentes cuando sondeamos la ciencia ficción es que nuestras creaciones empiecen a mejorarse a sí mismas y se escapen de nuestro control en un proceso de perfeccionamiento casi exponencial. En este caso, es cierto que las inteligencias artificiales aprenden y que nosotros mismos la estamos entrenando al jugar con ella y responder a sus respuestas de nuestras respuestas de sus respuestas (en esa recursión nos hacemos una idea).

Eso significa que ChatGPT depende de nosotros en gran medida para mejorar. Otras inteligencias artificiales, como los modelos adversarios, se dividen en dos redes neuronales donde una produce resultados y el otro intenta clasificarlos, de tal modo que le devuelve una especie de corrección, haciendo que se entrenen a sí mismas con más autonomía que otros modelos. ¿Significa esto que la forma en que aprende ChatGPT es uno de sus defectos? No necesariamente, todo depende de lo que pretenda conseguir, y parece que eso no es un problema para la IA más popular del momento.

Demasiado perfecta

Podríamos centrarnos en debates acerca de si los textos de ChatGPT tienen duende, eso que la RAE define como un encanto misterioso e inexplicable con palabras que, nosotros, solemos relacionar con la artesanía, aquellos productos hechos por un humano. Sin embargo, estaríamos cayendo en debates filosóficos que no son precisamente nuevos, variantes de la clásica cuestión sobre si el ser humano es algo más que materia, si tiene un alma inmaterial que explique sus aparentes unicidades. En este este caso nos interesa centrar la atención en cuestiones más prácticas como, por ejemplo, que en algunos casos es demasiado perfecto.

Uno de los ejemplos más evidentes es el uso de los signos de puntuación. Esta inteligencia artificial puntúa como si fuera una catedrática de lingüística o, al menos, con más corrección que la amplia mayoría de mortales. De hecho y, aunque no es una prueba demasiado robusta, esto puede darnos algunas pistas acerca de la naturaleza de un texto, por ejemplo, si sospechamos que nos han entregado un trabajo escrito por una IA. Es más, algunos expertos han estado estudiando los defectos de inteligencias artificiales como estas para desarrollar sistemas para la detección de sus textos. Una vez se conocen las manías de uno de estos programas (porque no solo se trata de fallos), se pueden obtener criterios muy fiables para identificar sus creaciones.

La verdad

Pero, si se trata de defectos, hay uno que hace especial mella en estos modelos de lenguaje natural. Aprenden a partir de grandes cantidades de información que obtienen de internet, simplificándolo mucho, y aunque se han ido refinando para que no se contaminen con comentarios machistas, racistas y discriminatorios en general, sigue siendo posible que, ante preguntas muy específicas, no sepan separar la información correcta de la incorrecta que puebla la red. Ese es uno de los problemas a los que se enfrentan estas inteligencias artificiales si, como algunos usuarios desean, quisieran sustituir a buscadores como Google. Mientras que los buscadores tradicionales nos permiten navegar entre varias páginas y separar el grano de la paja, la respuesta de ChatGPT suele ser única. Sin duda, esto será algo solucionable, pero hoy por hoy, supone una limitación interesante.

Por otro lado, ocurre algo extraño cuando le pedimos la letra de una canción, por ejemplo. Mientras que con otras cosas que exceden a su competencia es muy comedido, con esto muestra algo que en humanos llamaríamos “fabulación”. Un proceso mental por el que, ante el desconocimiento de una información, la inventan estando totalmente convencidos de que es correcta. Una vez más, esta definición es muy simplista, pero nos da una idea de lo que sucede. Por ejemplo, si le pedimos que nos escriba la letra de Libre, de Nino Bravo, no empieza diciendo “Tiene casi 20 años y ya está cansado de soñar”, sino con estas extrañas frases: “Libre, libre quiero ser libre para amar sin condición sin tener que dar explicación libre, libre quiero ser libre para vivir mi vida sin tener que rendir cuentas a nadie”. Tras una búsqueda en Google, no parece haber canciones con esa letra, aunque las primera sugerencias son, sorprendentemente, la pieza “Quiero ser libre” de los Chichos. Así que no, no es perfecta y está lejos de serlo, pero ya es suficientemente eficaz como para revolucionar nuestro mundo.

QUE NO TE LA CUELEN:

• Durante los últimos años nos hemos acostumbrado a que las inteligencias artificiales mejoren sus resultados de forma exponencial y, en muchas ocasiones, hemos dado por hecho que nuestra percepción de esos resultados también se vería maravillada de manera exponencial. Sin embargo, el CEO de Open AI, la empresa responsable de ChatGPT, ha declarado hace poco que GPT4, su siguiente lanzamiento, estará lejos de cumplir las expectativas que está poniendo en ella el público general. Por un lado, se debe a que somos malos calculando un crecimiento exponencial como este y, por otro, a que el ritmo de mejora de estos procesos lo marca la dificultad técnica y no la espectacularidad de sus resultados, aunque muchas veces, sobre todo en fases iniciales, suelen ir emparejadas.

REFERENCIAS (MLA):

• OpenAI (2022) CHATGPT: Optimizing language models for dialogue, OpenAI. OpenAI. Available at: https://openai.com/blog/chatgpt/ (Accessed: December 22, 2022).