¿Tiene debilidades ChatGPT?
Por lo pronto, mantiene en vilo al mundo. Sus habilidades la muestran como una herramienta súper poderosa, con el potencial (según algunas miradas) de superar a los seres humanos en materia de inteligencia y, de acuerdo a la voluntad de poner “títulos catástrofe”, hasta de controlar a la humanidad.
En efecto, la aparición de ChatGPT en particular y de los modelos de inteligencia artificial (IA) generativa en general produjeron un impacto social, que va mucho más allá de su uso empresarial o de los beneficios que podrían aportar a un negocio.
En medio de la efervescencia, es importante poner las cosas en su debido lugar. Se trata de una tecnología impactante, que saltó dos o tres órdenes de magnitud en términos de avance y de madurez en relación a lo que había disponible hasta hace apenas un año y medio, pero continúa mostrando algunas debilidades.
La tecnología subyacente
Detrás de ChatGPT reside el concepto de LLM (sigas en inglés por large language model, modelo de lenguaje grande): un sistema de IA capaz de “comprender” y generar texto en lenguaje natural, al punto que parece estar hablando.
El LLM de ChatGPT, a su vez, se basa en la arquitectura transformer: una red neuronal profunda cuya habilidad es procesar secuencias de palabras. Dicho de otra manera: es un mecanismo muy poderoso que busca de manera predictiva, y cuidando el sentido y el contexto, la siguiente palabra que debe decir para iniciar o continuar una frase.
Con esta capacidad quedan reflejados tanto el poder de esta tecnología como sus limitaciones.
En principio, considerando que el objetivo de la tecnología es encontrar la siguiente palabra para continuar hilando la conversación, resulta difícil determinar si lo que dice es cierto o es falso. En algún punto, es como charlar con un borracho verborrágico: dirá un montón de cosas, algunas con total seriedad, que luego deberán ser analizadas con otro tamiz.
¿De qué estás hablando?
Si las palabras adecuadas para completar una idea no tienen sentido de realidad (algo sobre la alimentación de los unicornios, por ejemplo) no tiene mayor importancia. Esto es lo que se entiende como “fenómeno de fabulación”. Otro problema está en que, como el borracho que no puede parar de hablar, puede ingresar en un camino inadecuado o hacer recomendaciones terribles.
La memoria de la conversación también es limitada. Si bien en la última versión conserva el contexto de la conversación durante unas 50 páginas (más de lo que podría retener un humano), pasado ese lapso el diálogo podría seguir en círculos, volver a comenzar o perder el hilo en relación a lo que se dijo al principio.
La principal limitación, no obstante, radica en que no sabemos realmente qué está haciendo. No hay una ecuación o un pedazo de código que lo describa. La única manera de saber si va a hacer algo o no es experimentando: no podemos predecir su comportamiento. Eso, limita la confianza que podemos desarrollar en el sistema.
¿Sorprendente? Sin dudas. ¿Disruptiva? ¡Por supuesto! ¿Perfecta? En absoluto. Al menos, por ahora.
¿Qué limitaciones encontraste usando ChatGPT u otros modelos de IA Generativa? Contáctanos haciendo click aquí y conoce más sobre nosotros en nuestras redes LinkedIn y Twitter.
