MENÚ
Lo estás viendo por todas partes: el chatbot más avanzado del mundo; la inteligencia artificial más alucinante; o el programa que nos va a hacer exámenes, escribir libros o inventar un código para una aplicación móvil. Se llama ChatGPT y es un chatbot.
¿Has leído alguna vez un texto creado por un programa de inteligencia artificial? Los hay, los hay... Imitando columnas de opinión, crónicas deportivas, cuentos y mucho más. Aquí puedes leer más sobre cómo funciona GPT-3, un programa basado en inteligencia artificial (IA) capaz de respondernos a casi cualquier cosa que le planteemos o le pidamos que haga, desde una receta de cocina a un poema. Este sistema sorprendía por la facilidad con la que respondía a peticiones de lo más enrevesadas y que ponían a prueba su creatividad, pero el protagonismo se lo está llevando ahora un nuevo programa informático que es, en realidad, algo así como su primo pequeño.
Una pequeña introducción a ChatGPT
¿Qué es exactamente ChatGPT? Aunque no estés familiarizado con el mundo de la inteligencia artificial o no acostumbres usar asistentes virtuales, es muy posible que hayas visto ese nombre mencionado en la red social Twitter o capturas de imágenes de una conversación con el sistema. Técnicamente hablando, es un modelo informático de lenguaje entrenado con texto y código para responder a una serie de preguntas o instrucciones que le demos. Hablando simple y llanamente, es un chatbot. Un programa informático con el que podemos conversar, como pueden ser Alexa o Siri, salvo que en vez de respondernos en voz alta, nos contesta con texto.
¿Y de dónde sale? Como decíamos, está emparentado con GPT-3, otro de estos programas conversacionales y uno de los más famosos junto a otros, como LaMDA, de Google (que llegó a la opinión pública tras asegurar que era “consciente”, cosa que es imposible). Es un producto de OpenAI, una compañía de desarrollo de inteligencia artificial también conocida por haber creado DALL-E, otro programa de IA capaz de crear imágenes de lo más impactantes a partir de una frase que pidamos. Sobre DALL-E 2 también puedes leer aquí y ver como Maldita.es, medio cofundador de Factchequeado, hizo pruebas en directo con él.
¿Qué tiene de especial? O, en otras palabras: ¿por qué está medio Internet alucinando con este programa? La principal particularidad que tiene es que, teniendo en cuenta que acaba de lanzarse, OpenAI ha permitido que cualquiera pueda probar la versión beta (un modelo en pruebas). Es accesible a través de este enlace y solo es necesario crear una cuenta personal para probarla. Una vez registrados y dentro de la plataforma, podremos empezar a preguntar y pedir que nos escriba o nos dé información sobre lo que se nos ocurra.
La imaginación de la gente no tiene límites: le han pedido cosas que van desde que escriba una disertación exponiendo las diferencias entre Karl Marx y Mark Weber a que reescriba “Bohemian Rhapsody”, de Queen, adaptando el tema a la vida de un doctorando. También hay personas que aseguran poder usarlo como un buscador y que funciona mejor que Google; otros que han descubierto que es capaz de programar código fuente y de redactar contratos de arrendamiento; o gente que pone a prueba si sabe responder a problemas de estadística.
Incluso en Maldita.es, medio cofundador de Factchequeado, aprovecharon que la herramienta está abierta para pedir que responda a alguna que otra broma interna de la redacción.
En Factchequeado también lo probamos:
ChatGPT está siendo tan comentado, además de por estar a disposición de cualquiera que quiera probarlo, por el desempeño que ha demostrado conseguir para responder, en varias ocasiones, con textos bien articulados y que, además, tienen sentido. Claro que esto no ocurre en el 100% de los casos, pero sí que es capaz de arrojar resultados más elaborados que otros programas de su misma familia, como GPT-3.
Pros y contras de ChatGPT: ¿hasta dónde llegan sus capacidades?
ChatGPT es, como hemos dicho, un asistente conversacional. Eso significa que está programado para que pueda, hasta cierto punto, mantener una conversación con nosotros como si habláramos con otra persona y también para ofrecernos respuestas basadas en información con la que ha sido entrenado. Esto es algo que mejora frente a su primo pequeño, GPT-3, que en realidad es “un sistema de generación de lenguaje a partir de instrucciones”, tal y como nos recuerda Carmen Torrijos, lingüista computacional especializada en Inteligencia Artificial en la compañía de Comunicación española Prodigioso Volcán: “Se adapta a lo que tú hagas”.
En el caso de ChatGPT, las conversaciones son más fluidas gracias a las mejoras que han incorporado, como que haya personas evaluando lo que dice el programa: “A partir de esas evaluaciones, han entrenado un segundo modelo capaz de aprender qué tipo de producciones reciben una mejor evaluación, por lo que es capaz de evaluar por sí solo. Estaríamos ante un auto-entrenamiento en el que la máquina va aprendiendo y evaluándose a sí misma. Este método ha tenido buenos resultados, pero también tiene un techo, porque si se aplica esta estrategia durante mucho tiempo sin intervención humana, el modelo acaba cayendo en desviaciones y sesgos”, resalta Torrijos.
Eso sí, no tiene la capacidad de consultar Internet en tiempo real como otros asistentes de voz como Alexa, por ejemplo: todo lo que nos contesta se basa en información y datos que se han introducido en su sistema y en la capacidad que tiene el sistema de inteligencia artificial en el que está basado para conectar puntos entre ellos para adaptar las respuestas a lo que le pidamos. Importante: eso significa que el chatbot no nos entiende ni entiende lo que nos está contestando. Simplemente hace la acción de buscar en los datos que tiene registrados y los combina para ofrecernos una respuesta.
Lo que tiene ChatGPT es que, por el momento, es la tecnología que más precisión ha demostrado ofrecer para ese cometido. “Esto es lo más peligroso de modelos tan potentes. Su conversación es casi perfecta y muy convincente, lo que puede hacer que nos confiemos en exceso y no seamos conscientes del problema. Ahora mismo, ChatGPT no podría ser utilizado, por ejemplo, en información turística o atención al ciudadano. Primero habría que reentrenarlo con una fuente de verdad y sus respuestas serían menos autónomas y más controladas”, desarrolla Torrijos.
Hay otro tema importante a tener en cuenta: ChatGPT, como otros modelos conversacionales, saca la información con la que contesta de las fuentes de datos que le han proporcionado sus desarrolladores - y que no tiene por qué ser verídica necesariamente. Por ejemplo, no tiene “conocimiento” sobre eventos ocurridos después del año 2021. Por tanto, no tenemos que entender que todo lo que nos responda es real o preciso. OpenAI afirma que ha sido entrenado no solo con información de páginas web, sino también con conversaciones entre personas mantenidas en Internet.
“La principal misión de ChatGPT (o GPT-3) es respondernos de una forma natural, con lenguaje bien construido y utilizando todo el conocimiento que ha acumulado en el entrenamiento”, explica Torrijos. “Sabe cómo tiene que responder y qué tipo de información tiene que dar, pero no ha sido entrenado para cotejar los datos que está dando con una ‘fuente de verdad’ (source of truth o ground-truth), algo muy necesario en los modelos de lenguaje para evitar el disparate”, recuerda.
Desde OpenAI también señalan varias limitaciones. Entre ellas, admiten que en ocasiones puede dar respuestas “inapropiadas”, con instrucciones “dañinas” o presentar un comportamiento “sesgado”. También explican que el programa puede comportarse diferente si se le pregunta varias veces lo mismo pero de diferentes maneras. Tras muchas pruebas, varios usuarios han constatado ambas cosas: tanto que los sesgos siguen presentes como en otros modelos como GPT-3 como que es posible sacarle respuestas que en principio no tendría que dar a base de repreguntar cambiando. Y, por supuesto, que también se equivoca al mezclar conceptos y cosas que no tienen sentido, o que incluso asegura que no, que no es ChatGPT con el que se está hablando.
Factchequeado es un medio de verificación que construye una comunidad hispanohablante para contrarrestar la desinformación en Estados Unidos. ¿Quieres ser parte? Súmate y verifica los contenidos que recibes enviándolos a nuestro WhatsApp +16468736087 o a factchequeado.com/whatsapp.
