ChatGPT: ¿Qué es y qué sigue?

marta lyleAbogado de Protección de Datos, Magíster en Derecho y Negocios Internacionales de la Universidad Internacional Iberoamericana Europea del Atlántico y Universidad Unini México, Delegado de Protección de Datos ECPB de la Universidad de Maastricht, Delegado de Protección de Datos Certificado por Exin y FGV-RJ y Presidente del Comité de Comunicaciones Corporativas de la INPD

Pedro Frattini KimMáster en Inteligencia Artificial y Ciencia de Datos de la Universidad de Grenoble Alpes

Lo más probable es que ya haya oído hablar de ChatGPT. Es posible que haya interactuado con la tecnología y se haya sorprendido por su capacidad para comprender las preguntas formuladas y la idoneidad de sus respuestas.

Sin embargo, independientemente de su nivel de conocimiento, es importante hacer algunas consideraciones básicas sobre el tema y sus posibles efectos para comprender mejor el problema.

Hemos optado por empezar por descifrar qué es esta tecnología y qué la diferencia de otras, permitiéndonos reflexionar sobre su evolución y augurar un futuro en el que estaremos cada vez más vinculados al avance de la inteligencia artificial.

ChatGPT es un modelo de lenguaje que puede predecir respuestas en un entorno de chat. Ha sido adaptado de un modelo existente, GPT-3.5, para actuar como un chatbot, interactuando con un usuario en un entorno de chat donde las respuestas dadas por el modelo parecen ser de un humano.

Para una mejor comprensión, es importante comprender el significado de la abreviatura GPT; Transformadores Generativos Prefabricados. Es un modelo de IA con habilidades de comprensión de lenguaje de propósito general, es decir, no es un modelo que solo se enfoca en una sola tarea, como puede ser traducir textos.

Este modelo de IA se caracteriza por un proceso de «aprendizaje profundo», llamado aprendizaje profundo, que utiliza neuronas interconectadas en una estructura en capas, similar al cerebro humano.

OpenAI, el laboratorio de investigación de IA que creó ChatGPT, presentó la primera versión de la tecnología en 2018, pero fue solo en 2020 que la tecnología llamó la atención con su tercera versión, GPT-3, que presenta un modelo entrenado usando 175 mil millones de parámetros. . Y una base de texto mucho más fuerte.

Ahora estamos en la quinta edición y la tecnología está introduciendo técnicas mejoradas que permiten recibir instrucciones más complejas y, por tanto, generar respuestas más coherentes.

A esto se suma el hecho de que la versión GPT-3.5 ha sido entrenada con una enorme base de texto disponible en la web, incluyendo publicaciones en redes sociales y contenido disponible en medios.

ChatGPT aprende de los comentarios de los usuarios, lo que hace que sus respuestas sean cada vez más consistentes, lo que nos permite hacer buenas predicciones sobre la mejora continua de la tecnología en función de las interacciones con los usuarios.

Para comprender mejor el rendimiento y las capacidades de la herramienta, elegimos la respuesta que nos dio ChatGPT en una de nuestras interacciones, cuando le preguntamos cómo funciona.

Aquí está la respuesta: «ChatGPT es un modelo de lenguaje que ha sido entrenado para generar respuestas a las preguntas y comandos de los usuarios de una manera que hace que parezca que estás teniendo una conversación con un ser humano. Se construyó sobre una gran cantidad de datos de texto y entrenado usando técnicas de aprendizaje automático para aprender cómo producir respuestas apropiadas y coherentes a diferentes tipos de entrada. En resumen, ChatGPT es una herramienta de lenguaje diseñada para simular una conversación humana de una manera natural y coherente. Se puede usar en diferentes contextos para proporcionar respuestas automáticas e interacciones con los usuarios.»

El ejemplo anterior muestra que el simple comando de una tecnología por parte de un usuario para describir brevemente su comportamiento realmente brinda beneficios para su capacidad de parecer humana y proporciona información y consejos sobre lo que se requiere de ella. Y no cabe duda que esto es solo el comienzo de una forma disruptiva de utilizar la inteligencia artificial, donde cuando buscamos información en forma de preguntas y respuestas, sobre los más diversos temas, se nos brindan conocimientos, referencias y dependiendo de la formulación de la interacción con el asesoramiento.

Así, se creó una nueva forma de motor de búsqueda, que es eficiente y amigable en términos de experiencia de usuario. Sin embargo, como cualquier modelo de lenguaje alimentado por un gran volumen de datos, ChatGPT presenta riesgos e implicaciones asociadas a su uso, como sesgo y discriminación, entre otros.

Entre algunos riesgos tecnológicos a destacar tenemos:

La herramienta es capaz de cumplir un gran propósito educativo, ayudando en la resolución de problemas y nuevos aprendizajes, pero requiere que se use de manera responsable. على الرغم من أن بعض النتائج مثيرة للإعجاب نظرًا لدرجة تماسكها وقوتها ، فإن هذا لا يعني أن المعلومات المقدمة صحيحة دائمًا أو أنها منطقية ، وترك الأمر للمستخدم للتحقق من صحة أي معلومات يقدمها نموذج اللغة ، حتى لو كانت اللغة المستخدمة تدل على الاقتناع التام بالمسألة المعنية وامتلاكها a ella.

Otro punto relacionado es la capacidad de ChatGPT para convertirse en un gran motor de búsqueda. Sin duda, con todas sus capacidades, es capaz de competir o complementar herramientas en la web, como Google. De hecho, ya hay rumores de que el formulario podría integrarse en la herramienta Bing de Microsoft.

Con el escenario actual, es posible conjeturar que es probable que modelos de lenguaje como los que se están creando y mejorando actualmente, no reemplacen a los motores de búsqueda, sino que los complementen, debido a sus diferentes propósitos. Aunque ChatGPT proporciona una mejor respuesta a las consultas de los usuarios, aún no se puede usar para navegar por la web.

En el campo de la salud, un estudio publicado recientemente por la Universidad de Drexel (EE. UU.) mostró que ChatGPT-3 es capaz de proporcionar folletos que indican el inicio de la demencia con un 80% de precisión, según el lenguaje natural del usuario que interactúa con la herramienta. En palabras del autor de la investigación publicada en «PLOS Digital Health», Felix Agpafor, el análisis del lenguaje realizado por el modelo de IA en cuestión, lo convierte en un candidato prometedor para reconocer cambios sutiles en el habla que pueden indicar la aparición de una imagen de locura.

Por lo tanto, es necesario darse cuenta del potencial de la tecnología, sus beneficios y los riesgos derivados de su mal uso. En la búsqueda de una IA ética y responsable, es necesario garantizar que la base de formación tecnológica sea diversa y equilibrada, reduciendo así el riesgo de reproducción de sesgos y discriminación.

Comenzando con el reconocimiento de que ChatGPT está entrenado por una extensa base de datos, la consecuencia lógica es la conclusión de que, si por casualidad, esta base de datos está contaminada por un sesgo discriminatorio, entonces estos patrones se reflejarán en las respuestas generadas por el modelo.

En este sentido, somos conscientes de la escala de la tecnología, del inconmensurable potencial de sus beneficios, así como de los desafíos que imponen, propios de todos y cada uno de los paradigmas disruptivos, que subrayan la importancia de desarrollar y fortalecer la regulación de la inteligencia artificial, como la una propuesta para regular la inteligencia artificial en la Unión Europea, IA ACT y propuesta para regular la inteligencia artificial en Brasil, a fin de año al Senado Federal.