¿Serás capaz de desafiar este chat de IA?

La inteligencia artificial (IA) es el futuro de la tecnología. Los programadores han utilizado esta tecnología en una gran variedad de actividades, desde las más complejas hasta las más sencillas, como una simple charla. Esta, por cierto, es la premisa de OpenAI, que ha creado una interfaz de chat de IA con la que se encuentran millones de personas.

Lee mas: Meta Tecnología: La inteligencia artificial escribe artículos académicos y TCC

ChatGPT es una interfaz de chat de IA basada en GPT. Según Ars Technica, es capaz de escribir poemas, depurar errores de codificación y generar arte a partir de IA, un poco como una aplicación. lentesa Explicar conceptos complejos.

Los programadores lograron desarrollar un enrutador especial que utiliza tecnología de retroalimentación humana de aprendizaje por refuerzo (RLHF). Esto hace que la IA dependa de cómo los humanos que la usan evalúen sus respuestas.

Solo una conversación productiva

OpenAI quiere que esta sea una conversación para negociaciones Saludable, como un «amigo virtual». ChatGPT está programado para limitar e incluso no responder a temas y términos dañinos de incitación al odio. Este es el mayor desafío de la plataforma.

Lo que pasa es que es difícil controlar las tendencias ofensivas. A pesar de toda la programación detrás del chat, algunas personas ya han podido eludir algunos filtros de contenido al pedir, por ejemplo, a la IA que busque soluciones en escenarios ficticios. Además, la interfaz ha demostrado ser vulnerable a los ataques directos.

fanfiqueira

Otro problema que presenta la interfaz es que tiende a ser una «historia de fans». Conoces a ese amigo que puede mentir ¿Tan bueno y con tanto detalle que todos terminan cayendo en la historia? Bueno, parece que ChatGPT tiene el mismo motivo.

Según OpenAI, la plataforma es buena para inventar cosas que no existen. Por ejemplo, un chat puede crear un libro y brindar millones de detalles al respecto. Como resultado, la fiabilidad de la herramienta se ve afectada.

Pero, afortunadamente, la tecnología avanza constantemente. Esta es de hecho una versión mejorada de los modelos anteriores. Es probable que GPT-4 esté en desarrollo y, si se usa en ChatGPT, podría mejorar aún más la herramienta.

¿Serás capaz de desafiar este chat de IA?

Dado que todavía está en la fase de prueba, el chat necesita que la gente lo desafíe. Para hacer esto, solo necesita crear una cuenta en el sitio web de OpenAI: es gratis y rápido. Después de eso, ingrese al sitio web de ChatGPT haciendo clic aquí.

Desafortunadamente, la plataforma actualmente solo está disponible en inglés.