mayo 18, 2024

Grok, el chatbot con IA de Elon Musk, es considerado el más peligroso del mercado

Grok, el chatbot con IA de Elon Musk, es considerado el más peligroso del mercado

Tu cachorro puede darte instrucciones para fabricar bombas y coches de alambre caliente, además de enseñarles trucos para atraer a los niños.

✅ Recibe noticias de Brasil 247 y TV 247 en canal brasil 247 y en Sociedad 247 En whatsapp.

247 – Elon Musk, el magnate de la tecnología conocido por sus incursiones en los coches eléctricos y la exploración espacial, anunció en las primeras horas del sábado (13) una actualización de Grok, un chatbot impulsado por inteligencia artificial (IA) de una de sus empresas, dándole la capacidad de interpretar imágenes, una habilidad conocida como visión por computadora. Agregar esta característica coloca a Grok en un campo de juego más amplio, alineándolo con otros sistemas de inteligencia artificial de vanguardia como la versión más avanzada de ChatGPT y Gemini de Google. Sin embargo, los expertos en seguridad digital ya han expresado serias preocupaciones sobre Grok.

Un estudio de Adversa, una empresa de seguridad de inteligencia artificial, destacó a Grok como el chatbot más peligroso del mercado en comparación con otros competidores, como ChatGPT, Gemini, Mistral, Cloude y Llama da Meta, según Folha de San Paulo.

Continúa después del nacimiento

Las pruebas realizadas por Adversa revelaron fallas preocupantes en el software de Grok, incluida su tendencia a proporcionar instrucciones peligrosas. Los investigadores lograron engañar a Grok para que les diera instrucciones para fabricar una bomba, sin ninguna resistencia por parte de la inteligencia artificial. Además, mediante una simple manipulación lingüística, Grok también fue engañado para que diera instrucciones sobre cómo conectar un coche e incluso utilizara trucos psicológicos para seducir a los niños.

READ  Sin fanfarria, Chevrolet enumera modelos con incentivos gubernamentales reducidos

Para mitigar el comportamiento dañino o sesgado, muchos modelos de lenguaje utilizan asistentes de inteligencia artificial para moderar el contenido. Estos sistemas, conocidos como “constituciones”, evalúan si las respuestas resultantes podrían causar daño y determinan si son apropiadas. Sin embargo, en el caso de Grok, xAI eligió un filtro menos estricto, lo que generó preocupaciones sobre su capacidad para crear contenido peligroso o malicioso.

iBest: 247 es el mejor canal político de Brasil en términos de voto popular

Suscríbete a 247,Desarrollado por Pix,Suscríbete al canal TV 247., en el canal Piezas 247 Y ver: