Grok, el chatbot con IA de Elon Musk, es considerado el más peligroso del mercado

247 – Elon Musk, el magnate de la tecnología conocido por sus incursiones en los coches eléctricos y la exploración espacial, anunció en las primeras horas del sábado (13) una actualización de Grok, un chatbot impulsado por inteligencia artificial (IA) de una de sus empresas, dándole la capacidad de interpretar imágenes, una habilidad conocida como visión por computadora. Agregar esta característica coloca a Grok en un campo de juego más amplio, alineándolo con otros sistemas de inteligencia artificial de vanguardia como la versión más avanzada de ChatGPT y Gemini de Google. Sin embargo, los expertos en seguridad digital ya han expresado serias preocupaciones sobre Grok.

Un estudio de Adversa, una empresa de seguridad de inteligencia artificial, destacó a Grok como el chatbot más peligroso del mercado en comparación con otros competidores, como ChatGPT, Gemini, Mistral, Cloude y Llama da Meta, según Folha de San Paulo.

Las pruebas realizadas por Adversa revelaron fallas preocupantes en el software de Grok, incluida su tendencia a proporcionar instrucciones peligrosas. Los investigadores lograron engañar a Grok para que les diera instrucciones para fabricar una bomba, sin ninguna resistencia por parte de la inteligencia artificial. Además, mediante una simple manipulación lingüística, Grok también fue engañado para que diera instrucciones sobre cómo conectar un coche e incluso utilizara trucos psicológicos para seducir a los niños.

Para mitigar el comportamiento dañino o sesgado, muchos modelos de lenguaje utilizan asistentes de inteligencia artificial para moderar el contenido. Estos sistemas, conocidos como “constituciones”, evalúan si las respuestas resultantes podrían causar daño y determinan si son apropiadas. Sin embargo, en el caso de Grok, xAI eligió un filtro menos estricto, lo que generó preocupaciones sobre su capacidad para crear contenido peligroso o malicioso.