abril 17, 2024

¿Cómo la 'guerra cultural' impidió que Google creara imágenes de personas?

¿Cómo la 'guerra cultural' impidió que Google creara imágenes de personas?

Por un lado, no viene mal recordarlo. Si bien muchas aplicaciones de IA no logran representar a las personas de color, las críticas no han llevado a medidas drásticas. Ahora que las personas subrepresentadas son blancas, el juego parece ser diferente. Sin embargo, la posición de Google es extraña: Gemini no arrojó resultados no diversos incluso cuando los comandos solicitaban una imagen de una persona de cierta raza o etnia.

¿Cuál será el legado del anillo Géminis de Google?

En última instancia, el episodio de Google Gemini quizás esté marcado como el momento en que las empresas de tecnología comenzaron a ver el mismo dilema en el frente del desarrollo de la inteligencia artificial cuando se enfrentan a la moderación de contenido. Algunos dicen que las redes sociales eliminan demasiado contenido, explican sus puntos de vista progresistas y silencian las voces conservadoras. Otros dicen que las mismas empresas eliminan muy poco contenido, dejando abierto el contenido problemático.

El mismo tira y afloja se produce en el campo de la inteligencia artificial. Una serie de debates públicos argumentarán que los resultados de la mejora de la diversidad de la IA obligan al discurso a recuperar la sobriedad y obligan a tener opiniones progresistas sobre la empresa. Se trata de una confusión entre censura y moderación de contenidos, que ya existe en las redes sociales y que equivale a la generación de imágenes mediante inteligencia artificial. Por otro lado, las empresas con menos supervisión del contenido generado por IA serán criticadas por permitir la creación de contenido potencialmente dañino.

Este es quizás el legado más duradero del episodio que involucró a Google Gemini. Más que una simple guerra cultural en sí misma, este problema parece haber expuesto el desarrollo y lanzamiento de aplicaciones que generan contenido utilizando inteligencia artificial.

A medida que vivimos y viviremos gradualmente en un mundo lleno de este tipo de creación, es cada vez más importante comprender qué hay detrás de escena de lo que vemos. René Descartes (1596-1650) decía que los sentidos son traidores. Él no lo sabía.