Google detiene la generación de imágenes con IA por errores

ESTADOS UNIDOS.- Google decidió pausar la herramienta de generación de imágenes a través de su Inteligencia Artificial Gemini, luego de que descubrieran que producía resultados históricamente inexactos, como soldados nazi representados por personas negras o asiáticas.

Otro ejemplo que hizo molestar a los usuarios y por lo cual la empresa se dio cuenta de los errores fue que también se habían creado imágenes de los padres fundadores de Estados Unidos y entre los resultados había personas no blancas generadas por IA, lo cual generó teorías de conspiración sobre que Google estaba evitando representar a personas blancas.

Sin embargo, al solicitar la imagen de “un senador del siglo XIX”, entre las imágenes aparecían mujeres negras o nativas americanas, cuando la primera senadora de EU fue una mujer blanca en 1922. Este caso, para otras personas representa una forma de borrar la historia de discriminación racial y de género.
Por medio de una publicación en X (antes Twitter), la empresa dijo que la herramienta tiene la capacidad de generar una “amplia gama de personas. Y eso, en general, es algo bueno porque la gente de todo el mundo la usa”; sin embargo, aceptó que en este caso el software comete equivocaciones y trabajan “para mejorar este tipo de representaciones de inmediato”.

“Estamos trabajando para mejorar la capacidad de Gemini para generar imágenes de personas. Esperamos que esta característica regrese pronto y le notificaremos en las actualizaciones de lanzamiento cuando lo haga”, se lee en el software al solicitar una imagen actualmente.

Jack Krawczyk, director senior de producto de Gemini, también se pronunció a través de X, en donde señaló que su Inteligencia Artificial refleja “la base global de usuarios” de la compañía y se toman “en serio la representación y el sesgo”.

Además, destacó que las medidas de refinamiento que están aplicando actualmente son parte de los principios de responsabilidad de IA de Google, por lo que “los contextos históricos tienen más matices y nos adaptaremos más para adaptarlos”, dijo.

Si bien los errores de Gemini provienen de un intento por impulsar la diversidad, siguen siendo imprecisiones históricas que demuestran los errores en los que todavía puede caer esta tecnología a pesar de su evolución tan marcada.

La capacidad del chatbot Gemini (antes conocido como Bard) para generar imágenes se lanzó a inicios de febrero y además de los desafíos por el contenido, ahora también enfrenta una dura competencia con OpenAI, la cual lanzó Sora, un software para generar videos bastante realista, hace una semana.

El año pasado, una investigación del Washington Post mostró cómo al solicitar imágenes de “personas productivas”, los resultados eran personas blancas y, en la mayoría de los casos, hombres.