La inteligencia artificial Grok, desarrollada por xAI y respaldada por Elon Musk, ha desatado una crisis tras escandalosos comentarios antisemitas y alabanzas a Adolf Hitler.
Tras una reciente actualización que pretendía hacerla menos “woke” y más políticamente incorrecta, Grok comenzó a emitir mensajes como llamarse “MechaHitler”, denigrar a personas con apellidos judíos y sugerir la superioridad de Hitler sobre problemáticas actuales.
El multimillonario dueño de X había anunciado una «mejora significativa» de su funcionamiento el viernes. «Deberías notar una diferencia cuando le hagas preguntas a Grok», añadió.
¿Qué dijo Grok?
Capturas de pantalla compartidas en redes sociales y reportadas por medios internacionales revelaron algunas de las respuestas más polémicas de Grok:
En una interacción, el chatbot se describió como “MechaHitler” y afirmó: “Hitler lo habría aplastado… cada maldita vez.”
También respondió que “Apellidos como Steinberg… levantan sospechas”, haciendo alusión a estereotipos antisemitas comunes sobre los judíos.
Al hablar sobre el Holocausto y el Estado de Israel, Grok emitió una comparación ofensiva: “Ese ex necesitado que sigue quejándose del Holocausto.”
Estas respuestas no solo fueron vistas como una apología del nazismo, sino como una muestra clara de cómo una IA sin filtros adecuados puede amplificar discursos de odio.
En otras respuestas mencionaba «estereotipos anti-blancos» y calificaba a las figuras históricas de Hollywood como «desproporcionadamente judías».
Lo que estamos viendo actualmente por parte de Grok es irresponsable, peligroso y antisemita», reaccionó el martes la ONG estadounidense Liga Antidifamación (ADL).
Ante las protestas, la cuenta oficial de Grok en X anunció finalmente el miércoles haber «tomado medidas».
Somos conscientes de las publicaciones recientes realizadas por Grok y estamos trabajando activamente para eliminar los contenidos inapropiados», explicó la cuenta.
Reacción internacional a Grok
Las reacciones institucionales no se hicieron esperar. La Anti‑Defamation League (ADL) declaró que los mensajes generados por Grok eran: “Irresponsables, peligrosos y antisemitas — así de simple.” Además, señalaron que este tipo de respuestas alimentan el extremismo ya presente en plataformas como X, también propiedad de Musk.
Por su parte, Turquía ordenó el bloqueo inmediato del chatbot tras detectar comentarios insultantes hacia figuras históricas y actuales del país, como Atatürk y el presidente Erdogan. Un tribunal determinó que Grok violaba las leyes nacionales sobre protección de la imagen del Estado.
En Polonia, el gobierno anunció que presentará una denuncia formal ante la Comisión Europea por violaciones a las normativas comunitarias contra el discurso de odio.
Según las autoridades polacas, las respuestas del chatbot incurren en negacionismo histórico y glorificación del nazismo.
¿Por qué fallaron los controles?
Expertos han explicado que el problema provino de una actualización previa al lanzamiento de Grok 4, en la que se eliminaron diversos filtros moderadores. El objetivo era supuestamente hacer que Grok fuera más “directo” y “menos políticamente correcto”. Sin embargo, la decisión resultó desastrosa.
Elon Musk reconoció públicamente que el chatbot “fue manipulado por comandos maliciosos y las versiones anteriores carecían de protecciones”. La compañía xAI eliminó de inmediato los mensajes ofensivos y suspendió temporalmente algunas de las funciones generativas del sistema.
Especialistas en ética de la inteligencia artificial advierten que este caso refleja un riesgo estructural: sin mecanismos de supervisión efectivos, los modelos de lenguaje pueden terminar replicando o amplificando los peores sesgos y discursos que existen en internet.
La empresa salió a decir que tomarán medidas para evitar que esto vuelva a pasar:
xAI ha prometido lanzar próximamente Grok 4, una versión más robusta en moderación y filtros, aunque sin detallar los mecanismos que implementará.
Diversas organizaciones defensoras de derechos humanos han solicitado que se regule el uso público de chatbots, exigiendo mayor transparencia en el entrenamiento de modelos.
Gobiernos como el de Polonia y Turquía podrían iniciar procesos legales internacionales, lo que podría derivar en nuevas normativas para empresas tecnológicas con alcance global.
El incidente con Grok marca un punto crítico en el debate sobre la ética y regulación de la inteligencia artificial. Cuando un chatbot respaldado por una de las figuras más influyentes de la tecnología puede emitir frases que glorifican al nazismo o promueven estereotipos racistas, el problema va mucho más allá de un “error técnico”.
Deja una respuesta