Elon Musk observa mientras el presidente estadounidense Donald Trump habla en el Foro de Inversión entre Estados Unidos y Arabia Saudita en el Centro John F. Kennedy para las Artes Escénicas en Washington, DC, el 19 de noviembre de 2025.
Brendan Smialowski | AFP | Imágenes falsas
Elon Musk Grok El chatbot culpó a “fallos en las salvaguardias” por la reciente publicación de imágenes sexualizadas de niños generadas por inteligencia synthetic.
en una purple social publicar en X El viernes, Grok dijo que estaba “solucionando urgentemente” el problema y calificó el materials de abuso sexual infantil como “ilegal y prohibido”. Grok también admitido que una empresa podría enfrentarse a sanciones penales o civiles por no impedir este contenido una vez informada.
Los usuarios de X expresaron su preocupación en los últimos días sobre contenido explícito de menores generados utilizando la herramienta Grok, que incluía niños con ropa mínima.
Una publicación de un miembro del private técnico de xAI Parsa tayiko También reconoció el problema.
“¡Oye! Gracias por avisar. El equipo está buscando reforzar aún más nuestras barreras”, dijo Tajik en una publicación.
xAI de Musk envió una respuesta automática a una solicitud de comentarios: “Legacy Media Lies”.
La proliferación de plataformas de generación de imágenes de IA desde el lanzamiento de ChatGPT en 2022 ha generado preocupaciones sobre la manipulación de contenido y la seguridad en línea en todos los ámbitos. También ha contribuido a que un número cada vez mayor de plataformas produzcan desnudos ultrafalsos de personas reales.
Mientras que otros chatbots se han enfrentado a problemas similares, Grok se ha metido repetidamente en problemas por mal uso.
En mayo, la empresa enfrentó una reacción violenta por responder a las consultas de los usuarios con comentarios no solicitados sobre el “genocidio blanco” en Sudáfrica. Dos meses después, Grok publicó comentarios antisemitas y elogió a Adolf Hitler.
A pesar de los tropiezos, Grok ha seguido logrando asociaciones y acuerdos.
El Ministerio de defensa agregó Grok a su plataforma de agentes de inteligencia synthetic el mes pasado y la herramienta es el chatbot principal para las plataformas de apuestas de predicción Polymarket y Kalshi.
