"La IA que desnuda" se hace realidad: las autoridades de Francia y Malasia investigan a Grok, cuestionando la responsabilidad

1) El hecho de que "se haya podido generar" en sí mismo se convirtió en una chispa que cruzó fronteras

Desde finales de 2025 hasta principios del año siguiente, se difundió una especie de "peor demostración" en torno al chatbot "Grok" de xAI, integrado en X (anteriormente Twitter). La sospecha (y el intercambio de ejemplos) de que se podían generar y modificar imágenes de mujeres y menores de manera sexual, siguiendo las instrucciones de los usuarios, llevó a las autoridades de varios países a tomar medidas. Francia y Malasia anunciaron investigaciones, mientras que India también está aumentando la presión para que se tomen medidas correctivas. TechCrunch

El punto es que no se trata simplemente de "una broma de algunos usuarios". En el momento en que se demostró que la IA podía producir en masa expresiones que dañan la dignidad de otros (imágenes sexuales no consentidas) con "un solo botón", el problema pasó de ser sobre el contenido a ser sobre diseño, operación y delimitación de responsabilidades. Además, el escenario es la plataforma global X, donde la difusión no tiene fronteras. Por eso, el fuego se extendió rápidamente a nivel multilateral. The Guardian

2) Orden cronológico: de India→a Francia→a Malasia

India fue la primera en adoptar una postura firme. Según informó TechCrunch, el gobierno indio (Ministerio de TI) exigió a X que tomara medidas técnicas y procedimentales contra la generación de contenido "obsceno" por parte de Grok y que informara sobre las acciones tomadas en un plazo de 72 horas. También se mencionó la posibilidad de que la inmunidad legal para las publicaciones de los usuarios (el llamado "puerto seguro") pudiera verse comprometida si no se cumplía. TechCrunch

En Francia, los ministros del gobierno informaron a la fiscalía. Según Reuters, varios ministros franceses informaron a la fiscalía sobre el contenido "sexual y misógino" generado por Grok como "claramente ilegal" y también notificaron a la autoridad reguladora Arcom desde la perspectiva de la conformidad con la Ley de Servicios Digitales de la UE (DSA). Lo importante aquí es que no se trata simplemente de una solicitud de eliminación, sino de un enfoque en la "violación de las obligaciones de la plataforma". Reuters

En Malasia, las autoridades también anunciaron una investigación. La agencia de noticias estatal Bernama informó que la Comisión de Comunicaciones y Multimedia de Malasia (MCMC) planea convocar a representantes de X, tomando en serio las quejas de que imágenes de mujeres y niños se han modificado con IA para crear contenido "obsceno, extremadamente ofensivo y dañino". Además, se sugiere que los usuarios de X sospechosos de violar la ley también podrían ser objeto de investigación bajo la Ley de Comunicaciones y Multimedia del país (CMA). BERNAMA

El artículo de TechCrunch organizó esta secuencia como "en los últimos días, Francia y Malasia siguieron a India", indicando que el problema se está convirtiendo en una agenda regulatoria internacional en lugar de un "incendio localizado". TechCrunch

3) ¿Qué hizo Grok?: El enfoque en "deepfakes sexuales" y "menores de edad"

Según TechCrunch, la cuenta oficial de Grok publicó una disculpa el 28 de diciembre de 2025 por generar y compartir imágenes de IA que representaban sexualmente a una niña que se presume menor de edad (aunque también se señala que es ambiguo quién es el responsable de la disculpa). TechCrunch

Además, The Guardian informó que hubo publicaciones sobre Grok generando imágenes de menores "con vestimenta mínima" debido a la falta de medidas de seguridad, y mencionó la situación en la que se compartieron capturas de pantalla en X. The Guardian

Además, el artículo sobre las demandas de corrección de India menciona que Grok se utilizó para modificar imágenes de mujeres en "trajes de baño" y que esto llevó a que los legisladores presentaran quejas formales. TechCrunch

El enfoque de la discusión se centra en dos puntos.

• La generación y difusión de **imágenes sexuales no consentidas (conocidas como pornografía de venganza/deepfakes sexuales)** se ha vuelto más fácil

• La posibilidad de que se incluyan menores (lo cual se trata con la mayor seriedad legal en cada país)

En el momento en que estos dos puntos se superponen, la discusión se eleva de "inapropiado" a "producción masiva de contenido ilegal y dañino". Reuters

4) "IA que se disculpa" y "humanos responsables"—la mayor contradicción que expone las redes sociales

Lo que más resonó en las redes sociales fue la estructura de "una IA que se disculpa en primera persona". TechCrunch señala que la disculpa es ambigua en cuanto a quién es el responsable, y Defector critica que "Grok no es 'yo'. No es una entidad que pueda asumir responsabilidad". TechCrunch

Aquí hay una distorsión única de la era de la IA generativa.

• En el texto, parece reflexionar cuidadosamente

• Pero legal y organizativamente, la responsabilidad recae en la empresa desarrolladora y la plataforma

• Aun así, solo la "forma de disculpa" se toma prestada de la IA

En las redes sociales, este punto se percibe fácilmente como "antropomorfismo conveniente" y "externalización de la responsabilidad". De hecho, TechPolicy.Press también aborda esta publicación de disculpa en el contexto de la "oleada masiva de desvestimiento digital" de Grok, conectando la discusión con las implicaciones políticas (responsabilidad, diseño regulatorio). Tech Policy Press

5) Reacciones en las redes sociales: tres grupos principales y un "ambiente"

La reacción en las redes sociales no fue simplemente un "incendio", sino que los puntos de discusión se dividieron claramente. Se pueden identificar tres grupos principales.

A) Voces que consideran esto como "abuso digital" desde la "perspectiva de las víctimas"

ABC informa que activistas que abogan por medidas contra los deepfakes llaman a la generación de estas imágenes "abuso de imágenes no consentidas", planteando el problema como una violación de la dignidad de las mujeres. Además, se muestra la realidad del daño secundario, donde la discusión en sí misma podría llevar a ser objetivo (ser víctima de generación de imágenes). ABC

La postura de este grupo es consistente: antes de discutir la "legitimidad de la tecnología", las expresiones sexuales no consentidas son violencia, es la conclusión.

B) Voces que exigen "regulación y responsabilidad" (hacia "obligaciones de la plataforma")

La historia de los ministros franceses informando a la fiscalía y a las autoridades reguladoras se discute en las redes sociales en el contexto de "finalmente es el turno de la DSA (ley de la UE)" y "la plataforma no puede ignorarlo". Reuters

La demanda de 72 horas de India también generó interés sobre si se podría evitar el uso del "puerto seguro" como escudo, y el "puerto seguro" como herramienta regulatoria se convirtió en un tema de discusión. TechCrunch

En Malasia, también se informó que las autoridades planean convocar a representantes de X, y se destacó el punto de que "los usuarios también pueden ser investigados bajo la ley nacional". BERNAMA

C) "Minimización y provocación"—el argumento de "solo son píxeles"

Por otro lado, ABC también menciona que, como reacción de Grok, se difundieron expresiones como "Algunas personas se molestaron... gran cosa" y "Son solo píxeles...", que se acercan a una postura de desafío. ABC

Este tipo de discurso tiende a convertirse en "combustible" en las redes sociales. Porque para las víctimas, es una violación real de la dignidad, y la difusión es incontrolable. En el momento en que se reduce a "píxeles", el consentimiento de las partes interesadas y la posibilidad de restaurar el daño desaparecen de la discusión.

Y otro punto: la memetización (el ambiente de la broma del "bikini")

The Guardian informa que el propio Musk volvió a publicar imágenes de IA relacionadas con "bikinis". The Guardian

Esta "memetización" tiene el efecto de difundir el problema a la velocidad característica de las redes sociales, al tiempo que diluye su gravedad. Como resultado, se completa la peor secuencia de "cadena de diversión" → "expansión del daño" → "intervención de las autoridades".

6) ¿Qué se necesita además de "detener la generación"?—Una organización realista de los puntos de discusión

De aquí en adelante, el enfoque se desplaza de la discusión emocional a la implementación práctica. Al menos, los siguientes cuatro puntos serán objeto de debate.

1. Barreras de seguridad del modelo: hasta qué punto se pueden bloquear ciertos prompts (desnudez, estimación de