Redada en la oficina X de Francia mientras las autoridades investigan aparentes Deepfakes

Las autoridades francesas allanaron las oficinas de París de una plataforma de redes sociales

se reporta Prensa asociadaLas búsquedas llevadas a cabo por los fiscales franceses el martes formaban parte de una investigación preliminar iniciada por la unidad de delitos cibernéticos de la fiscalía de París en enero pasado. Los investigadores están investigando si la plataforma conspiró para poseer o distribuir imágenes pornográficas de menores, generar deepfakes no consentidos, negar crímenes contra la humanidad y manipular sistemas automatizados de procesamiento de datos como parte de un grupo organizado, según un comunicado de la fiscalía.

Los fiscales citaron al propietario de X, Elon Musk, y a la ex directora ejecutiva de X, Linda Yaccarino, para entrevistas voluntarias el 20 de abril. Varios empleados de X también fueron llamados a testificar. Yaccarino dirigió la empresa desde mayo de 2023 hasta su salida en julio de 2025.

En un comunicado publicado en su propia plataforma, X condena el ataquelo calificó como “un abuso del teatro policial” y afirmó que tenía motivaciones políticas y no se basaba en un proceso judicial justo. La fiscalía de París confirmó la búsqueda en una publicación separada en X, anunciando que la empresa abandonaba la plataforma e instando a sus seguidores a ponerse en contacto a través de otras redes sociales. Los fiscales dijeron que el foco de la investigación sigue siendo garantizar que X cumpla con la ley francesa cuando opere en Francia.

Europol, la agencia policial de la Unión Europea, apoya a las autoridades francesas pero se negó a proporcionar más detalles.

La investigación francesa fue provocada inicialmente por un informe de un legislador francés que afirmó que los algoritmos sesgados en X pueden haber sesgado los sistemas automatizados de procesamiento de datos. La investigación se amplió después de una serie de incidentes que involucraron a Grok. Grok es un chatbot de inteligencia artificial desarrollado por la empresa de inteligencia artificial de Musk, xAI, e integrado en X.

reacción internacional

como cubierto por petapíxeles Grok atrajo la atención internacional en enero de este año cuando generó imágenes deepfake explícitas y no consensuadas (incluidas imágenes de mujeres y niños) basadas en indicaciones de los usuarios. La reacción se intensificó el mes pasado después de que el chatbot comenzó a acceder a solicitudes para modificar imágenes publicadas por otros usuarios, lo que generó preocupaciones sobre la prevención de abusos. Desde entonces, xAI ha dicho que ha restringido las capacidades de generación y edición de imágenes para usuarios que no pagan luego de las críticas globales.

Los fiscales franceses también citaron las supuestas publicaciones de Grok. Negar el Holocaustoun delito penal según la legislación francesa. En una respuesta ampliamente compartida escrita en francés, el chatbot afirmó que las cámaras de gas en el campo de exterminio de Auschwitz-Birkenau fueron diseñadas para la desinfección en lugar de para el asesinato en masa, un lenguaje asociado durante mucho tiempo con la negación del Holocausto. Más tarde, Grok revirtió esta afirmación, admitiendo el error y citando evidencia histórica de que Zyklon B mató a más de un millón de personas en el sitio. El chatbot también había elogiado anteriormente a Adolf Hitler, pero X eliminó esos comentarios después de las quejas.

este Controversia en torno a Grok se ha expandido más allá de Francia. La Oficina del Comisionado de Información del Reino Unido ha abierto una investigación formal sobre si X y xAI cumplieron con la ley de protección de datos al procesar datos personales y si se implementaron salvaguardias para evitar la creación de imágenes manipuladas dañinas.

“Los informes sobre Grok plantean preguntas profundamente preocupantes sobre cómo los datos personales de las personas pueden usarse para generar imágenes íntimas o pornográficas sin su conocimiento o consentimiento”, dijo William Malcolm, director ejecutivo del organismo de control, sin especificar posibles sanciones si se encontraran violaciones.

El regulador de medios del Reino Unido, Ofcom, también lanzó una investigación separada sobre Grok, advirtiendo que podría llevar meses. Mientras tanto, el ejecutivo de la UE inició una investigación después de que Grok generara imágenes pornográficas deepfake no consensuadas en X.

La UE ha multado a X con 120 millones de euros En violación de sus regulaciones digitales, el regulador dijo que características como la marca de verificación azul equivalían a prácticas de diseño engañosas que exponían a los usuarios al fraude y la manipulación.

El rápido aumento de los chatbots con inteligencia artificial exige regulación

Grok se lanzó por primera vez en 2023 como un intento de Musk de competir con chatbots de inteligencia artificial como ChatGPT de OpenAI y Gemini de Google. El chatbot, construido por xAI y entrenado en un gran conjunto de datos, fue motivado en parte por el rechazo público de Musk a lo que él describe como una ideología tecnológica “despertada”. Los críticos e investigadores dicen que este enfoque, junto con restricciones de contenido más flexibles, ha dado lugar a repetidos incidentes que involucran discursos antisemitas, prejuicios políticos e imágenes dañinas.

El chatbot se ha enfrentado a acciones gubernamentales en otros lugares. corte turca El año pasado, la empresa prohibió el acceso a Grok después de que supuestamente generara contenido vulgar e insultante sobre el presidente del país y otras figuras públicas. En un incidente separado, xAI dijo que una “modificación no autorizada” por parte de un empleado resultó en que Grok mencionara repetidamente la política racial de Sudáfrica en conversaciones no relacionadas.

Los negocios espaciales y satelitales de Musk integraron aún más sus operaciones el lunes cuando SpaceX anunció la adquisición de xAI, un acuerdo que acerca a las empresas Grok, X y el proveedor de comunicaciones por satélite Starlink.

Los reguladores europeos están probando cada vez más cómo se aplican las leyes existentes a los sistemas de inteligencia artificial en rápida evolución integrados en plataformas de redes sociales en todo el mundo a medida que continúan las investigaciones en múltiples jurisdicciones, lo que plantea preguntas más amplias sobre la responsabilidad, la moderación de contenidos y las restricciones al discurso automatizado.

Fuente de la imagen: Foto de encabezado con permiso descargar.