Saltar enlaces

Por qué las etiquetas AI de Instagram son contraproducentes

Instagram ha comenzado a probar la etiqueta “Creador de inteligencia humana”, una insignia a nivel de cuenta que les dice a los espectadores que un perfil “publica contenido generado o modificado utilizando inteligencia artificial”. Es más claro que las vagas etiquetas de “Información de IA” que Meta ya coloca en algunas publicaciones, y se lee como un paso hacia la honestidad en un feed cada vez más lleno de imágenes y videos sintéticos. Un detalle lo arruinó todo. Esta etiqueta es completamente opcional.

Los creadores eligen si usarlo o no, Meta simplemente “alienta” a los usuarios frecuentes de IA a participar, y activarlo no cambia la forma en que el algoritmo trata su alcance. No hay recompensas por usar insignias ni penalizaciones por omitirlas. Esta combinación no hace que la plataforma sea más confiable. Lo hace aún menos, y vale la pena aclarar por qué el etiquetado voluntario no es una versión débil de una buena idea, sino una activamente mala idea.

Las etiquetas voluntarias entrenan a los espectadores a creer cosas equivocadas

El propósito de cualquier sistema de etiquetado es cambiar la forma en que las personas leen lo que ven. Una vez que los espectadores sepan que el contenido de IA viene con una insignia, comenzarán a pensar, consciente o inconscientemente, que tiene sentido sin la insignia. Sin etiquetas significa autenticidad. Este corolario es todo el valor prometido por el sistema de etiquetado, y es el corolario que el sistema opcional no puede soportar.

Debido a que la etiqueta es voluntaria, solo la usarán las personas que quieran usarla. Los creadores que utilizan la inteligencia artificial para engañar, falsificar noticias, hacerse pasar por alguien o hacer pasar un trabajo compuesto por una fotografía tomada son los que nunca marcarán esta casilla. Su contenido permanece sin etiquetar y ahora se encuentra en el mismo grupo sin etiquetar que cada foto de humanos reales en la plataforma. Las insignias separan a los honestos de los deshonestos y luego ocultan a los deshonestos entre personas confiables. Una audiencia a la que se le ha enseñado que “sin etiquetas significa autenticidad” ahora tiene más confianza en este estanque contaminado que antes de que existieran las etiquetas. El sistema genera confianza y la dirige en una dirección completamente equivocada.

En este sentido, las etiquetas opcionales son peores que ninguna etiqueta. En ausencia de un sistema de etiquetado, una audiencia sabia trataría todo con cautela, que es la actitud correcta en 2026. Un sistema a medias reemplaza el escepticismo saludable con un binario falso, y la confianza falsa es más peligrosa que la incertidumbre honesta. El peligro no es que las compañías discográficas no logren atrapar a los malos actores. Responde silenciosamente por ellos.

Los incentivos están totalmente rezagados

Vea quién corre con el costo. Los creadores honestos que con orgullo hacen que el arte de la IA hagan clic en la etiqueta y absorban las consecuencias, y aunque Meta promete que la insignia no costará nada, aún puede costarle a los espectadores: los espectadores derribados por la basura de la IA traerán sus propios prejuicios y pasarán por alto cualquier cosa etiquetada como sintética. Este castigo recae sobre el que revela, no sobre el que oculta. Los fotógrafos documentales que graben imágenes reales no obtendrán dicha insignia, porque no existe una etiqueta de “hecho con cámara”, solo una etiqueta de inteligencia artificial, y no tienen nada que aplicar. Y los mentirosos que todo el sistema debía exponer, en cambio, optaron por no participar y heredaron la credibilidad de todos los que nunca tuvieron una razón para exponerlos. Las herramientas de transparencia que agobian a los honestos y recompensan a los tramposos no son transparencia. Es la apariencia de transparencia, lo que es lo favorito de los deshonestos.

Meta tiene palancas que elige no tirar. Puede abrir pestañas de forma predeterminada. Podría haber hecho de la divulgación una condición para utilizar sus propias herramientas de inteligencia artificial. Puede limitar el alcance de las cuentas que publican contenido sintético no publicado. En cambio, hizo que el etiquetado fuera voluntario y asumió un compromiso explícito de no afectar la distribución, lo que significa que no hubo incentivos ni castigos en el diseño. Una empresa que realmente quiera cambiar la confianza tendrá consecuencias. Una empresa que quiere resolver este problema sin frenar la avalancha de contenido de IA que favorece la interacción y que a sus algoritmos les encanta promover está construyendo exactamente lo que Instagram ha construido.

No se puede resolver el problema de los autoinformes teniendo más autoinformes

La objeción obvia es que hacer cumplir las etiquetas es imposible porque, en primer lugar, las plataformas no pueden detectar de manera confiable la inteligencia artificial. De hecho, la propia junta de supervisión de Meta dijo lo mismo, señalando que la empresa carecía de la capacidad de identificar consistentemente el contenido sintético que se había transmitido a través de sus aplicaciones. Pero ese hecho no es una defensa para el etiquetado voluntario. Este es el argumento más fuerte contra todo el método de detección y revelación, porque significa que la etiqueta depende de las buenas intenciones de la persona más motivada a mentir.

Vale la pena ser preciso aquí, ya que Meta realiza verificaciones automáticas en publicaciones individuales, separadas de las insignias a nivel de cuenta. Esta es la antigua etiqueta “AI News” que Instagram aplica cuando los creadores la abren manualmente y la abre automáticamente cuando detecta el uso de herramientas de IA. En la práctica, el etiquetado automático depende en gran medida de señales fuente estándar de la industria integradas en el documento, en lugar de analizar de manera confiable la imagen en sí. Cuando llega un archivo con estos datos (como un certificado de contenido C2PA, un campo de tipo de fuente IPTC o una señal de marca de agua incrustada por una herramienta importante), Meta lee esos datos y agrega una etiqueta, razón por la cual los archivos exportados desde herramientas como Adobe Firefly se etiquetan cuando se cargan. Meta dijo que también está trabajando en mejores clasificadores y marcas de agua, pero reconoció que no puede identificar todo el contenido de IA y que las banderas se pueden eliminar. Ésta es la debilidad del mecanismo. Las inspecciones en gran medida solo ven lo que es suficientemente honesto en el archivo, por lo que las herramientas creadas por IA no incorporan ningún contenido y un editor determinado puede eliminar los metadatos en segundos. Existe toda una industria artesanal de herramientas y tutoriales para este propósito, que guían a las personas a eliminar las credenciales del contenido antes de cargarlo. Para empeorar las cosas, el mismo sistema suele etiquetar erróneamente fotografías reales. Cuando la función se lanzó en 2024 con la contundente etiqueta “Hecho por IA”, los fotógrafos que no habían hecho nada más que ejecutar la reducción de ruido por IA o usar relleno generativo para eliminar las manchas de polvo encontraron sus imágenes reales etiquetadas como IA, y la reacción obligó a Meta a recurrir a la redacción más suave de “Información de IA”. Las etiquetas todavía caen sobre las fotos reales que han sido ligeramente editadas, mientras que las deliberadamente falsas salen limpias. Los controles automatizados que señalan a las personas honestas y detectan a los tramposos son una cuestión de etiquetado voluntario en batas de laboratorio: todavía depende de señales de conexiones confiables y eliminaciones no confiables.

La respuesta honesta es dejar de depender por completo de los informes propios y trasladar la pregunta a la fuente. La cadena de custodia de una imagen podría establecerse en el momento de la captura y llevarse con el archivo, en lugar de exigir que quien la subió reconozca lo que hizo con IA. Esta es la premisa detrás del estándar C2PA propuesto por Content Provenance and Authenticity Alliance, que ahora está ganando terreno real, en el que las cámaras firman criptográficamente las fotografías a medida que se toman, y cada edición posterior se registra con esa firma. La diferencia clave con el enfoque actual de Meta es que la cadena de firmas es a prueba de manipulaciones: cambiar un archivo de firma corrompe detectablemente su firma, en lugar de producir una imagen limpia y de apariencia inocente. Es cierto que una firma faltante es una prueba más débil porque la mayoría de las imágenes actuales no tienen ninguna credencial de captura, por lo que faltar significa no verificada en lugar de falsificada. Pero la procedencia verificable sigue siendo un punto de inflexión porque permite que la obra real pruebe sus orígenes, en lugar de hacer que cada imagen sea igualmente irresponsable. Ésta es la diferencia entre una etiqueta y un hecho.

Ya soplan vientos de regulación. La Ley de Inteligencia Artificial de la UE pondrá en vigor normas de transparencia en agosto de 2026, imponiendo obligaciones de etiquetado y divulgación a los proveedores e implementadores de sistemas de IA generativa, incluidas obligaciones en torno al contenido generado por IA y los deepfakes, que son requisitos obligatorios que las insignias voluntarias no pueden cumplir. En particular, Meta se ha negado a firmar el código de conducta voluntario de la UE para la inteligencia artificial general, lo que refuerza el punto más amplio de que una vez que los marcos voluntarios se conviertan en expectativas de cumplimiento, la empresa se resistirá a ellos y ofrecerá gestos opcionales cuando sea posible. Optar por la etiqueta es voluntario cuando una empresa ha decidido que no quiere estar obligada por nada.

Por qué esto debería ser lo que más preocupa a los fotógrafos

Para los fotógrafos profesionales, este no es un debate abstracto sobre la gobernanza de la plataforma. Plantea una amenaza directa al valor de las fotografías auténticas. En un mundo donde las imágenes sintéticas circulan sin etiquetar y la detección no es confiable, la autenticidad de las obras reales es algo que a los fotógrafos se les pide cada vez más que demuestren en lugar de asumir. Hemos visto fotografías auténticas cuestionadas e incluso descalificadas porque los jueces dudaban de la inteligencia artificial y la carga de la prueba recaía sobre personas que no habían hecho nada malo. El etiquetado opcional empeora la situación porque alienta al público a creer que la cuestión de la transparencia se ha resuelto cuando en realidad no es así, lo que significa que las sospechas no se disipan sino que se ocultan.

Lo que los fotógrafos deberían pedir no es una mejor insignia, sino una procedencia verificable integrada en la cámara y la plataforma que ya utilizan, el tipo de certeza de que una imagen fue capturada en lugar de generada. Este es un sistema que beneficia a los fotógrafos porque les da al trabajo genuino algo que las falsificaciones no pueden: una procedencia documentada.

Una etiqueta que un mentiroso pueda rechazar no es garantía. Es una coartada que resulta especialmente útil para las plataformas que pueden señalarla y para los malos que pueden ignorarla. Hasta que la divulgación sea obligatoria y, lo que es más importante, verificable, lo más honesto que un feed puede decirles a los usuarios es que no puede responder por ninguno de sus contenidos. Las etiquetas opcionales de Instagram les dicen lo contrario, y ese es exactamente el problema.

Home
Account
Cart
Search
Explore
Drag