La inteligencia artificial de YouTube confundió el micrófono con una pistola, lo que provocó que se cerrara la transmisión en vivo
El sistema de moderación de inteligencia artificial de YouTube etiquetó erróneamente el micrófono Shure SM58 del transmisor HoldMyDualShock como un arma de fuego y cerró abruptamente su transmisión en vivo. El incidente se difundió rápidamente en las redes sociales, generando humor pero también preocupaciones sobre la aplicación automatizada de la ley. Los creadores han criticado durante mucho tiempo la dependencia de YouTube de algoritmos que pueden detectar formas pero no comprenden el contexto, lo que lleva a que se elimine por error contenido inofensivo. Dado que las transmisiones en vivo se interrumpen inmediatamente y las apelaciones solo pueden realizarse después del hecho, los streamers enfrentan ingresos interrumpidos y espectadores confundidos. El episodio destacó fallas más amplias en las auditorías de aprendizaje automático, lo que generó preguntas sobre la confianza, la supervisión y el futuro de la vigilancia de la IA en las plataformas digitales.
