Youtube contra la ia: la guerra de los deepfakes y la 'basura digital'
La plataforma de Google se enfrenta a una tormenta perfecta: la proliferación de deepfakes impulsados por la inteligencia artificial y una creciente preocupación por la legalidad de todo lo que se sube a su red.
Un nuevo frente en la batalla por la autenticidad
El propio CEO de YouTube ha advertido sobre el peligro de los ‘contenidos basura’ generados por IA, especialmente los deepfakes de personalidades públicas. Ya no es una mera curiosidad; la plataforma está inundada de imitaciones que, según fuentes internas, son cada vez más difíciles de detectar. Y la cosa se complica: la herramienta con la que YouTube intenta combatirlos es, paradójicamente, otra IA.
La estrategia, bautizada como Kimi K2.6, se basa en analizar la ‘huella digital’ de las celebridades –registradas en el sistema de detección de semejanza, o “likeness detection”–. Un perfil digital que, lamentablemente, está cada vez más expuesto en internet. El sistema compara automáticamente los vídeos subidos con estos perfiles, marcando aquellos con similitudes sospechosas para su revisión.
El content id en versión ‘superinteligente’
Esta nueva herramienta representa una evolución del Content ID, el sistema que hasta ahora se centraba en la detección de infracciones de derechos de autor. Pero ahora, el enfoque se ha desplazado hacia la identificación de rostros, voces y rasgos que han sido replicados artificialmente. Y la eficacia del sistema reside en su capacidad para analizar patrones complejos, ejecutando hasta 300 agentes en paralelo y programando durante horas sin intervención humana.
Pero la batalla es más amplia que solo los deepfakes. La proliferación de vídeos de baja calidad, generados por IA, también representa un desafío. Existe un torrente incesante de contenido irrelevante que ahoga la información útil y dificulta la tarea de los usuarios.
La legalidad en juego: la identidad digital bajo asedio
La situación es delicada desde el punto de vista legal. El simple hecho de que cualquiera pueda crear un vídeo falso de un famoso y subirlo a YouTube plantea serias interrogantes sobre la protección de la imagen y la identidad digital de las figuras públicas. Y es que, como ha reconocido un experto, se trata de un problema con implicaciones que van más allá del entretenimiento.
La respuesta de YouTube, aunque innovadora, no es una panacea. La estrategia de “unirse al enemigo” –utilizando la propia IA para combatir la IA– es una jugada arriesgada, pero quizás la única forma de retener el control sobre su plataforma. El sistema de detección, aunque sofisticado, no garantiza la erradicación de los deepfakes. Y el problema de la ‘basura de la IA’ persiste, amenazando con convertir YouTube en un vertedero digital.
La cifra que habla por sí sola: Se estima que el 70% de los vídeos de YouTube son de baja calidad y a menudo irrelevantes. La tarea de filtrar esta avalancha de contenido, y de proteger a las celebridades de las imitaciones falsas, se presenta como un desafío monumental.