Youtube amplía su lucha contra los deepfakes a políticos y periodistas
YouTube profundiza su batalla contra la desinformación. La plataforma ha extendido su herramienta de detección de imágenes generadas con inteligencia artificial a figuras públicas como políticos y periodistas, ofreciendo una nueva capa de protección contra la suplantación digital.
La herramienta, similar a content id, busca rostros en vídeos
Originalmente lanzada en octubre de 2024, la función ya permitía a los creadores de contenido identificar el uso no autorizado de su imagen y voz mediante deepfakes. Ahora, se amplía a funcionarios gubernamentales, políticos y periodistas a través de una prueba piloto. El sistema funcionará de manera análoga a Content ID, el mecanismo de YouTube para proteger los derechos de autor, pero centrado en la identificación de rostros en vídeos.
Si se detecta una coincidencia, la persona afectada puede solicitar la eliminación del contenido, aunque YouTube, basándose en sus políticas de privacidad y considerando la libertad de expresión, tiene la última palabra. La plataforma, consciente de la sensibilidad en torno a la parodia y la sátira, no eliminará necesariamente contenidos que critiquen a líderes mundiales, incluso si utilizan deepfakes.
Para acceder al programa, los participantes deberán verificar su identidad mediante la presentación de un vídeo y una identificación oficial. Esta verificación, según YouTube, se utilizará únicamente con fines de identificación y no para entrenar modelos de inteligencia artificial.
La iniciativa responde a una creciente preocupación por la proliferación de imágenes falsas generadas con inteligencia artificial, con el potencial de dañar la reputación y socavar la confianza pública. La velocidad con la que se desarrollan estas tecnologías exige una respuesta proactiva por parte de las plataformas digitales.
La cifra habla por sí sola: se estima que el número de deepfakes ha aumentado un 300% en el último año, según un informe reciente de la Universidad de Murcia, lo que subraya la urgencia de estas medidas. La capacidad de replicar rostros y voces con una fidelidad cada vez mayor representa un desafío significativo para la integridad de la información.
La iniciativa de YouTube, aunque no infalible, representa un paso importante en la defensa contra la manipulación digital. Pero hay un detalle: la efectividad de estas herramientas dependerá en gran medida de la capacidad de identificar y eliminar rápidamente contenido malicioso, ante una tecnología que evoluciona a un ritmo vertiginoso.
La vigilancia constante se convierte en la nueva norma.