YouTube presenta nuevas medidas de protección de imágenes de IA y deepfakes

La nueva política se abordó en una actualización más amplia de las pautas de privacidad, que establece que las personas ahora pueden solicitar la eliminación de contenido generado por IA que imite su apariencia o voz.

“Para calificar para la eliminación, el contenido debe representar una versión realista alterada o sintética de tu imagen.”, decían las nuevas directrices. Dicha solicitud de eliminación no se concederá automáticamente. Una vez que se ha enviado una solicitud, quien subió el contenido supuestamente infractor tiene 48 horas para eliminarlo de la plataforma. Si quien subió el contenido no toma medidas en el plazo indicado, YouTube iniciará una revisión.

La plataforma para compartir videos en línea considerará una serie de factores al determinar si se elimina el contenido sospechoso, que incluyen:

• Si el contenido es alterado o sintético;

• Si el contenido se revela a los espectadores como alterado o sintético;

• Si la persona puede identificarse de forma única;

• Si el contenido es realista;

• Si el contenido contiene parodia, sátira u otro valor de interés público; y

• Si el contenido presenta a una figura pública o un individuo conocido que participa en un comportamiento delicado, como actividad delictiva, violencia o respalda un producto o candidato político.

YouTube también ha señalado que para que se considere una solicitud de eliminación, el reclamo debe provenir del "propietario", lo que significa que solo la persona cuya privacidad está siendo violada puede presentar una solicitud. La plataforma ha destacado en particular que “no aceptará quejas sobre privacidad presentadas en nombre de” empleados o empresas. Las únicas excepciones a la regla de los “propietarios” son:

• Cuando el reclamo lo haga un padre o tutor;

• Cuando la persona de que se trate no tenga acceso a una computadora;

• Cuando el reclamo sea realizado por un representante legal de la persona de que se trate; y

• Cuando un familiar cercano realiza una solicitud en nombre de una persona fallecida.

Es importante tener en cuenta que la eliminación de contenido según esta política no cuenta como un "ataque" contra quien lo subió, lo que podría tener graves repercusiones para el individuo, incluida una posible prohibición de la plataforma, el retiro de ingresos por publicidad y otros sanciones. Esto se debe a que las nuevas regulaciones se rigen por las de YouTube pautas de privacidad y no su pautas comunitarias. Solo las violaciones de pautas comunitarias pueden dar lugar a reclamos.

La nueva política, que se introdujo sin muchos problemas, es parte del esfuerzo de YouTube para regular el contenido generado por IA, incluidos los deepfakes.

Tras el éxito viral de varias falsificaciones musicales el año pasado (incluida la infame canción "falsa de Drake con The Weeknd"), YouTube anunció que estaba desarrollando un sistema para que los socios solicitaran la eliminación de contenido que "Imita la voz única de canto o rap de un artista..”

Además, ahora exige que cualquier contenido generado por IA en la plataforma esté etiquetado como tal y también ha desarrollado nuevas herramientas que permiten a los usuarios agregar estas etiquetas a su contenido. “Los creadores que opten constantemente por no revelar esta información pueden estar sujetos a la eliminación de contenido, la suspensión del Programa de socios de YouTube u otras sanciones.”, dijo YouTube.

Sin embargo, incluso con las etiquetas, el contenido generado por IA aún se puede eliminar de YouTube si viola las pautas de la comunidad. “Por ejemplo, un vídeo creado sintéticamente que muestra violencia realista aún puede eliminarse si su objetivo es sorprender o disgustar a los espectadores.”, se lee en el comunicado de la plataforma.

YouTube es una de las muchas empresas de tecnología que trabajan para abordar las controversias que rodean el contenido generado por IA y los deepfakes. TikTok y Meta también están implementando nuevas medidas para proteger a los espectadores y creadores únicos del daño de dichas tecnologías.

Mientras tanto, el problema también se está abordando a nivel legislativo. El Congreso de los Estados Unidos está considerando varios proyectos de ley, incluida la Ley "No al fraude con IA" y la Ley "NO FAKES".

Si se aprueban, estos proyectos de ley otorgarían a las personas derechos de propiedad intelectual sobre su imagen y voz, lo que les permitiría emprender acciones legales contra los creadores de deepfakes no autorizados. Además, las leyes propuestas protegerían a los artistas del robo de su trabajo y a las personas de ser explotadas por deepfakes sexualmente explícitos.