YouTube busca mejorar sus contramedidas para controlar los deepfakes generados por inteligencia artificial, a través de nuevos procesos de detección que podrán alertar a los creadores y/o sus editores cuando su rostro o voz se use en otro clip.
Los deepfakes se han convertido en una preocupación importante en la era evolutiva de la IA generativa, y varios artistas y políticos ya han sido representados por replicantes generados por computadora.
Y ahora, YouTube está avanzando en su detección en ambos frentes, con el fin de evitar tergiversaciones y desinformación en la aplicación
En primer lugar, YouTube ha desarrollado una nueva “tecnología de identificación de canto sintético” que permitirá a los creadores y editores detectar y gestionar automáticamente el contenido generado por IA en YouTube “que simula sus voces cantadas”.
La tecnología utilizará la correspondencia de audio para resaltar posibles falsificaciones y copias, lo que permitirá a los artistas y editores gestionar mejor cualquier representación falsa de su trabajo.
Algo que la industria musical seguramente agradecerá. La mayoría de las editoriales musicales tienen ahora departamentos dedicados a tiempo completo a rastrear la web para vigilar las violaciones de derechos de autor, en diversas formas, y este nuevo avance les dará otra arma en esta lucha.
YouTube también está desarrollando una nueva herramienta que podrá detectar y gestionar contenido generado por IA que muestre caras de personas reales.
Esto dará a los agentes de talentos y celebridades herramientas de detección similares a las de los editores musicales, lo que les permitirá tomar medidas enérgicas contra el uso ilegal de sus clientes, mientras que los partidos políticos también prestarán atención a esta nueva opción.
Las dos nuevas capacidades ampliarán las herramientas de protección de derechos de autor existentes de YouTube, que ya se utilizan ampliamente.
Según YouTube:
“Desde 2007, Content ID ha proporcionado un control granular a los titulares de derechos en todos sus catálogos en YouTube, con miles de millones de reclamaciones procesadas cada año, al mismo tiempo que genera miles de millones” .
Como saben los creadores de YouTube, las infracciones de copyright se han vuelto cada vez más restrictivas con el tiempo, pero eso da a los titulares de derechos más capacidad para gestionar la imagen de sus clientes, lo que también congracia mejor a YouTube con la industria editorial.
Además de esto, YouTube también busca dar a los creadores más control sobre cómo su contenido puede ser utilizado por terceros, incluidos los desarrolladores de IA, con permisos avanzados de uso. YouTube dice que actualmente está trabajando en este nuevo proceso y compartirá más información más adelante este año.
Se trata de actualizaciones positivas que probablemente se convertirán en la norma de la industria, ya que todas las plataformas adoptarán nuevos procesos para detectar representaciones de personas reales realizadas por IA en sus aplicaciones. Esto facilitará un mayor control y ayudará a erradicar el uso indebido, y lo ideal es que estas herramientas puedan detener su propagación antes de que engañe a los usuarios.
