Los creadores de YouTube pronto deberán cumplir con las nuevas políticas de la plataforma en torno al contenido generado o modificado con IA.

Los requisitos, que se detallan en las siguientes secciones, tienen como objetivo equilibrar las oportunidades que presenta la IA con la seguridad del usuario.

Etiquetas y divulgaciones obligatorias

Un cambio importante requiere que los creadores informen a los espectadores cuando el contenido contenga alteraciones realistas generadas por IA o medios sintéticos que representen eventos o discursos que no ocurrieron.

Esto incluye deepfakes que muestran a alguien que parece hacer o decir algo que no hizo.

Las etiquetas que revelen contenido alterado o artificial serán obligatorias en el panel de descripción. YouTube proporcionó maquetas que demostraban cómo podrían verse estas descripciones.

Para temas delicados como elecciones, desastres, funcionarios públicos y conflictos, es posible que se requiera una etiqueta destacada adicional directamente en el reproductor de video.

YouTube dice que los creadores que incumplan sistemáticamente los requisitos de divulgación pueden enfrentar consecuencias que van desde la eliminación del video hasta la suspensión de cuentas o la expulsión del Programa de socios de YouTube. La compañía prometió trabajar estrechamente con los creadores antes del lanzamiento para garantizar una comprensión completa.

Nuevas opciones de solicitud de eliminación

YouTube permitirá a las personas solicitar la eliminación de contenido generado por IA que muestre el rostro o la voz de un individuo identificable sin consentimiento. Esto incluye deepfakes que imitan patrones vocales o apariencias únicos mediante generación de inteligencia artificial.

Los socios musicales pronto podrán solicitar la eliminación de música de IA que imite el canto o la voz de rapeo de un artista. Al evaluar las solicitudes de eliminación, YouTube declaró que consideraría factores como la parodia, el interés público y el interés periodístico del tema.

Moderación de contenido mejorada con IA

YouTube reveló que ya utiliza inteligencia artificial para aumentar la moderación de los revisores humanos, incluido el aprovechamiento del aprendizaje automático para identificar rápidamente los abusos emergentes a escala.

La IA generativa ayuda a ampliar los datos de entrenamiento, lo que permite a YouTube detectar nuevos tipos de amenazas más rápido y reducir la exposición de contenido dañino para los revisores.

Desarrollo responsable de nuevas herramientas de IA

YouTube enfatizó la responsabilidad sobre la velocidad en el desarrollo de nuevas herramientas de creación de inteligencia artificial. Se está trabajando en medidas de seguridad que impidan la generación de contenidos que infrinjan las políticas desde sus sistemas de inteligencia artificial.

La empresa se centra en aprender y mejorar las protecciones a través de comentarios de los usuarios y pruebas adversas para abordar los inevitables intentos de abuso.

Aplicación de nuevas políticas

Si bien no se revelaron detalles sobre la aplicación de la ley, YouTube tiene varias opciones para garantizar el cumplimiento de los nuevos requisitos.

Es probable que la empresa emplee una combinación de aplicación de la ley humana y automatizada.

Una forma en que YouTube podría hacer cumplir esta política es capacitando a sus sistemas de moderación de contenido existentes para marcar videos con características de medios creados por IA que carecen de divulgaciones adecuadas.

Las auditorías aleatorias de las cuentas de socios que cargan contenido de IA también podrían detectar infracciones.

La aplicación del crowdsourcing al permitir que los usuarios informen sobre material de IA no divulgado sería otra forma de defender la política.

Independientemente de cómo lo haga YouTube, la aplicación consistente será esencial para establecer expectativas y normas en torno a la divulgación.

Mirando hacia el futuro

YouTube expresó entusiasmo por el potencial creativo de la IA combinado con cautela ante los riesgos. La empresa tiene la intención de crear un futuro de IA mutuamente beneficioso con la comunidad de creadores.

La actualización completa de la política brinda a los creadores detalles adicionales sobre qué esperar. Mantenerse informado sobre la evolución de las reglas de YouTube es vital para mantener su cuenta al día.

Imagen de portada: puerta de iconos/Shutterstock