La IA generativa tiene potencial para multiplicar la creatividad en YouTube y para transformar la experiencia de los espectadores y los creadores en nuestra plataforma. Y es igual de importante que ese potencial tenga un equilibrio con nuestra responsabilidad de proteger a la comunidad de YouTube. Todos los contenidos que se suben a YouTube deben cumplir nuestras Normas de la comunidad, con independencia de cómo se generen, pero todos sabemos que la IA introducirá nuevos riesgos que requerirán nuevos enfoques.
Estamos en las primeras fases de nuestro trabajo y ese enfoque irá evolucionando a medida que sepamos más. Hoy compartimos una introducción a lo que YouTube lanzará en los próximos meses y el próximo año.
Requisitos de declarar el uso de IA y aplicación de nuevas etiquetas a los contenidos
A todos nos interesa que exista un ecosistema sano para la información en YouTube. Desde hace mucho, contamos con
políticas que prohíben los contenidos manipulados por medios técnicos que resulten engañosos y que sean susceptibles de causar daños graves. Ahora bien, la IA abre la puerta a nuevas —y potentes— narrativas que, desde luego, pueden usarse para generar contenidos engañosos para el público. En especial si el público no sabe que un determinado vídeo ha sido manipulado o creado de manera sintética.
Para atajar este problema, en los próximos meses introduciremos una serie de novedades para informar a los espectadores de que un contenido es sintético. Concretamente, cuando los creadores presenten contenidos realistas manipulados o sintéticos (lo que incluye el uso de herramientas de IA), les exigiremos que lo declaren. Cuando un creador suba contenido, dispondrá de nuevas opciones para indicar que el vídeo contiene material realista manipulado o sintético. Por ejemplo, un vídeo generado mediante IA que explique de forma realista un suceso que en realidad no ha ocurrido o que muestre a una persona real diciendo o haciendo algo que en realidad no hizo.
Evidentemente, si un contenido habla de temas sensibles, como elecciones, conflictos, crisis sanitarias o miembros del gobierno, es muy importante saber si está manipulado o se ha generado de forma sintética. Los contenidos de los creadores que elijan no relevar esta información se eliminarán, además se suspenderá a estos creadores del programa de socios de YouTube y podrán ser sancionados. Antes de poner en marcha estos nuevos requisitos, trabajaremos con los creadores para asegurarnos de que los entienden.
En caso de contenidos potencialmente manipulados o sintéticos, informaremos a los espectadores de dos maneras. Por un lado, agregaremos una nueva etiqueta al panel de descripción indicando que parte del contenido ha sido alterado o generado digitalmente; y, por otro, en el caso de contenidos sobre determinados temas sensibles, aplicaremos una etiqueta más destacada en el reproductor de vídeo.
Como en algunos casos poner una etiqueta no será suficiente para mitigar el riesgo de daño, eliminaremos de nuestra plataforma los contenidos sintéticos que incumplan nuestras Normas de la comunidad, incluso aunque estén etiquetados. Por ejemplo, si un vídeo creado de forma sintética muestra violencia realista con el objetivo de conmocionar o provocar indignación entre los espectadores, podrá ser eliminado.
Además, a medida que implementemos estas estas normas, etiquetaremos claramente como generados mediante IA todos los contenidos que se creen utilizando los productos y funciones de IA generativa de YouTube.
Nuevas opciones para creadores, espectadores y artistas
De manera continúa recibimos comentarios de creadores, espectadores y artistas de nuestra comunidad sobre las repercusiones de estas tecnologías emergentes; como, por ejemplo, los casos en que se genera digitalmente el rostro o la voz de alguien sin su permiso o para poner en su boca opiniones que no son suyas.
En los próximos meses se podrá utilizar nuestro proceso de
reclamación de privacidad para solicitar la eliminación de contenidos generados por IA y de otros contenidos sintéticos o manipulados que simulen a una persona identificable, incluidos su rostro y su voz. A la hora de evaluar estas solicitudes tendremos en cuenta diversos factores y no todos los contenidos se eliminarán de YouTube. Por ejemplo, se tendrá en cuenta si el contenido es una parodia o una sátira, si la persona que presenta la solicitud se puede identificar de forma inequívoca o si el contenido presenta a un político o alto funcionario, o a una persona famosa, en cuyo caso puede admitirse una mayor permisividad.
También vamos a dar a los músicos la posibilidad de solicitar que se retiren contenidos musicales generados por IA que recreen la voz o la forma de cantar peculiar de un artista. A la hora de decidir si se atienden o no esas solicitudes de retirada, de nuevo tendremos en cuenta distintos factores, como que el contenido haya recibido cobertura mediática, análisis o críticas por el uso de voces sintéticas. Estos controles estarán a disposición de los sellos discográficos y las distribuidoras que representan a los artistas que participan en los primeros experimentos musicales con IA de YouTube. En los próximos meses, ampliaremos el acceso a otros sellos y distribuidoras.
Uso de tecnologías de IA para moderar mejor los contenidos
Desde siempre, en YouTube utilizamos una combinación de personas y tecnologías de aprendizaje automático para hacer cumplir nuestras Normas de la comunidad. De hecho, Google cuenta con más de 20.000 revisores en todo el mundo. Nuestras herramientas de clasificación asistidas por IA ayudan a detectar a gran escala contenidos que, potencialmente, incumplen las normas y, después, nuestros revisores se encargan de confirmar si un contenido va más allá de lo admisible. La IA nos ha servido para mejorar tanto la velocidad como la precisión de nuestros sistemas de moderación de contenidos.
La identificación de nuevas formas de mal uso es un área muy llamativa. Cuando aparece una nueva amenaza, nuestros sistemas tienen poco contexto para comprenderla e identificarla a gran escala. La IA generativa nos ayuda a ampliar rápidamente la información con la que se entrenan nuestros clasificadores de IA y como resultado, podemos identificar y capturar esos contenidos mucho antes.
Además, esta mayor rapidez y precisión de nuestros sistemas nos permite reducir la cantidad de contenidos dañinos a los que se ven expuestos nuestros revisores humanos, lo que también es un aspecto importante.
Herramientas y funciones de IA creadas desde la responsabilidad
Continuamos trabajando en el desarrollo de nuevas herramientas de IA para los creadores de YouTube, siempre con un planteamiento coherente y en línea con el objetivo de responsabilidad con la que hemos abordado nuestros grandes retos. Creemos que hay que tomarse el tiempo necesario para hacer las cosas bien, en lugar de correr para ser los primeros.
También pensamos detenidamente en cuál es la mejor manera de dar continuidad a años de inversión en equipos humanos y tecnologías, para seguir moderando contenidos a la escala que maneja YouTube. Entre otras cosas, estamos haciendo un trabajo importante para desarrollar barreras que impidan que nuestras herramientas de IA se usen para generar la clase de contenidos que no queremos en YouTube.
Por supuesto, somos conscientes de que, inevitablemente, hay gente que intentará saltarse esas barreras.
Por eso, sometemos nuestras protecciones a un proceso de mejora continua, en el que tenemos en cuenta los comentarios de los usuarios y todo lo que vamos aprendiendo. También contamos con equipos especializados, como nuestro Intelligence Desk, que se dedican a realizar pruebas de adversarios y a detectar nuevas amenazas, para que nuestros sistemas puedan responder a cualquier desafío incipiente de forma temprana.
La transformación de la IA ya está aquí
Nos encontramos al principio de un viaje que abrirá puertas a nuevas formas de innovación y creatividad en YouTube con ayuda de la IA generativa. El potencial de esta tecnología nos apasiona y somos conscientes de que lo que está por llegar influirá durante años en el sector creativo. En este punto de inflexión, nos estamos tomando el tiempo necesario para encontrar un equilibrio entre estos beneficios y la seguridad a largo plazo de nuestra comunidad. Estamos decididos a trabajar estrechamente con los creadores, los artistas y con otros agentes de las industrias creativas para construir un futuro que nos beneficie a todos.
Publicado por Jennifer Flannery O’Connor, VP Product Management; Emily Moxley, VP Product Management
