Face a la creciente influencia de la inteligencia artificial (IA) en la creación de contenido, YouTube desea actuar identificando y sancionando los videos generados por la IA. La plataforma de intercambio de videos busca así proteger su comunidad al ofrecer una experiencia segura y confiable tanto para los creadores como para sus audiencias.
El problema de la identificación de los contenidos creados por la IA es particularmente importante cuando estos abordan temas sensibles como las elecciones, los conflictos en curso, las crisis de salud pública o las personalidades públicas. YouTube ya prevé sanciones como la eliminación de contenido o la suspensión de la monetización para los creadores que no se tomen el tiempo de identificar sus videos basados en IA.
Lucha contra la música creada por IA
YouTube también enfatiza la música creada por la inteligencia artificial, incluyendo las falsificaciones de artistas famosos como Drake o Angèle. Para combatir este problema, la plataforma permitirá a los socios de la industria musical solicitar la eliminación de contenido de audio generado por la IA que imite la voz única de un artista cuando cante o rapee.
Nuevas medidas para proteger la privacidad y luchar contra las falsas informaciones
Los usuarios de YouTube pronto podrán presentar una queja por violación de la privacidad para eliminar los contenidos manipulados, creados sintéticamente o generados por la IA que simulan a una persona identificable. La inteligencia artificial también será utilizada para detectar mejor los contenidos falsos relacionados con personalidades públicas.
Sin embargo, algunos videos podrían ser preservados si se consideran sátiras o parodias. De hecho, YouTube busca encontrar un equilibrio entre las oportunidades que ofrece la IA y su responsabilidad en la protección de su comunidad.
Los creadores deberán informar sobre el uso de herramientas sintéticas que modifican su contenido
En los próximos meses, los creadores de contenido deberán indicar si han modificado sus videos utilizando una herramienta sintética. Las omisiones podrían resultar costosas para los creadores: de hecho, los contenidos creados sintéticamente que infrinjan las normas de la comunidad serán eliminados, ya estén etiquetados o no.
Refuerzo de las reglas vigentes
Aunque la plataforma ya cuenta con numerosas reglas que prohíben los contenidos modificados por medios técnicos, YouTube desea ir más allá. Así, los anunciantes deberán divulgar si una publicidad relacionada con las elecciones, con cuestiones políticas o sociales contiene una imagen o video fotorealista, o un sonido realista que haya sido creado o modificado digitalmente para representar a una persona real diciendo o haciendo algo que no ha dicho o hecho.
Garantizar la transparencia y la ética en el uso de la IA en YouTube
La inteligencia artificial sirve tanto como una ventaja tecnológica como un peligro para los creadores en YouTube. Los videos generados por la IA pueden engañar fácilmente a los espectadores, especialmente si estos no están informados sobre las modificaciones realizadas o sobre la creación de contenido desde cero. Para garantizar la transparencia y la ética en el uso de la IA, YouTube anima a los creadores a ser honestos sobre su uso de estas tecnologías mientras prevé sanciones adecuadas en caso de incumplimiento de sus obligaciones.
En resumen, las nuevas medidas anunciadas por YouTube reflejan su voluntad de proteger su comunidad y promover un uso responsable y transparente de la inteligencia artificial en su plataforma.
