TikTok lanza una herramienta para ayudar a figuras públicas a detectar "deepfakes"

La herramienta permite a políticos y usuarios populares de TikTok detectar y denunciar imágenes creadas con IA que usan su imagen sin consentimiento.
TikTok lanza una herramienta para detectar imágenes sexuales falsas creadas con IA
Foto: AFP.

TikTok este viernes anunció el lanzamiento mundial de su herramienta de detección de "deepfakes" para figuras públicas, en un esfuerzo por frenar la desinformación generada con inteligencia artificial antes de la ola de elecciones europeas del próximo año.

Los "deepfakes" o contenidos ultrafalsos son generalmente videos o sonidos que parecen reales, pero que han sido generados o manipulados por la IA.

Esta nueva "herramienta de detección de imágenes similares" permite a los políticos ya las cuentas con un gran número de seguidores en TikTok identificar y denunciar piezas creadas con IA que utilizan su imagen sin consentimiento.

La funcionalidad se está implementando de manera gradual.

Para TikTok, propiedad de la empresa china ByteDance, la herramienta es un elemento clave para protegerse contra la desinformación durante las elecciones que se llevarán a cabo en toda Europa el próximo año, incluyendo Italia, Francia y Grecia.

"Proteger la integridad de las elecciones es una de las responsabilidades más importantes que tenemos en TikTok", afirmó Francesca Scapolo, responsable de relaciones gubernamentales de la empresa para las elecciones europeas, durante el evento sobre seguridad e innovación de TikTok celebrado el jueves en Londres.

Puedes leer: Paris Hilton pide al Congreso de EE. UU. una ley para combatir las imágenes sexuales falsas creadas con IA

Agrega que la herramienta de detección de imágenes similares ayudará a "los políticos y al gobierno a identificar contenido potencialmente generado por IA que haya sido compartido sin su consentimiento".

La Unión Europea comenzó a implementar en agosto normas de transparencia de amplio alcance sobre la inteligencia artificial, incluyendo el requisito de que los "deepfakes" y otros contenidos generados por IA sean etiquetados.

TikTok ha exigido a los creadores de contenido que etiquetan las imágenes, el audio y los videos realistas generados por IA desde hace varios años.

El año pasado, la empresa señaló que las mejoras tecnológicas le permitirían reducir los puestos de trabajo y las oficinas de moderación en todo el mundo.

Puedes leer: Mark Zuckerberg admite que Instagram tardó en detectar menores de 13 años en juicio sobre adicción a redes sociales

La IA ha cobrado importancia en la moderación de las redes sociales, ya que los operadores buscan ahorrar dinero en revisión humanas de contenido como pornografía, desinformación y discursos de odio.

YouTube también ha desarrollado su propia herramienta de detección de imágenes para permitir que los creadores identifiquen videos generados por IA que muestren a personas que se hacen pasar por ellos.

AFP.


📢 Entérate de lo que pasa en Colombia, sus regiones y el mundo a través de RTVC Ahora 📺 Míranos en vivo en la pantalla de Señal Colombia y escúchanos en las 74 frecuencias de Radio Nacional de Colombia 📻.