TikTok prohíbe crear perfiles con fotos de IA

TikTok prohibirá las deepfakes en las que aparezcan figuras públicas y estableció que si un usuario sube un contenido de esta clase deberá especificarlo.

TikTok ha estado últimamente en el punto de mira de los reguladores globales, lo que ha llevado a la plataforma a reforzar ciertas reglas, especialmente aquellas relacionadas con la divulgación de contenido producido por inteligencia artificial.

TikTok prohíbe contenido creado con IA

Estas medidas se enfocan principalmente en los deepfakes, que consisten en videos, imágenes o audios manipulados o creados mediante esta tecnología con la intención de parecer auténticos.

La plataforma de videos cortos declaró que no permitirá la publicación de videos que contengan medios sintéticos o falsificaciones de la realidad, que incluyan la imagen de figuras privadas o reales. Asimismo, TikTok señaló que las pautas actualizadas, entrarán en vigencia el próximo 21 de abril.

Al respecto, la empresa define como figuras públicas a aquellos individuos mayores de 18 años que tienen "un papel público significativo", como funcionarios del gobierno, políticos, líderes empresariales o celebridades.

Contenido sintético no está eliminado del todo en TikTok

Aunque TikTok prohibió este tipo de contenido en lo que respecta a figuras públicas, no lo ha eliminado por completo de su plataforma. Sin embargo, la empresa ha establecido que los medios manipulados o sintéticos que muestren escenas realistas deben ser claramente identificados.

Para lograr esto, se pueden utilizar etiquetas o leyendas como "sintético", "falso", "no real" o "alterado".

“No permitimos medios sintéticos que contengan la imagen de una figura privada real”, se lee en las nuevas pautas. “Si bien brindamos más libertad a las figuras públicas, no queremos que sean objeto de abuso o que las personas sean engañadas por cuestiones políticas o financieras. No permitimos medios sintéticos de figuras públicas si el contenido se usa para patrocinios o viola cualquier otra política. Esto incluye la prohibición del discurso de odio, la explotación sexual y formas graves de acoso”.

¿Qué son los medios sintéticos?

Según TikTok, los medios sintéticos se definen como contenido generado o modificado por tecnología de inteligencia artificial que incluye material "altamente realista" creado digitalmente a partir de personas reales. Por ejemplo, un video de una persona real hablando palabras que han sido modificadas o cambiadas podría ser considerado un medio sintético.

De acuerdo con su política, TikTok no permitirá la publicación de medios sintéticos que muestren escenas realistas a menos que se divulguen o etiqueten de manera destacada en el video.

Además, la aplicación prohibirá la publicación de material que haya sido editado o combinado de manera que pueda confundir a las personas respecto a eventos del mundo real.

Se permitirá el uso de medios sintéticos que muestren a una figura pública en ciertos contextos, como en contenido educativo. Por ejemplo, la aplicación permitirá la publicación de videos que muestren a una celebridad bailando en TikTok o a una figura histórica en una lección de historia.

Nuevas pautas de TikTok

Las nuevas pautas para la inteligencia artificial de TikTok superan la política actual de la empresa sobre esta tecnología. En la política anterior, TikTok simplemente establecía que no se permitirían medios sintéticos o manipulados que engañaran a los usuarios al distorsionar la verdad de los eventos y que causaran daño significativo al sujeto del video, a otras personas o a la sociedad.

Las políticas actualizadas relacionadas con la inteligencia artificial surgen en un momento en que esta tecnología se ha vuelto tendencia debido a la popularidad de productos como DALL-E 2 y ChatGPT. Los investigadores y expertos en desinformación han advertido sobre los peligros potenciales de la IA, por lo que no es sorprendente que TikTok esté actualizando sus políticas para agregar pautas específicas en este ámbito.

“El mundo está cambiando”, dijo Julie de Bailliencourt, directora global de política de productos de TikTok, durante una sesión informativa con los periodistas. “Nuestra comunidad está cambiando. Vemos nuevas tendencias que van y vienen, y creemos que debemos actualizar periódicamente estas pautas para cumplir con las expectativas de las personas que utilizan nuestro servicio”.

Únete al canal de difusión de WhatsApp de El Tiempo MX y recibe las noticias más importantes de Monclova, Coahuila y México directamente en tu celular. ¡Haz clic y súmate ahora!

Noticias del tema