Deepfakes y menores, el peligro de acceder a contenido para adultos creado con imágenes falsas

La manipulación de vídeos, imágenes o incluso audios, a través de la inteligencia artificial están a la orden del día. Cualquiera puede ser una víctima y los más jóvenes son quienes están más expuestos, ya que se encuentran en edades de formación y madurez.

No cabe duda de que la irrupción de la inteligencia artificial ha cambiado la forma en la que se usa la tecnología. Estos avances pueden suponer una ventaja, por ejemplo, en la simplificación de tareas, o una amenaza, como es en la falsificación de información.

Entre algunas de las preocupaciones sobre su uso están los deepfakes. Este concepto se refiere a contenido, como vídeos, imágenes o incluso audios, manipulado a través de la inteligencia artificial. La exposición a estas falsificaciones puede cambiar la percepción digital de los usuarios haciendo pasar información falsa por real. Es importante formar a las personas para protegerlas, sobre todo a los menores, quienes ya hacen uso de la IA. De hecho, casi un 20% accedió a OpenAI en 2023, según el último informe de Qustodio: ‘Nacer en la era digital: La generación de la IA’.

Peligros como los deepfakes están a la orden del día. Celebridades como Taylor Swift han sido víctimas de ello a raíz de la creación de imágenes pornográficas falsas. Cualquiera puede ser una víctima y son los menores los que están más expuestos, ya que se encuentran en edades de formación y madurez.

El problema del deepfake está, sobre todo, en el contenido, el atentar contra la dignidad de las personas como, por ejemplo, con montajes sexuales. Los expertos recomiendan a las familias hablar con hijos de manera abierta y explicarles los peligros que el uso de la IA puede acarrear. Para poder hacerle frente tanto adultos como jóvenes debemos hacer un uso responsable y no compartir aquella información que creamos falsa.

Aunque es complicado detectarlo, es importante tratar de conocer cuándo se está ante una información manipulada. De hecho, según una encuesta realizada por el Centro para la Gobernanza del Cambio de IE University, solo un 27% de los europeos cree que podría detectar qué contenidos se han generado a través de la inteligencia artificial.

Los más jóvenes tienen que saber que, normalmente, si se encuentran ante una noticia muy impactante o poco común, deben plantearse que quizá estén ante un deepfake. Es importante contrastar la información antes de darla como verdadera, sobre todo ante noticias inusuales. Por ello, los expertos de Qustodio ofrecen cinco detalles para poder identificarlos: desproporción, lenguaje no verbal, nitidez en la voz, número de parpadeos y duración del vídeo.