‘Deepfakes’, una herramienta de ciberacoso sexual
Esta práctica se conoce como ‘falsos profundos’ y se refiere a la vídeos, fotos o incluso textos de personas que son FALSO. Andrés VisúsDirector de Desarrollo de Negocios de Inteligencia Artificial en PredecirTierraasegura que “la la tecnología en sí es buenapero desafortunadamente Hay gente que está haciendo uso ilícito de ello.“.
En Almendralejo el la oficina del fiscal Ya está investigando a quienes crearon las fotos falsas. La presunta autores fabricó estas imágenes utilizando Inteligencia Artificial y se propaganalgo que ya tienen sufrió también artistas y celebridades como Laura Escanes o Rosalía, entre otras.
A pesar de las muchas limitaciones que varias empresas intentan imponer, estas ‘armas’ tecnológicas promueven aún más la propagación del ciberacoso basado en el creación artificial de contenido pornográfico donde suelen estar los protagonistas mujer.
“Cuando hablamos de fotografías falsas, lo que se utiliza aquí es una serie de software que pueden o no utilizar técnicas de Inteligencia Artificial”, afirma Andrés Visús.
¿Cómo se crea un ‘deepfake’?
La pregunta que debe responderse ahora es: ¿Cómo se crearon y se crearon estas imágenes? ¿Por qué parecen reales??
Para crear un ‘deepfake’ es necesario que el autor tenga muchas imagenes de esa persona. Así, “los algoritmos de IA aprenden de las características del rostro de esa persona y también de los patrones de gestos, la relación entre los movimientos de la boca, los movimientos oculares, etc.”
“Una vez que has aprendido de estas imágenes, lo que utilizas es una actorentonces Las características de este actor se superponen al rostro de este actor. y esos patrones cómo la persona que vamos a hacer los gestos ‘deepfake'”, continúa.
“Es mucho más fácil hacer deepfake a un famoso que a un anónimo”
“Cuantas más imágenes tengas, mejor aprenderás los algoritmos de Inteligencia Artificial. Por eso Nos resulta mucho más fácil hacer un deepfake a un famosoque de una persona anónima”, explica.
Muchas madres han asegurado que las imágenes parecen reales. Además, han denunciado que circulan en plataformas de contenidos sexuales como ‘OnlyFans’.
“Tanto en fotografías como en vídeos lo que se necesita son imágenes de esta persona que suele son tomados de redes sociales“dice el experto.
Por tanto, detrás de este escándalo se esconde otro fenómeno que puede resultar peligroso: mal uso de las redes sociales. “Sobre todo, a la hora de ver contenidos, consumirlos, debemos cuestionarnos lo que estamos viendo”, afirma Visús. Este experto en IA está convencido de que cada vez se promocionan más los ‘deepfakes’ en Internet “como cuando vemos una escena de un anuncio o de una película en la que ya se están utilizando técnicas de IA para crearlos”.
Conciencia social para abordar el problema
Andrés Visús, en línea con las palabras de Miriam Al Adib, dice que detrás de todo esto “hay un cierto componente de conciencia“. También cree que “la reguladores “Aquí juegan un papel importante”.
El experto no cree que la expansión tecnológica sea negativa, porque “la tecnología es buena y está aportando grandes cosas a la sociedad y a las empresas”. Lo que sí cree que se debe hacer es “poner el foco en aquellos que hacen mal uso de él porque lo que había que hacer es regular que todos los contenidos, ya sean imágenes, vídeos o textos que estén siendo realizados con IA, informen al consumidor para que aplique su propio sentido crítico y decida qué veracidad y importancia da a su contenido”.
Cada vez más expertos y empresas en IA defienden la existencia de regulación nivel legislativo en torno a esta tecnología. Hace unos meses, los creadores de tres de las empresas tecnológicas más influyentes del mundo advirtieron que este problema es tan grave como una “guerra nuclear” o una “pandemia”.
La UE intenta regular el uso de la IA
A nivel europeo También se están haciendo esfuerzos para combatir los deepfakes de IA. El pasado 11 de mayo la UE aprobó el proyecto de ley que regula la gestión de herramientas tecnológicas. Entre las medidas más destacadas se encuentran la Obligación de poner etiquetas en aquellas fotografías o vídeos que hayan sido producidos mediante IA.. De esta manera se intenta luchar contra falta de veracidad y el desinformación Qué hay detrás de este tipo de imágenes.
Penas de hasta 9 años de prisión para los creadores de ‘deepfakes’
Miriam Al Adib intuye quién autores de imágenes explícitas de los menores en Almendralejo. “Este es un pueblo y sabemos más o menos quiénes son”. “Lo que pasa es que estos grupos son dos líderes y una gran masa de silenciosos…”, dice.
Según fuentes policiales, ya han sido identificados 11 menores, de los cuales tres condujeron supuestamente el solicitud de Inteligencia Artificial donde crearon las imágenes. El resto fueron incluidos en el chat en el que se difundieron las fotografías.
El La Policía Nacional continúa investigando el caso, en el que existan pruebas de al menos 21 víctimas. Por su parte, el La oficina del fiscal Intervendrá cuando tenga el atestado policial, aunque las unidades de delitos informáticos y de menores ya están recabando más datos para actuar cuando sea necesario.
Por lo tanto, son desconocidos exactamente cuales son los crímenes para aquellos que puedan ser castigado los menores. El Ministerio Público evalúa por ahora cuatro tipos de sanciones. Los primeros son los producción o distribución de material pornográficosancionado con base en el artículo 189.1b del Código Penal y posesión de pornografía infantil (189,5).
También pueden haber sido cometidos delitos contra la integridad moral de menores o uno contra el privacidadregulado en los artículos 173 y 197 del Código Penal.
Sin embargo, todo puede cambiar si se tiene en cuenta la edad de los autores. Varios menores tienen 13 años o menos.así serían intachable. Sin embargo, aquellos que Ya son mayores de 14 años y podrían recibir algún tipo de responsabilidad penal..
Los creadores de este tipo de contenidos pueden enfrentar sanciones de entre uno y cinco años de prisión, con base en los delitos de pornografía infantil tipificados en el artículo 189.1 del Código Penal. Teniendo en cuenta también que las víctimas han sido menores de edad, el dolor podría elevarse a 9 años de prisión.