El Consejo Audiovisual de Andalucía (CAA) ha alertado de la creación y difusión de desnudos virtuales entre menores a través de la Inteligencia Fabricado (IA) tras un estudio en el que constata los riesgos y desafíos planteados por el uso de esta utensilio en el entorno audiovisual y digital y su repercusión, especialmente, en los menores.
El «desencadenante» del estudio fue la señal social a raíz de la denuncia, en octubre de 2023, de la difusión de imágenes de desnudos virtuales creados mediante IA de adolescentes por parte de compañeros incluso menores de etapa en Almendralejo, Badajoz. Las denuncias por esta actos se han sucedido por todo el país, incluso en Andalucía.
Este entraña ha expresado en particular su «preocupación» por el impresión que la IA puede tener en la desinformación y en la difusión de bulos cuyos contenidos de «extraordinario realismo» hagan «muy difícil» para la ciudadanía «discernir lo que es real de lo que no, por lo que aboga por el explicación de medidas efectivas, legales y técnicas, de detección de estos contenidos, y se hace un convocatoria tanto a los medios audiovisuales como a la propia ciudadanía andaluza para que estén alertas y no den credibilidad ni difusión a estos contenidos falsos».
El CAA acordó asaltar esta cuestión mediante reuniones con expertos y fomentando el estudio de la materia entre los técnicos del entraña. El documentación, realizado por el ámbito de contenidos, fogata la atención sobre las aplicaciones que permiten la realización de desnudos virtuales, cuyas «preocupantes conclusiones motivaron un nuevo acuerdo del CAA sobre los riesgos de los sistemas de IA en el ámbito audiovisual y digital», especialmente la coexistentes de imágenes virtuales de cuerpos desnudos.
El Consejo «constata y alerta» sobre los riesgos que comporta en el ámbito audiovisual y digital el «rápido explicación» de la IA y la transformación que supone en orden a la protección de los menores de etapa en el entorno digital, la igualdad de categoría y la protección de los derechos fundamentales de los ciudadanos, especialmente, el derecho al honor y a la intimidad.
El rápido explicación de la IA, la transformación digital que supone y los potenciales riesgos que conlleva han puesto de relieve la «importancia» de que los poderes públicos «ejerzan sus competencias» para la protección de los derechos fundamentales de los ciudadanos y, especialmente, de los menores de etapa en el entorno digital, garantizando su privacidad y seguridad.
El derecho a la dignidad humana, el respeto de la vida privada y íntimo, la protección de datos de carácter personal, la protección de menores y el atrevido explicación de su personalidad, la no discriminación, la igualdad y el derecho a la dispensa de expresión, entre otros, justifican la imposición de restricciones al uso y comercialización de estos nuevos sistemas. «Es indudable los beneficios que aporta esta nueva tecnología, pero deben establecerse medidas para que los sistemas de Inteligencia Fabricado sean seguros», remarca el Consejo.
El derecho al honor y a la intimidad pueden encontrarse «gravemente comprometidos» por las aplicaciones de IA que permiten la creación de deepnudes y de otros contenidos pornográficos falsos sin el consentimiento de los afectados. Estas herramientas suponen «una potencial violación de la privacidad y del honor de las personas, exponiéndolas a una infracción de su intimidad que puede tener consecuencias devastadoras tanto a nivel personal como profesional«.
La difusión de imágenes y de vídeos falsos creados por IA no sólo afecta a la reputación de las personas involucradas, sino que incluso puede «conducir a delitos de acoso, perturbación, injurias o amenazas». Las víctimas de estos actos no sólo sufren la invasión de su privacidad, sino que incluso enfrentan un «escarnio conocido» en redes sociales que «multiplica el daño y el acoso social».
Golpe a la pornografía
La protección de los menores es una preocupación «central» para el CAA, especialmente en el contexto del llegada a contenidos audiovisuales de carácter sexual. Las aplicaciones de IA que generan contenido pornográfico impostor representan un «aventura significativo» para los menores, que pueden obtener a estos materiales sin las debidas restricciones de etapa. Esta facilidad de llegada expone a los menores a riesgos de ciberacoso, explotación sexual y otros peligros asociados con el consumo de contenido inapropiado.
«Es necesario, por consiguiente, subrayar la falta de garantías y medidas de seguridad en el proceso de contratación y uso de tecnologías de IA para estabilizar que los menores no puedan utilizar estas aplicaciones», apunta el CAA. En particular, »es urgente la aplicación de medidas fehacientes de demostración de la etapa, así como la promoción de una educación en títulos digitales tanto para los menores como para sus padres y tutores«.
La educación debe centrarse, a prudencia del organismo autonómico, en el uso «seguro y responsable» de las tecnologías de la información y la comunicación, así como en la comprensión de los riesgos asociados con el uso indebido de la IA, y las familias deben comprender la reserva de los delitos que pueden cometerse contra la intimidad y aceptar la falta de educar a los menores en títulos digitales y en el respeto a la privacidad de los demás.