El auge de la "inteligencia artificial" IA puede facilitar la explotación sexual de niños

GINEBRA – El auge de la inteligencia artificial (IA) generativa y la realidad virtual facilita la producción y distribución del abuso y la explotación sexual infantil en la dimensión digital, advirtió la relatora especial de las Naciones Unidas sobre la venta y explotación sexual de niños.

La jurista gambiana, Mama Fátima Singhateh, señaló que “Internet y las plataformas digitales pueden ser un arma de doble filo para los niños y jóvenes. Puede permitirles interactuar positivamente y desarrollarse aún más como seres humanos autónomos, reclamando su propio espacio”.

Pero “al mismo tiempo, también se facilita el contenido inapropiado para la edad y los daños sexuales en línea a niños por parte de adultos y compañeros”, advirtió la experta en su declaración con motivo del Día de Internet más Seguro, este martes 6.

Aunque el acceso no determina el valor que los niños y jóvenes obtienen de Internet y los productos digitales, el volumen de material de abuso sexual infantil denunciado ha aumentado 87 % desde 2019, según la evaluación global de amenazas 2023 de WeProtect Global Alliance, un observatorio de entes públicos y privados.

Una revisión de numerosos estudios, publicaciones e informes ha revelado las manifestaciones cada vez más intensas de daño y exposición del abuso y la explotación sexual infantil en línea, tanto en términos de escala como de método.

Estos incluyen el riesgo de material de explotación y abuso sexual infantil, solicitación de niños con fines sexuales, acoso sexual en línea, abuso de imágenes íntimas, extorsión sexual financiera, y el uso de materiales de explotación y abuso sexual infantil asistidos por tecnología.

“Internet y las plataformas digitales pueden ser un arma de doble filo para los niños y jóvenes. Puede permitirles interactuar positivamente y desarrollarse aún más como seres humanos autónomos, reclamando su propio espacio. Al mismo tiempo, también se facilita el contenido inapropiado para la edad y los daños sexuales en línea a niños por parte de adultos y compañeros”: Mama Fátima Singhateh.

Las nuevas actividades operativas incluyen el despliegue del cifrado de extremo a extremo sin mecanismos de seguridad integrados, según Singhateh, del grupo de expertos independientes que trabajan con el Consejo de Derechos Humanos de la ONU en esta ciudad suiza.

También imágenes generadas por computadora, incluidos deepfakes (alteración de rasgos) y deepnudes (despojo de ropas), transmisión en vivo a pedido, y realidad virtual de material de explotación y abuso sexual infantil.

Según la declaración, el sector privado y la industria tecnológica “han demostrado ser menos confiables de lo que afirman, con serios prejuicios arraigados, fallas en la programación y en el software de vigilancia para detectar el abuso infantil”, y faltan además medidas enérgicas contra las redes de explotación y abuso sexual infantil.

Esas prácticas y fracasos corren el riesgo de repetir incansablemente el trauma, la victimización secundaria y el daño sistémico que sufren las personas, incluidos los niños, sostuvo Singhateh.

La relatora acogió con satisfacción “el mayor compromiso político, la priorización y el compromiso con el uso de las tecnologías de información y comunicación a nivel internacional”.

Sin embargo, consideró que “muchos esfuerzos legislativos y regulatorios a nivel nacional, regional e internacional para abordar estas cuestiones plantean riesgos adicionales para los derechos humanos, debido a la insuficiente integración de consideraciones de derechos humanos y enfoques sensibles al género”.

Insistió en que “existe una necesidad urgente de intensificar los esfuerzos y establecer vínculos a través de un instrumento multilateral central dedicado exclusivamente a la erradicación del abuso sexual y la explotación de los niños en línea”.

En ese contexto, “los Estados y las empresas deben trabajar juntos, invertir para resolver este problema, e incluir las voces de los niños, las víctimas, los sobrevivientes y las partes interesadas relevantes en el diseño y desarrollo de productos digitales éticos para fomentar un entorno en línea más seguro”, planteó la experta.

Leer Boletín completo de IPS