Un hombre en Florida enfrenta 20 cargos de obscenidad por presuntamente y distribuir pornografía infantil generada mediante inteligencia artificial, lo que resalta los peligros y la facilidad con la que la IA generativa puede ser usada con fines ilícitos. Phillip Michael McCorkle, de 38 años, fue arrestado la semana pasada mientras trabajaba en un cine en Vero Beach, Florida, según reportó CBS 12 News. La detención fue captada por un equipo de la cadena de televisión, mostrando un momento dramático cuando McCorkle, vestido con su uniforme de trabajo, fue sacado esposado del cine por las autoridades.

Al parecer, la investigación de las autoridades comenzó después de que la oficina del sheriff del condado de Indian River recibiera información indicando que McCorkle estaba utilizando un programa de inteligencia artificial para generar y distribuir imágenes sexuales de menores a través de la aplicación de mensajería Kik. Su arresto fue parte de una operación local dirigida a capturar a individuos en posesión de material de abuso sexual infantil, pero el uso de IA generativa en este caso particular subraya cómo la tecnología está creando nuevas oportunidades para el crimen y el abuso infantil.

“Creemos que el contenido que hemos observado es generado mediante software de código abierto, que ha sido descargado y ejecutado localmente en los ordenadores de los usuarios, y luego modificado”, explicó Dan Sexton, director de tecnología de la Internet Watch Foundation, al periódico británico The Guardian meses atrás. “Y ese es un problema mucho más complicado de resolver”.

De hecho, la creciente cantidad de imágenes de abuso sexual infantil creadas por IA ha llevado a legisladores a nivel federal, estatal y local en los EE.UU.a proponer leyes para prohibir esta forma de pornografía, aunque la eficacia de estas medidas aún es incierta. El año pasado, el Centro Nacional para Menores Desaparecidos y Explotados recibió 4.700 denuncias de material de abuso sexual infantil generado con IA, y se ha detectado que algunos delincuentes usan esta tecnología para crear deepfakes de menores reales con fines de extorsión.

Un estudio de 2023 de la Universidad de Stanford también encontró cientos de imágenes de abuso sexual infantil en bases de datos de imágenes de IA generativa ampliamente usadas. Todo esto contribuye a un problema que parece difícil de controlar.

Share Twitter Facebook Whatsapp Copy link

Despues de leer, ¿qué te pareció?