San Francisco persigue páginas que difunden imágenes falsas generadas por IA.

Un año después de que imágenes generadas por inteligencia artificial de desnudos de adolescentes perturbaran a una comunidad en el sur de España, un tribunal juvenil este verano ha condenado a 15 de sus compañeros a un año de libertad condicional.

Sin embargo, la herramienta de inteligencia artificial utilizada para crear los deepfakes perjudiciales sigue siendo fácilmente accesible en internet, prometiendo «desnudar cualquier foto» cargada en el sitio web en cuestión de segundos.

Ahora, un nuevo esfuerzo para cerrar la aplicación y otras similares está siendo perseguido en California, donde San Francisco presentó esta semana una demanda sin precedentes que los expertos consideran que podría sentar un precedente, pero que también enfrentará muchos obstáculos.

David Chiu, fiscal de la ciudad de San Francisco que presentó el caso contra un grupo de sitios web ampliamente visitados vinculados a entidades en California, Nuevo México, Estonia, Serbia, Reino Unido y otros lugares, expresó que «la proliferación de estas imágenes ha explotado a un número alarmante de mujeres y niñas en todo el mundo».

«Estas imágenes se utilizan para acosar, humillar y amenazar a mujeres y niñas», afirmó en una entrevista con Associated Press. «Y el impacto en las víctimas ha sido devastador en su reputación, salud mental, pérdida de autonomía y, en algunos casos, incluso ha llevado a algunas a contemplar el suicidio».

La demanda presentada en nombre de los habitantes de California alega que los servicios violaron numerosas leyes estatales contra prácticas comerciales fraudulentas, pornografía no consensuada y abuso sexual de menores. Sin embargo, puede resultar complicado determinar quién opera las aplicaciones, ya que no están disponibles en las tiendas de aplicaciones de teléfonos, pero aún se encuentran fácilmente en internet.

Uno de los servicios contactados el año pasado por AP afirmó por correo electrónico que su «CEO se encuentra y se desplaza por todo Estados Unidos», pero se negó a proporcionar pruebas o responder otras preguntas. AP no revelará los nombres de las aplicaciones específicas demandadas para no promocionarlas.

«Existen varios sitios en los que en este momento no sabemos con exactitud quiénes son los operadores y desde dónde operan, pero contamos con herramientas de investigación y autoridad para solicitar documentación al respecto», mencionó Chiu. «Y sin duda utilizaremos nuestros poderes en el transcurso de esta litigación».

Muchas de las herramientas se utilizan para crear deepfakes realistas que «desnudizan» fotos de mujeres adultas vestidas, incluidas celebridades, sin su consentimiento. Sin embargo, también han surgido en escuelas de todo el mundo, desde Australia hasta Beverly Hills en California, generalmente con chicos creando imágenes de compañeras que luego se difunden en las redes sociales.