Inteligencia artificial utiliza imágenes de menores sin autorización paterna

Un reciente análisis de Human Rights Watch (HRW) ha revelado un preocupante uso de imágenes de menores australianos en conjuntos de datos utilizados para el entrenamiento de inteligencias artificiales. En este análisis se encontraron 190 fotografías de niños australianos extraídas de Internet sin el consentimiento de las familias, lo que plantea serias interrogantes sobre la falta de regulación y protección de datos en este ámbito.

La organización HRW examinó una porción del dataset Laion-5B, utilizado por herramientas de imágenes como Stability AI o Midjourney, y descubrió la presencia de imágenes de menores sin autorización. Este proyecto con sede en Alemania recopila imágenes de Internet a través de enlaces directos a las fotografías originales, lo que pone de manifiesto la falta de restricciones en el uso de imágenes de menores para el desarrollo de inteligencias artificiales.

Uno de los aspectos más alarmantes destacados por Human Rights Watch fue la exposición de información personal detallada de los niños en las fotografías, como nombres, edades, escuelas a las que asisten, e incluso casos donde se encontraron vídeos de celebraciones escolares en YouTube incluidos en el dataset a pesar de las políticas de la plataforma contra la extracción de datos de sus vídeos.

Ante esta situación, la respuesta de Laion, la organización detrás del conjunto de datos, fue eliminar las imágenes de niños después de colaborar con HRW, aunque resaltaron que esta acción no afecta a las imágenes originales alojadas en Internet. HRW ha alertado sobre los riesgos de utilizar datos de menores para desarrollar aplicaciones como deepfakes, y ha instado a actualizar urgentemente la legislación de privacidad de Australia para prohibir la recopilación y manipulación de datos de niños sin consentimiento.

En un contexto donde la inteligencia artificial se ha convertido en una herramienta cada vez más común en diversos sectores, es crucial abordar de manera efectiva la protección de la privacidad y los derechos de los menores en la recopilación y uso de sus datos para evitar posibles consecuencias negativas. Es necesario establecer regulaciones claras y medidas de seguridad para garantizar la ética y adecuada utilización de las imágenes en el entrenamiento de algoritmos de inteligencia artificial.

El incidente expuesto por HRW resalta la importancia de concienciar sobre las implicaciones éticas y legales de la utilización de datos de niños en el desarrollo de tecnologías, así como la necesidad de establecer mecanismos de control y supervisión para proteger la privacidad y la dignidad de los menores en entornos digitales cada vez más automatizados y conectados.