Una “alerta mundial urgente” que involucra a más de 60 países, incluido Colombia, formuló la Superintendencia de Industria y Comercio (SIC) desde el Grupo de Trabajo de Cooperación Internacional, instancia de la Asamblea Global de Privacidad, para fortalecer las acciones regulatorias y las medidas de protección de datos personales.
La alerta internacional responde al aumento de casos de uso indebido de inteligencia artificial (IA) y plataformas digitales para generar y divulgar en redes sociales imágenes íntimas no consentidas, algunas con contenido sexual, difamatorias o potencialmente dañinas, creadas a partir de datos de personas identificables.
El comunicado conjunto, liderado por la SIC lideró dentro del Grupo de Trabajo de Cooperación Internacional, reúne la posición y preocupación de múltiples autoridades de datos personales del mundo.
Allí se enfatiza que los sistemas de IA generativa deben desarrollarse y utilizarse conforme con los marcos legales aplicables, incluyendo las normas de protección de datos y privacidad, pues la generación de imágenes íntimas no consentidas puede constituir un delito en muchas jurisdicciones.
El documento plantea algunas recomendaciones dirigidas a las organizaciones que utilizan IA generativa, entre ellas:
- Prevenir el uso indebido de información personal y la generación de contenido íntimo no consentido.
- Garantizar transparencia significativa respecto a las capacidades, salvaguardas y usos permitidos de los sistemas de IA.
- Eliminar contenido dañino que involucre datos personales.
- Implementar salvaguardas reforzadas para la protección de niñas y niños.
Los países firmantes del comunicado señalan que los daños asociados al uso abusivo de este tipo de tecnología “son significativos y requieren coordinación regulatoria internacional”, por ello sus autoridades de protección de datos avanzan en acciones conjuntas para abordar este riesgo global mediante acciones educativas, de seguimiento y de política pública.
En Colombia, el llamado de la SIC a las organizaciones desarrolladoras y usuarias de IA generativa es a implementar estándares altos de seguridad y cumplimiento normativo para proteger la privacidad, dignidad y seguridad de las personas.