X, antes Twitter, enfrenta una nueva crisis de seguridad y ética digital tras la difusión masiva de contenido explícito generado mediante inteligencia artificial.
Puede leer: ¿Por qué recordamos olores de la infancia, pero olvidamos dónde dejamos las llaves?
En las últimas horas, se reportó una “filtración” de imágenes comprometedoras que afecta a miles de personas, incluyendo figuras de la política, celebridades, modelos y usuarios particulares, exponiendo las vulnerabilidades de las políticas de moderación de la plataforma de Elon Musk.
El origen de esta problemática radica en el uso de Grok, la inteligencia artificial integrada en la red social, así como en otras herramientas externas.
De acuerdo con reportes de usuarios y especialistas en ciberseguridad, diversos sujetos han comenzado a utilizar estas tecnologías como si se tratara de un juego, solicitando la creación de contenido íntimo falso, conocido como deepfake, con una facilidad alarmante.
Un proceso simplificado para el acoso
El mecanismo para generar estas imágenes resulta preocupantemente sencillo. Basta con que un usuario publique un comentario mencionando a la cuenta de Grok y describa la petición específica.
En cuestión de minutos, el sistema procesa las referencias visuales existentes de la víctima y crea un producto visual que, aunque artificial, posee un realismo capaz de generar inestabilidad emocional, daño reputacional y severos problemas de salud mental en las personas afectadas.
Históricamente, X ha mantenido políticas de libertad de expresión más laxas en comparación con otras redes sociales, permitiendo la difusión de contenido explícito bajo ciertas etiquetas. Sin embargo, estas mismas políticas han facilitado que los agresores operen sin censura previa, permitiendo que las imágenes se vuelvan virales antes de que puedan ser denunciadas.
Lea también: TikTok coge ventaja frente al gobierno de Trump y le pone fin a las amenazas de prohibición
Cuestionamientos a las políticas de Elon Musk
Hasta el momento, no existe un mecanismo técnico eficiente dentro de la plataforma para frenar la creación de este tipo de contenido en tiempo real. Miles de personas han comenzado a cuestionar la responsabilidad de la empresa y el uso de su IA, señalando que la herramienta puede ser utilizada para el acoso sistemático con un simple mensaje.
La falta de filtros éticos en el entrenamiento de Grok ha desatado un debate global sobre la necesidad de regulaciones más estrictas para las empresas tecnológicas.
Mientras la
comunidad digital exige un alto total a estas prácticas, el riesgo de que cualquier usuario sea víctima de una suplantación visual sigue latente, evidenciando que el avance tecnológico ha superado, por ahora, a las medidas de protección ciudadana en el entorno digital.