Alertan sobre el uso malintencionado de inteligencia artificial por parte de actores estatales
Un reciente informe publicado por la empresa tecnológica Anthropic ha encendido las alarmas sobre la utilización de su modelo de inteligencia artificial, Claude, para fines vinculados a operaciones de vigilancia y estrategias de propaganda. Según el documento, que analiza el comportamiento de diversos actores estatales durante los últimos ocho meses, estas herramientas avanzadas están siendo empleadas para optimizar sistemas de control y planificación de ataques.
Actividad vinculada a Irán
El reporte detalla que grupos con nexos en el Gobierno de Irán han recurrido a Claude para procesar volúmenes masivos de información sobre periodistas, activistas y figuras políticas. Para evadir las restricciones de acceso geográfico, estos usuarios utilizaron redes privadas virtuales (VPN) y números de teléfono internacionales.
Un grupo de ciberdelincuentes vinculado a Irán utilizó la cuenta de Claude para elaborar recomendaciones de ataque contra las fuerzas navales estadounidenses en la región.
Alcance global y riesgos de seguridad
El análisis de Anthropic no se limita al caso iraní, sino que también documenta usos indebidos de su tecnología relacionados con operaciones cibernéticas y el manejo de armas convencionales en naciones como China, Rusia y Yemen. La empresa ha tomado medidas contundentes para bloquear estas actividades ante el temor de que los modelos faciliten el desarrollo de riesgos biológicos o armamentísticos.
- Reducción de barreras técnicas: La IA permite que actores sin conocimientos especializados realicen tareas complejas.
- Uso dual de la tecnología: La misma capacidad que impulsa investigaciones científicas legítimas puede ser desviada hacia actividades peligrosas.
- Vigilancia eficiente: Los modelos de lenguaje facilitan el procesamiento de datos personales para el monitoreo de disidentes.
Ante este panorama, la compañía subraya que, aunque las evaluaciones de riesgo son fundamentales, el desafío radica en la creciente autonomía de estos sistemas, lo cual exige una vigilancia constante para evitar que la tecnología sea utilizada para vulnerar la seguridad global o los derechos fundamentales.
