Condenan a exanalista financiero tras planear asesinato mediante ChatGPT
Un tribunal en el estado de Florida ha dictado sentencia contra Darren Zhou, un exanalista financiero de Goldman Sachs, quien fue hallado culpable de planificar el asesinato de su expareja utilizando la inteligencia artificial de OpenAI. El caso salió a la luz gracias a la intervención directa de la compañía tecnológica, que notificó al FBI sobre las peligrosas intenciones del usuario.
Zhou alcanzó un acuerdo de culpabilidad ante la Corte del Condado de Palm Beach. Los cargos presentados incluyen amenazas de muerte, ciberacoso y el uso ilícito de medios de comunicación para perpetrar actos criminales. El sujeto permanecía bajo custodia desde el pasado mes de mayo, momento en el que las autoridades federales actuaron tras recibir una alerta de emergencia emitida por los sistemas de seguridad de ChatGPT.
Detalles de la amenaza
De acuerdo con los documentos judiciales, el sentenciado utilizó la plataforma para confesar sus planes de atentar contra la vida de Rachel Eden Wachterman. Las transcripciones revelaron una serie de declaraciones alarmantes:
- Expresiones explícitas de violencia, secuestro y planes de asesinato contra la víctima y sus familiares.
- Adquisición de armamento, incluyendo un rifle estilo AR-15, una pistola Glock y una escopeta.
- Planificación detallada de un escenario de asesinato-suicidio, monitoreando los movimientos y el itinerario de la víctima.
La notificación de OpenAI advirtió que el usuario admitió haber ideado un plan de asesinato-suicidio y declaró que estaba rastreando el horario de la víctima para saber dónde encontrarla si decidía intensificar sus acciones.
El impacto de la inteligencia artificial en el ámbito legal
Este suceso subraya los crecientes desafíos que enfrentan las plataformas de inteligencia artificial en cuanto a seguridad y ética. En Florida, el debate se ha intensificado tras convertirse en el primer estado de los Estados Unidos en emprender acciones legales contra OpenAI y sus fundadores.
Las autoridades locales han cuestionado el diseño y los protocolos de seguridad de estas herramientas, señalando que, además de casos criminales como este, los modelos de lenguaje podrían estar contribuyendo a la creación de adicciones en menores y al debilitamiento del pensamiento crítico en la sociedad.
