ChatGPT aconsejó envenenar al marido: mujer acusada de intento de homicidio en EE.UU.
Cheryl Gates enfrenta cargos por intento de asesinato tras recibir instrucciones del chatbot para envenenar a su esposo.
Un caso judicial en Estados Unidos ha puesto en el centro del debate la responsabilidad de los sistemas de inteligencia artificial frente a delitos graves. Una mujer de Carolina del Norte, identificada como Cheryl Gates, fue acusada por un gran jurado en octubre de intento de homicidio calificado y contaminación de alimentos, luego de que supuestamente utilizara ChatGPT para diseñar un plan para envenenar a su esposo, James Gates.
El chatbot como “co-conspirador”
La demanda, presentada por James Gates ante el Tribunal Superior del condado de San Francisco y hecha pública esta semana, señala directamente a OpenAI y a su director ejecutivo, Sam Altman, como co-responsables. Según el escrito, la empresa no implementó barreras técnicas para detener las conversaciones de Cheryl con el chatbot, incluso cuando sus consultas se volvieron “obviamente sospechosas” y pasaron a pedir consejos sobre cómo ejecutar y ocultar un homicidio.
De acuerdo con la demanda, Cheryl inicialmente le dijo a ChatGPT que investigaba intoxicaciones por temor a que su marido pudiera matarla, enmarcando sus preguntas como “autoprotección”. Lejos de cortar la conversación, el sistema le entregó instrucciones detalladas sobre la preparación, dosis y administración de la oleandrina, una toxina extraída de la planta adelfa. El chatbot habría indicado incluso si un medicamento contra las náuseas aceleraría o inhibiría la muerte, si la sustancia aparecería en una autopsia, y si podría inyectarse en una vena o músculo en lugar de ingerirse en té y mantener el mismo efecto letal.
¿Qué significa esto para Chile?
El caso ocurre en Estados Unidos y, hasta ahora, no tiene consecuencias directas en la legislación chilena. Sin embargo, la situación plantea preguntas relevantes para cualquier país donde se usen asistentes de IA: ¿qué obligaciones tienen las empresas que desarrollan estos sistemas cuando un usuario los utiliza para cometer un delito? En Chile, el uso de plataformas como ChatGPT es masivo y no existe una normativa específica que regule la responsabilidad penal o civil de los proveedores de inteligencia artificial en casos como este.
El juicio contra Cheryl Gates avanza en paralelo a la demanda civil contra OpenAI. Mientras tanto, el caso reabre el debate sobre los límites técnicos y éticos que deben tener los asistentes virtuales para evitar que se conviertan en herramientas de daño.
Con información de Ars Technica
