📱 ¡Nuevo Pixel 11! ¡Hasta 400 € adicionales de descuento en Mediamarkt! [ Saber más ]
Un caso ocurrido en Florida ha vuelto a poner sobre la mesa una cuestión especialmente delicada en torno a los asistentes de inteligencia artificial: qué ocurre cuando una conversación con ChatGPT incluye amenazas creíbles de violencia contra otra persona.
Según documentos judiciales, OpenAI informó a las autoridades estadounidenses después de detectar mensajes en los que un hombre de 25 años describía amenazas graves contra su expareja. La compañía trasladó la información al FBI, que posteriormente compartió parte de los registros con las autoridades locales de Palm Beach.
El caso resulta relevante porque muestra que las conversaciones con un chatbot no siempre permanecen al margen de una investigación policial cuando contienen indicios de un riesgo serio e inmediato para terceras personas.
También sirve para entender mejor cómo funcionan los mecanismos de seguridad de OpenAI. Aunque la inmensa mayoría de conversaciones no desembocan en ninguna revisión humana, la compañía contempla procedimientos específicos para situaciones extremas en las que existe riesgo de daño grave.
OpenAI detectó amenazas graves en conversaciones con ChatGPT
El protagonista del caso es Darren Zhou, un hombre de 25 años residente en Florida que, según los registros judiciales, comenzó a utilizar ChatGPT para hablar sobre la ruptura de una relación que había durado unos seis meses.
En esas conversaciones explicó detalles sobre su expareja, sus hábitos y los lugares que frecuentaba, además de expresar celos y un fuerte deseo de retomar la relación. Con el paso del tiempo, los mensajes pasaron de comentarios emocionales a amenazas explícitas y referencias a posibles actos violentos.
Los investigadores sostienen que las conversaciones mostraban algo más que simples expresiones impulsivas. Un agente que posteriormente revisó los registros consideró que los mensajes reflejaban un patrón de preparación y planificación, y no únicamente comentarios realizados durante un momento de enfado.
OpenAI detectó la gravedad de las conversaciones a través de sus sistemas de seguridad y decidió escalar el caso. De acuerdo con las políticas de la compañía citadas en el procedimiento, un pequeño equipo puede revisar determinadas interacciones cuando existen indicios de que una persona planea hacer daño a terceros.
La compañía trasladó el caso al FBI
Cuando OpenAI considera que existe una situación especialmente grave, sus procedimientos permiten remitir información a las fuerzas de seguridad. En este caso concreto, la compañía envió un aviso al FBI, que terminó incorporándose a una investigación más amplia.
Los agentes federales entregaron posteriormente aproximadamente dos meses de registros a la oficina del sheriff del condado de Palm Beach. Según la información incluida en el caso, los documentos aportados contenían los mensajes enviados por Zhou, pero no necesariamente todas las respuestas generadas por ChatGPT.
Este detalle es importante porque demuestra que el interés de los investigadores se centró principalmente en las declaraciones realizadas por el propio usuario. Esas comunicaciones se analizaron junto a otros mensajes enviados directamente a su expareja.
El episodio destaca frente a otros procesos judiciales relacionados con ChatGPT porque, aunque ya existen numerosos casos en los que conversaciones con asistentes de IA terminan siendo utilizadas como pruebas, son menos frecuentes los ejemplos en los que la propia empresa responsable del servicio realiza inicialmente el aviso a las autoridades.
La expareja había pedido repetidamente que dejara de contactar con ella
Las autoridades realizaron una comprobación de bienestar a la expareja de Zhou, una mujer de 21 años residente en Lake Worth Beach. Según su declaración, había decidido terminar la relación debido a un comportamiento que describió como errático, celoso y controlador.
La ruptura se produjo por teléfono porque la mujer temía cuál podría ser la reacción de Zhou. Después de terminar la relación, el contacto no cesó y la joven afirmó haber recibido llamadas, mensajes de texto y comunicaciones a través de redes sociales.
Según los investigadores, Zhou continuó intentando ponerse en contacto con ella incluso después de que la mujer le pidiera de forma reiterada que no lo hiciera. Parte de esos contactos llegaron mediante números generados por diferentes aplicaciones.
La joven guardó capturas de pantalla de los mensajes recibidos, que posteriormente se sumaron a las conversaciones mantenidas con ChatGPT. La combinación de ambos tipos de comunicaciones terminó siendo una pieza importante para los investigadores.
El caso acabó con una detención y varias acusaciones
Las autoridades arrestaron a Zhou en mayo después de revisar tanto sus mensajes dirigidos a la víctima como los registros de sus conversaciones con el sistema de inteligencia artificial.
El hombre permaneció dos días en una cárcel del condado de Palm Beach antes de quedar en libertad tras depositar una fianza de 100.000 dólares (unos 86.000 euros).
Posteriormente fue acusado de varios delitos, entre ellos acoso agravado, amenazas escritas de muerte y utilización ilegal de un teléfono móvil. En conjunto, las acusaciones podían haber supuesto penas de hasta 25 años de prisión.
Sin embargo, el procedimiento terminó mediante un acuerdo con la fiscalía. Zhou se declaró culpable de los tres cargos el 13 de agosto, evitando finalmente tanto una condena de prisión como una sentencia formal por delito grave.
Ocho años de libertad condicional y numerosas restricciones
El juez Scott Suskauer aceptó el acuerdo alcanzado entre la defensa y la fiscalía. Según explicó durante la vista, uno de los motivos fundamentales para aprobarlo fue que la propia víctima había dado su consentimiento a los términos pactados.
En virtud del acuerdo, el tribunal suspendió la adjudicación formal de culpabilidad y estableció una condena de ocho años de libertad condicional, acompañada de diferentes restricciones que Zhou deberá respetar durante ese periodo.
La defensa argumentó que se trataba de una persona sin antecedentes penales y recordó que había terminado sus estudios universitarios con altas calificaciones. También afirmó que, pese a algunas referencias incluidas en sus mensajes, no poseía armas de fuego.
Su abogado sostuvo además que los hechos se produjeron durante un episodio grave relacionado con su salud mental y defendió que la situación personal del acusado había mejorado significativamente desde entonces.
Qué dice este caso sobre la privacidad en ChatGPT
El episodio plantea una cuestión que muchos usuarios quizá no se hayan planteado: una conversación con un sistema de IA no debe entenderse necesariamente como un canal absolutamente ajeno a cualquier revisión de seguridad.
OpenAI explica que, ante determinados indicios de riesgo grave para otras personas, puede producirse una escalada interna y una revisión limitada por parte de personal especializado. En los escenarios más serios, esa revisión puede desembocar en una comunicación con las autoridades.
Eso no significa que las conversaciones habituales sean revisadas manualmente de manera sistemática. El procedimiento descrito en este caso afecta a situaciones excepcionales relacionadas con amenazas graves de daño, no al uso cotidiano del servicio.
A medida que los asistentes de IA se utilizan para asuntos cada vez más personales, casos como este también recuerdan algo importante: lo que escribimos en una plataforma digital puede acabar formando parte de una investigación judicial si existen las circunstancias legales necesarias.