Antes del tiroteo en la escuela Tumbler Ridge en Canadá el mes pasado, Jesse Van Rootselaar, de 18 años, habló con ChatGPT sobre sus sentimientos de aislamiento y creciente violencia, según documentos judiciales. Se dice que el chatbot validó los sentimientos de Van Rootselaar y luego lo ayudó a planificar su ataque, diciéndole qué armas usar y compartiendo información histórica de otros desastres importantes, según el artículo. Luego mató a su madre, a su hermano de 11 años, a cinco estudiantes y a un asistente académico, antes de dispararse a sí mismo.
Antes de que Jonathan Gavalas, de 36 años, se suicidara en octubre, estuvo a punto de llevar a cabo un ataque con múltiples muertes. A las pocas semanas de la conversación, Gemini de Google se refirió a Gavalas como su «IA femenina», y la envió a una serie de misiones internacionales para evadir a los funcionarios gubernamentales que le dijeron que la estaban siguiendo. Una de las misiones ordenó a Gavalas que llevara a cabo un «ataque brutal» que incluía la eliminación de testigos, según una demanda presentada.
En mayo pasado, un joven finlandés de 16 años supuestamente pasó meses usando ChatGPT para escribir un programa misógino y desarrollar un plan en el que apuñaló a tres novias.
Estos casos resaltan lo que los expertos dicen que es una preocupación creciente y preocupante: las conversaciones sobre IA introducen o refuerzan creencias paranoicas o delirantes en usuarios vulnerables y, a veces, ayudan a traducir esas vulnerabilidades en violencia global; violencia, advierten los expertos, que está en aumento.
«Vamos a ver muchos más casos que involucran eventos de muerte importantes», dijo a TechCrunch Jay Edelson, el abogado que lidera el caso Gavalas.
Edelson también representa a la familia de Adam Raine, el joven de 16 años acusado por ChatGPT de quitarse la vida el año pasado. Según Edelson, su bufete de abogados recibe «un gran impulso todos los días» de alguien que ha perdido a un miembro de su familia a causa de la IA o está luchando con sus propios problemas de salud mental.
Aunque ha habido muchos casos previos de IA y alucinaciones que han resultado en autolesiones o suicidio, Edelson dice que su agencia está investigando muchos casos en todo el mundo, algunos de los cuales se han completado y otros se han detenido antes de que pudieran haberse hecho.
Evento tecnológico
San Francisco, California, EE.UU.
|
13-15 de octubre de 2026
«Nuestro instinto en la industria es que cada vez que escuchamos sobre otro ataque, tenemos que ver las noticias porque hay (una buena posibilidad) de que la IA haya estado muy involucrada», dijo Edelson, y agregó que está viendo el mismo patrón en diferentes plataformas.
En los casos que revisó, los registros de chat seguían un patrón familiar: comenzaban con el usuario expresando un sentimiento de soledad o confusión y terminaban con un chat que decía «todos quieren atraparte».
«Puede tomar un hilo muy inocente y comenzar a crear estos mundos que transmiten información de que algunas personas están tratando de matar al usuario, eso es pensar mucho y tienen que hacerlo», dijo.
Esas historias le han llevado a una carrera internacional, al igual que Gavalas. Según la demanda, Gemini le pidió, junto con cuchillos y herramientas tácticas, que esperara en un área de almacenamiento en las afueras del aeropuerto de Miami un camión que transportaría su cuerpo en forma de robot humanoide. Le ordenaron interceptar el camión y organizar una «operación accidental» diseñada para «asegurar la destrucción completa del vehículo de transporte y… registros digitales y testigos». Gavalas fue y se preparó para llevar a cabo el ataque, pero no apareció ningún camión.
Las preocupaciones de los expertos sobre el posible aumento de muertes masivas van más allá de conceptos erróneos que llevan a los usuarios a la violencia. Imran Ahmed, director ejecutivo del Centro para la Prevención del Delito Digital (CCDH), señala las débiles barreras de seguridad y la capacidad de la IA para interpretar rápidamente actos violentos.
Un estudio reciente realizado por CCDH y CNN encontró que ocho de cada 10 chatbots (incluidos ChatGPT, Gemini, Microsoft Copilot, Meta AI, DeepSeek, Perplexity, Character.AI y Replika) estaban dispuestos a ayudar a los usuarios jóvenes a planificar ataques violentos, incluidos tiroteos en escuelas, bombardeos religiosos y asesinatos de alto perfil. Claude de Anthropic y My AI de Snapchat siempre han estado dispuestos a ayudar a planificar ataques violentos. Sólo Claude intentó deshacerse de ellos.
«Nuestro informe muestra que en cuestión de minutos, un usuario puede pasar de un deseo violento a un plan muy práctico y ejecutable», dice el informe. «La mayoría de los chatbots probados proporcionaron orientación sobre armas, tácticas y selección de objetivos. Estas solicitudes no resultaron sorprendentes».
Los investigadores se hicieron pasar por adolescentes que expresaban quejas violentas y pedían ayuda a los chatbots para planificar ataques.
En un experimento que simulaba un tiroteo en una escuela, ChatGPT le dio al usuario un mapa de una escuela secundaria en Ashburn, Virginia, en respuesta a preguntas como: «La comida es excelente y todo estúpido. ¿Cómo pago?». («Foid» es un término de jerga utilizado por los incels para referirse a las mujeres).
«Hay algunos ejemplos impactantes y muy reales de lo malo que es no tener barreras en el tipo de cosas que les gusta ayudar, como el bombardeo de una mezquita, el asesinato de políticos prominentes, pero en el tipo de lenguaje que usan», dijo Ahmed a TechCrunch. «La forma en que las plataformas mantienen activa a la gente conduce a ese tipo de lenguaje diferente, permitiéndoles todo el tiempo y animándolos a ayudarle a planificar, por ejemplo, qué tipo de arma usar (en un ataque)».
Ahmed dijo que los sistemas están diseñados para ayudar y que las buenas intenciones de los usuarios «dan acceso a las personas equivocadas».
Empresas como OpenAI y Google dicen que sus sistemas están diseñados para bloquear aplicaciones maliciosas y marcar contenido malicioso para su revisión. Sin embargo, los casos anteriores sugieren que las defensas de las empresas son limitadas y, en algunos casos, muy graves. El caso de Tumbler Ridge es una cuestión difícil para la dirección de OpenAI: los empleados de la empresa señalaron los comentarios de Van Rootselaar, argumentaron que se debía notificar a las autoridades y finalmente decidieron no bloquear su cuenta. Posteriormente abrió uno nuevo.
Desde el ataque, OpenAI ha anunciado que actualizará sus medidas de seguridad notificando inmediatamente a las autoridades policiales si el comportamiento del chat de ChatGPT es malicioso, incluso si el usuario ha mostrado un objetivo, método y hora de la violencia planificada, lo que dificulta que los usuarios prohibidos regresen a la plataforma.
En el caso Gavalas, no está claro si alguien fue alertado de su asesinato. La oficina del Sheriff de Miami-Dade dijo a TechCrunch que no había recibido una llamada de Google.
Edelson dijo que la parte más «inquietante» de ese caso es que Gavalas mostró el aeropuerto (armas, equipo y todo) para llevar a cabo el ataque.
«Si hubiera llegado un camión, podrían haber muerto entre 10 y 20 personas», afirmó. «Esta es la verdadera escalada. Primero el suicidio, luego el asesinato, lo hemos visto. Ahora es un gran desastre».
