Un superviviente de un tiroteo escolar demanda a la empresa cuya IA no detectó la pistola

Un estudiante herido en un tiroteo escolar demanda a una empresa de detección de armas con IA tras fallar el sistema

Un adolescente que sobrevivió herido al tiroteo ocurrido en enero de 2025 en un instituto de Nashville, Tennessee, ha presentado una demanda contra la empresa responsable de un sistema de “detección de armas con inteligencia artificial” que no detectó la pistola utilizada en el ataque. El suceso dejó dos personas muertas, incluido el propio atacante.

El caso vuelve a poner sobre la mesa una cuestión cada vez más incómoda: hasta qué punto se puede confiar en sistemas de seguridad basados en IA cuando se presentan como herramientas capaces de anticipar o mitigar tragedias, pero dependen de condiciones muy concretas para funcionar correctamente.

Una demanda contra Omnilert por un fallo en plena emergencia

La demanda fue presentada el mes pasado ante un tribunal del condado de Davidson y apunta contra Omnilert, fabricante del sistema de detección visual de armas, y contra System Integrations, empresa que revendió la solución.

Según el escrito judicial, Omnilert sabía o debería haber sabido que su tecnología tenía “limitaciones operativas significativas” que podían provocar fallos de detección durante emergencias reales. Entre esas limitaciones se citan factores como la colocación de las cámaras, la distancia entre el arma y los sensores, el ángulo de visión, la iluminación o la visibilidad del arma.

Dicho de otra forma: el sistema no solo dependía de que hubiera cámaras instaladas, sino de que esas cámaras vieran el arma desde una posición suficientemente favorable como para que la IA pudiera reconocerla.

Un contrato de más de 1 millón de dólares para proteger los colegios

En 2023, la junta de las escuelas públicas metropolitanas de Nashville aprobó un contrato valorado en más de 1 millón de dólares —aproximadamente 920.000 euros— para instalar una capa de detección basada en inteligencia artificial sobre la red de cámaras y la infraestructura de seguridad del distrito escolar.

La idea era utilizar las cámaras ya desplegadas en los centros para identificar armas de fuego de forma automática y activar alertas tempranas. Sobre el papel, este tipo de tecnología promete ganar segundos valiosos ante una amenaza armada, algo que puede resultar crucial en un entorno escolar.

Sin embargo, tras el tiroteo de enero de 2025, el portavoz de las escuelas públicas de Nashville, Sean Braisted, explicó en una rueda de prensa que, por la posición del atacante respecto a las cámaras, la imagen “no estaba lo suficientemente cerca” como para obtener una lectura precisa y activar la alarma.

Ese detalle es clave en la demanda: el sistema no falló por no existir cámaras, sino porque las condiciones reales del incidente no fueron las adecuadas para que la IA identificara el arma.

La acusación: promesas comerciales demasiado optimistas

La demanda también se apoya en mensajes promocionales publicados por Omnilert en su propia página web antes del tiroteo, conservados en Internet Archive pocos días antes del ataque.

Según los abogados del estudiante herido, la compañía habría presentado su tecnología de una forma excesivamente ambiciosa, dando a entender que podía ayudar a prevenir tragedias similares a grandes tiroteos escolares. En concreto, el texto de la demanda cita afirmaciones de Omnilert en las que la empresa sugería que la detección visual de armas con IA podría haber mitigado o prevenido la tragedia de la escuela Marjory Stoneman Douglas, uno de los tiroteos escolares más devastadores de Estados Unidos.

https://www.omnilert.com/wp-content/uploads/omnilert-gun-detection-system-demo.mp4

Para la parte demandante, ese tipo de mensajes transmitía la idea de que el producto podía evitar sucesos similares, sin advertir con suficiente claridad de sus limitaciones prácticas.

La demanda sostiene, además, que la web comercial de Omnilert no hacía referencia a falsos positivos, falsas alarmas ni limitaciones de detección antes del tiroteo.

El problema de confiar en una IA que solo funciona en condiciones favorables

Chris Smith, uno de los abogados del demandante, se mostró muy crítico con este tipo de soluciones. En declaraciones a Ars Technica, aseguró que desde el primer momento fue escéptico con la idea de usar inteligencia artificial para detectar armas en colegios.

Smith comparó su escepticismo con el que le genera la conducción autónoma de Tesla, señalando que, en su opinión, no está lista para confiarle decisiones críticas. Su argumento es que una tecnología de este tipo no puede ser el pilar principal de la seguridad escolar si necesita condiciones muy concretas para funcionar.

El abogado plantea una pregunta incómoda: si el sistema depende del ángulo correcto, la distancia adecuada, buena iluminación y una visión clara del arma, ¿por qué debería considerarse una alternativa más fiable que otras medidas de seguridad más tradicionales, como los detectores de metales?

Críticas al uso de dinero público en sistemas de detección

El caso también ha reavivado el debate sobre cómo deben gastar los centros educativos sus presupuestos de seguridad.

David Riedman, experto en educación y seguridad y responsable de la base de datos K-12 School Shooting Database, cuestionó la utilidad real de estos sistemas. Según él, en los tiroteos escolares rara vez el problema principal es la falta de aviso.

Su crítica apunta a que el dinero invertido en tecnologías de detección podría haberse utilizado en otras áreas, como apoyo psicológico, consejeros escolares o programas dirigidos a estudiantes en situación de crisis.

Es una cuestión de prioridades: cada dólar dedicado a una solución tecnológica es un dólar que deja de invertirse en prevención humana, acompañamiento o intervención temprana.

Una demanda que podría marcar precedente

Smith señaló que, hasta donde sabe, esta sería la primera demanda de este tipo contra Omnilert o contra una empresa similar de detección de armas mediante inteligencia artificial.

Por eso, el caso podría tener implicaciones más allá de las lesiones sufridas por el estudiante demandante. Si el tribunal considera que la empresa exageró las capacidades de su sistema o no informó adecuadamente de sus limitaciones, otras compañías del sector podrían verse obligadas a revisar cómo comercializan sus tecnologías de seguridad basadas en IA.