La société Omnilert, spécialisée dans la détection des armes à feu via l’IA, affirme avoir réalisé plus de 3 000 détections l’année dernière avec son logiciel intégré aux caméras de surveillance. Cependant, elle est désormais dans l’œil du cyclone après que son système n’a pas identifié l’arme à feu utilisée lors de la fusillade survenue dans un lycée d’Antioch, à Nashville, en janvier 2025, comme rapporté par Ars Technica.
Ce jour-là, malgré sa présence dans l’établissement, le système a échoué à repérer l’arme, laissant Antonyous Henin, élève blessé par le tireur, mécontent et en colère. Il accuse la société d’impuissance à protéger les élèves dans des environnements pourtant prévisibles.
"Le système était défectueux, incapable de détecter les armes dans des lieux très fréquentés tels que les cantines, que Omnilert avait pourtant désignés comme des zones à risque", peut-on lire dans la plainte déposée.
Un système loin d'être parfait
Suite à l'incident, le PDG d'Omnilert, Dave Fraser, a défendu son produit en affirmant que le positionnement du tireur avait empêché la détection, miroir des inquiétudes déjà exprimées par le district scolaire Metro Nashville Public Schools (MNPS) qui avait approuvé un contrat de plusieurs millions avec la compagnie. Selon un représentant, "ça fonctionne, mais ne pourra pas toujours garantir une détection dans tous les cas".
Ce discours a suscité des interrogations chez Chris Smith, avocat d’Henin, qui a condamné l'idée que le système n'opérerait que sous certaines conditions. "Je possède une Tesla et je n'ai que des doutes sur leur auto-conduite. Comment pourrait-on se fier à cet outil pour la sécurité de nos enfants?" a-t-il déclaré à Ars Technica.
Henin avance qu’Omnilert était consciente des limitations de son système. Les modifications à son site web après la fusillade, indiquant des taux de fausses alertes, illustrent leur connaissance des failles opérationnelles. En soulignant la promesse d'un système capable de prévenir des tragédies passées, telles que celle du lycée Marjory Stoneman Douglas en 2018, il accuse la société d’avoir exagéré les capacités de son produit.
Les défauts de détection d'Omnilert ne se limitent pas à cet événement. Un précédent incident rapporté par Futurism démontre que le système avait mal identifié un paquet de chips Doritos comme une arme, entraînant une intervention policière massive.
