Un sistem AI care trebuia să prevină atacurile armate în școli a eșuat lamentabil. Acum compania este dată în judecată

Inteligența artificială este promovată tot mai des ca soluție pentru probleme complexe, inclusiv pentru securitatea din școli. În ultimii ani, numeroase instituții de învățământ din Statele Unite au investit milioane de dolari în sisteme capabile să identifice arme cu ajutorul camerelor video și al algoritmilor de analiză vizuală. Promisiunea este simplă: detectarea unei amenințări înainte ca aceasta să se transforme într-o tragedie.

Totuși, un caz care a atras atenția la nivel național ridică noi semne de întrebare privind eficiența reală a acestor tehnologii. Compania care a dezvoltat un sistem de detectare a armelor bazat pe inteligență artificială se confruntă acum cu un proces după ce software-ul nu a identificat un elev înarmat care a intrat într-un liceu din statul Tennessee și a deschis focul, anunță Futurism.

Supraviețuitorul atacului acuză compania că a făcut promisiuni pe care nu le-a putut respecta

Procesul a fost deschis de un elev care a supraviețuit atacului armat petrecut în ianuarie 2025 la liceul Antioch din Nashville. Tânărul a fost rănit ușor în timpul incidentului și susține că sistemul de supraveghere bazat pe inteligență artificială nu și-a îndeplinit rolul pentru care fusese achiziționat.

Acțiunea în instanță vizează atât compania care a dezvoltat tehnologia de detectare a armelor, cât și firma responsabilă de instalarea și mentenanța acesteia. Potrivit documentelor depuse la dosar, reclamanții susțin că dezvoltatorul ar fi cunoscut limitările importante ale sistemului, dar în același timp ar fi promovat produsul folosind afirmații extrem de optimiste privind capacitatea de identificare a armelor de foc.

Printre argumentele invocate se numără și faptul că tehnologia a fost prezentată drept una capabilă să detecteze amenințările înainte ca primul foc de armă să fie tras. În materialele de promovare, sistemul AI era descris ca fiind extrem de fiabil și capabil să contribuie la prevenirea unor tragedii similare celor care au marcat istoria recentă a școlilor americane.

În 2023, autoritățile școlare din Nashville au aprobat un contract în valoare de aproximativ un milion de dolari pentru implementarea acestei soluții de securitate. După atacul din 2025, reprezentanții companiei au explicat că problema nu a fost una de funcționare a algoritmului, ci de vizibilitate. Potrivit acestora, poziția elevului și modul în care era ascunsă arma au făcut imposibilă identificarea acesteia de către camerele de supraveghere.

Criticii spun că școlile investesc milioane în tehnologii care încă dau erori evidente

Explicațiile oferite de companie nu i-au convins însă pe toți specialiștii. Unii avocați implicați în caz și experți în securitate consideră că existența unui număr mare de condiții care trebuie îndeplinite pentru funcționarea corectă a sistemului ridică semne de întrebare serioase privind utilitatea sa practică.

Controversa este amplificată și de incidente anterioare asociate tehnologiilor similare. Într-un caz devenit viral, un sistem de detectare a armelor a confundat o pungă de chipsuri cu o armă de foc, ceea ce a dus la mobilizarea unui număr mare de polițiști. Într-un alt incident, o soluție AI diferită a interpretat greșit un instrument muzical drept armă, declanșând procedurile de urgență într-o școală.

Cu toate acestea, sistemele de supraveghere bazate pe inteligență artificială continuă să fie adoptate de tot mai multe instituții de învățământ din Statele Unite. Susținătorii lor afirmă că orice tehnologie care poate contribui la creșterea siguranței merită analizată și implementată.

Criticii au însă o altă perspectivă. Ei consideră că fondurile investite în astfel de soluții ar putea fi folosite mai eficient pentru programe de consiliere psihologică, sprijin pentru elevii aflați în dificultate sau alte măsuri preventive care atacă problema de la rădăcină.

Trucul folosit de hoteluri pentru a-i face pe turiști să cheltuie mai mult. Mulți nu își dau seama