Automobilista olandese multato ingiustamente con l’accusa di aver parlato al telefono alla guida per un errore del sistema di intelligenza artificiale. I limiti degli algoritmi e la necessità di un controllo umano accurato per evitare falsi positivi.
Si chiama Tim Hanssen l’automobilista olandese che è stato trasformato suo malgrado in un “pirata della strada” da un sistema di intelligenza artificiale, ricevendo una multa di 380 euro. Mentre guidava sull’autostrada A2 presso Weert, è stato fotografato da una telecamera dotata di AI proprio nel momento in cui si grattava la testa con la mano destra. Tuttavia, il sistema ha malinterpretato l’azione: anziché riconoscere un semplice gesto innocuo, ha concluso che Hanssen stesse parlando al telefono durante la guida.
In Olanda, l’uso di telecamere Monocam per rilevare l’uso dei cellulari alla guida è una pratica consolidata, ne avevamo parlato tempo fa. L’obiettivo è la lotta contro l’uso improprio dei cellulari alla guida, una pratica che aumenta il rischio di incidenti stradali. Questi sistemi, capaci di operare in condizioni diverse, giorno e notte, in presenza di pioggia o vento, hanno dimostrato una notevole efficacia, almeno nella capacità di “far cassa”, con un aumento significativo del numero di automobilisti sanzionati per l’uso del cellulare alla guida nel 2022 rispetto all’anno precedente. La procedura prevede una prima selezione automatica degli automobilisti sospettati, seguita da una verifica manuale delle immagini da parte degli agenti, per confermare o escludere l’infrazione.
A questo punto, però, è evidente come il software di cosiddetta intelligenza artificiale possa essere considerato come non completamente affidabile. Hanssen, che guarda caso nel campo della creazione di algoritmi che modificano e analizzano le immagini, spiega in un suo post su Nippur tutti i limiti attuali in questo contesto: l’algoritmo, probabilmente addestrato su immagini di persone con un telefono in mano in posizioni simili, ha erroneamente dedotto che anche lui stesse utilizzando un dispositivo mobile.
La cosa più assurda è che l’automobilista si è trovato di fronte a un “doppio errore”: non solo l’algoritmo ha fallito nel suo compito, ma anche il personale di polizia incaricato di verificare manualmente le violazioni non ha notato che Hanssen non aveva un telefono in mano.
Il caso olandese insegna come gli algoritmi, sebbene avanzati, possano generare falsi positivi, implicando la necessità di un accurato controllo umano per evitare che la tecnologia diventi una fonte di errore piuttosto che un mezzo per aumentare la sicurezza stradale.
Hansen ha ovviamente deciso di contestare la multa, ed è in attesa di una risposta dalle autorità. I media locali dal canto loro hanno messo in guardia sulle problematiche legate all’uso di sistemi automatici di controllo, sottolineando la necessità di un maggiore intervento umano nella valutazione delle potenziali infrazioni.
