Negli USA si chiude in positivo il primo bilancio sui test effettuati da tre compagnie che hanno sviluppato un sistema atto a riconoscere gli intenti omicidi o suicidi dei giovani studenti americani: il funzionamento del sistema si basa su degli algoritmi “addestrati” a capire le intenzioni dei ragazzi tramite i testi elaborati, ma anche tramite i loro post sui social network, questi dati danno indicazione su possibili casi sospetti ed in seguito il sistema manda prima una mail alla scuola e ai genitori, per poi arrivare all’Fbi nei casi più gravi.
Una delle tre aziende coinvolte, la Bark, dichiara di aver raggiunto con i suoi servizi oltre 1100 distretti scolastici, controllando complessivamente circa 2,6 milioni di studenti, il suo algoritmo che invia tra 35 e 55 mila alert al giorno, secondo l’azienda avrebbe sventato almeno 16 minacce di possibili stragi. Un’altra azienda, la Gaggle, dice di aver sventato 526 minacce credibili di suicidio, e di aver bloccato 246 studenti che volevano portare un’arma da fuoco a scuola.
“Molti studi – sostiene Bill McCullough, vicepresidente di Gaggle – hanno mostrato che i ragazzi comunicano prima di un atto violento, e lo fanno per via elettronica.”
Questi sistemi hanno un costo che varia dai tre ai nove dollari a studente, che sebbene è un costo irrisorio a vantaggio della sicurezza dei ragazzi, chiaramente è il prezzo minore da pagare visto che è evidente che si tratta di una forma di sorveglianza diversa nonché un’invasione della privacy online degli adolescenti.
Anche stavolta il dubbio etico torna al centro del discorso, ma se questa scelta può essere utile a salvare delle giovani vite forse merita di essere intrapresa.
