Il controterrorismo di Facebook

Facebook, con i suoi 2 miliardi di utenti attivi, è il “secondo continente” del mondo (subito dopo l’Asia, che conta 4,5 miliardi di abitanti), ma la sua popolazione ha un trend di crescita decisamente più veloce (+0,94% l’Asia, +17% Facebook).

Ma ancora più rapidamente cresce la preoccupazione circa l’utilizzo del più famoso dei social network per fare proselitismo via web. Tra i tanti episodi allarmanti, la rivendicazione che un terrorista dell’ISIS ha postato in diretta su Facebook dopo aver ucciso due poliziotti (marito e moglie) nel nord-est di Parigi.

Facebook, per affrontare al meglio questa minaccia, ha costituito una vera e propria unità di controterrorismo. La sfida, infatti, è decisamente complessa (Facebook registra 500.000 nuovi post al minuto, scritti in oltre 100 lingue diverse) e richiede enormi investimenti in personale specializzato e tecnologie innovative.

Ai 4.500 dipendenti attualmente impegnati nel controllare i contenuti (già pubblicati) segnalati da altri utenti come “potenzialmente inneggianti al terrorismo”, presto se ne aggiungeranno altri 3.000.  Il processo di analisi è infatti molto articolato: tutti i post segnalati passano ad una prima verifica, quindi, se il contenuto risulta potenzialmente contrario alle policy di Facebook, un secondo team di specialisti compie ulteriori indagini per determinare se occorre procedere alla rimozione del post e dell’utente dal social network.

Parallelamente al potenziamento del team di analisti, centinaia di programmatori di Facebook stanno implementando un software di intelligenza artificiale in grado di filtrare e segnalare quelli sospetti tra tutti i contenuti pubblicati (quindi non solo tra quelli segnalati da altri utenti).

Finora i migliori risultati sono stati ottenuti nell’analisi automatica di foto e video. Facebook archivia puntualmente i “video e foto di propaganda” in un database: una preziose base di conoscenza che un software utilizza per analizzare (e nel caso eliminare) un contenuto (foto o video) appena pubblicato che trovi corrispondenza nell’archivio.

Molto più difficile risulta l’analisi del linguaggio naturale. Non basta identificare la presenza della “keyword” ISIS (o Al Qaeda o così via….)  all’interno di un testo (o di un audio) per etichettarlo come inneggiante al terrorismo. La realtà ci insegna infatti che vi sono milioni di utenti che postano messaggi di condanna, riportando (o linkando) contenuti che riportano fatti terroristici.

Più in generale, per le caratteristiche intrinseche del linguaggio (lessico, ambiguità, sarcasmo, gergalità, ecc.), comprendere il linguaggio naturale, oltre che per i software di intelligenza artificiale, rappresenta un problema anche per noi umani.

Gli esperti di linguista computazionale,  come esempio,  amano citare la frase “Buffalo buffalo, which Buffalo buffalo buffalo, buffalo Buffalo buffalo.” Grammaticalmente corretta ma poco comprensibile a causa del diverso significato del termine “buffalo” (Buffalo=città, buffalo=verbo intimidire o sbalordire, buffalo=bisonte).

La strategia obbligata, per Facebook e per gli organismi governativi (agenzie di intelligence e forze di polizia), non può dunque che prevedere un utilizzo combinato di tecnologie e capitale umano.

Servono i migliori software in grado di distinguere, con la maggior precisione possibile e più rapidamente dell’uomo, le situazioni nette (bianche o nere), mentre per le situazioni meno definite (le cosiddette aree grigie)  serve (e servirà ancora, almeno per qualche anno) la capacità umana di “distinguere la sfumatura”.

PS: La frase inglese citata sopra può essere tradotta cosi: « Bisonti di Buffalo che intimidiscono bisonti di Buffalo possono sconcertare [altri] bisonti di Buffalo o, ancora meglio, “I bufali di Buffalo, che intimidiscono bisonti di Buffalo, sconcertano (altri) bisonti di Buffalo” (Wikipedia.com)

Foto: Getty

 

 

 

Eugenio Santagata, Andrea MelegariVedi tutti gli articoli

Eugenio Santagata: Laureato in giurisprudenza presso l'Università di Napoli e in Scienze Politiche all'Università di Torino, ha conseguito un MBA alla London Business School e una LL.M alla Hamline University Law School. Ha frequentato la Scuola Militare Nunziatella a Napoli e l'Accademia Militare di Modena. Da ufficiale ha ricoperto ruoli militari operativi per poi entrare nel settore privato dando vita a diverse iniziative nel campo dell'hi-tech. E' stato CEO di CY4Gate e Vice Direttore Generale di Elettronica. Dall’aprile 2021 è CEO di Telsy. --- Andrea Melegari: Laureato in Informatica, ha insegnato per oltre 10 anni all'Accademia Militare di Modena. Dal 2000 si è specializzato nello sviluppo e nell'impiego delle tecnologie di Intelligenza Artificiale in ambito civile e militare. Tra gli incarichi ricoperti SEVP Defense, Intelligence & Security di Expert AI, Chief Marketing & Innovation Officer di CY4Gate. E' stato anche membro del CdA delle società Expert AI, CY4Gate e Expert System USA (Washington DC area). Dal luglio 2021 lavora presso una azienda tecnologica di un importante Gruppo industriale italiano.

Login

Benvenuto! Accedi al tuo account

Ricordami Hai perso la password?

Lost Password

My Agile Privacy
Questo sito utilizza cookie tecnici e di profilazione. Cliccando su accetta si autorizzano tutti i cookie di profilazione. Cliccando su rifiuta o la X si rifiutano tutti i cookie di profilazione. Cliccando su personalizza è possibile selezionare quali cookie di profilazione attivare. Inoltre, questo sito installa Google Analytics nella versione 4 (GA4) con trasmissione di dati anonimi tramite proxy. Prestando il consenso, l'invio dei dati sarà effettuato in maniera anonima, tutelando così la tua privacy.
Attenzione: alcune funzionalità di questa pagina potrebbero essere bloccate a seguito delle tue scelte privacy