Ecco quanto (poco) costa un robot capace di disinformare (tanto)

UNGA

Ma quanto è complicato realizzare un software in grado di generare automaticamente discorsi così credibili da poter essere attribuiti a personalità politiche di rilevanza internazionale? Quanto tempo serve? E quanto denaro occorre investire?

Sono queste le tre domande principali che hanno stimolato un’interessante ricerca realizzata da UN Global Pulse, un’iniziativa delle Nazioni Unite che studia e promuove l’uso responsabile delle nuove tecnologie informatiche e dei big data.

La capacità di un algoritmo di creare testi credibili è infatti già ampiamente utilizzata per sviluppare chatbot, riassumere testi, scrivere sceneggiature di film e, purtroppo, anche per robotizzare la produzione di fake news veritiere.

Lo studio di UN Global Pulse ha impiegato un software di machine learning (un approccio di intelligenza artificiale) e l’archivio dei testi dei discorsi pronunciati davanti all’Assemblea Generale delle Nazioni Unite nel periodo 1970-2015.

Gli algoritmi di intelligenza artificiale hanno rapidamente “elaborato e appreso” tutti i testi prodotti in 45 anni di storia politica, sulla base dei quali è stato realizzato un modello che ha permesso di generare automaticamente testi su tre specifici argomenti: problemi generali (ad esempio il cambiamento climatico), commenti del Segretario Generale e discorsi caratterizzati da toni discriminatori e razzisti.

Ecco i risultati: i testi generati automaticamente sulle problematiche generali, nel 90% dei casi, sono paragonabili a quelli redatti dall’uomo. I ricercatori sono convinti che, con qualche piccolo ritocco manuale, il testo prodotto dall’intelligenza artificiale possa divenire di fatto indistinguibile da quello scritto da un essere umano. Di qualità inferiore invece è risultata la produzione di testi discriminatori e razzisti, ma è plausibile ipotizzare che, con un miglior dataset, si possa migliorare facilmente la qualità del prodotto finale (ora attorno al 50%).

Questi dati numerici relativi alla precision sono relativamente importanti. Quello che ci interessa evidenziare qui è invece la risposta alle tre domande iniziali. Andiamo per ordine.

Chiunque può dotarsi dell’algoritmo di machine learning: è un software open source, senza costi e facilmente reperibile in Rete. Idem per i testi degli ultimi 45 anni, con cui addestrare l’algoritmo di machine learning che, in sole 13 ore, può produrre il modello in grado di generare automaticamente i discorsi.

Infine, l’investimento per disporre della capacità di calcolo (noleggiata su cloud) per tutte le elaborazioni sopra descritte ha registrato un costo complessivo di 7,8 (sì, solo sette virgola otto!) dollari americani.

Davvero un investimento limitato, se paragonato allo sforzo necessario per comprendere se stiamo leggendo un discorso composto da un essere umano o generato da un computer. Davvero infinitesimale se pesiamo le possibili conseguenze in termini di disinformazione.

Ciò detto, l’AI procede sempre di più verso numerose applicazioni concrete, seppur con un passo abbastanza lento, come abbiamo spesso ripetuto. Questo perché un conto è mappare i wi-fi di un’area, altra cosa è hackerare all’istante tutti i device connessi. Ad oggi, ci troviamo nella fase di elaborazione di modelli ed emulazione di comportamenti, con la certezza che, seppur a passo lento, talvolta anche molto lento, non si torna indietro.

 

Eugenio Santagata, Andrea MelegariVedi tutti gli articoli

Eugenio Santagata: Laureato in giurisprudenza presso l'Università di Napoli e in Scienze Politiche all'Università di Torino, ha conseguito un MBA alla London Business School e una LL.M alla Hamline University Law School. Da ufficiale ha ricoperto ruoli militari operativi per poi entrare nel settore privato dando vita a diverse iniziative nel campo dell'hi-tech. E' CEO di CY4Gate e Vice Direttore Generale di Elettronica. --- Andrea Melegari: Laureato in Informatica all'Università di Modena, è specializzato in tecnologia semantica a supporto dell'intelligence. Ha insegnato per oltre 10 anni all'Accademia Militare di Modena ed è Senior Executive Vice President, Defense, Intelligence & Security di Expert System. E' Chief Marketing & Innovation Officer di CY4Gate e membro del CdA di Expert System, CY4Gate e Expert System USA.

Login

Benvenuto! Accedi al tuo account

Ricordami Hai perso la password?

Lost Password