Se l’algoritmo non è un oracolo

untitled

di Eugenio Santagata (Ceo di C4YGate) e Andrea Melegari (Chief Marketing&Innovation di CY4Gate)

Pizia, il più famoso degli oracoli della antica Grecia, sedeva nel tempio di Apollo a Delfi. Alla profetessa si rivolgevano tutti coloro che volevano sapere del futuro. Le sue profezie erano tenute in grande conto, anche dai più forti condottieri spartani.

Duemilacinquecento anni dopo, una parte importante della nostra esistenza (e del nostro futuro), è “decretato” dai computer. Per esempio, è un algoritmo che analizza il nostro profilo e decide se possiamo ottenere un prestito, o se siamo il candidato ideale per ricoprire un posto di lavoro. O se meritiamo priorità di cura nel sistema sanitario. E, in un futuro molto più prossimo di quanto crediamo, verso quale nemico puntare il nostro sistema di contraerea.

Semplificando ai massimi termini, gli algoritmi basano il loro ragionare sulla analisi di una lunga sequenza di eventi e su di un preciso obiettivo (ridurre il rischio legato all’insolvenza del credito, selezionare il candidato più adatto ad un determinato profilo professionale, intervenire tempestivamente per sconfiggere una malattia, neutralizzare il nemico più pericoloso).

L’algoritmo viene quindi addestrato, impara e costruisce dei modelli di riferimento che gli serviranno per scegliere quale delle varie opzioni presentate può, con maggiore probabilità, centrare l’obiettivo finale.

Senza rendercene conto, continuamente, tutti noi usiamo degli algoritmi. Ad esempio per decidere cosa mangiare. Se durante alcuni dei nostri pasti (la sequenza di eventi che prendiamo in considerazione) abbiamo registrato problemi alimentari, allora eviteremo alcuni cibi. Anche le recensioni degli utenti Tripadvisor (un’altra sequenza di eventi) condizioneranno la scelta del ristorante per la cena.

Tutto ciò per sottolineare che ogni algoritmo, anche quelli codificati in un software, sono (almeno in parte) condizionati da una opinione personale e dall’insieme di informazioni che utilizziamo per decidere. Situazione molto diversa dalla percezione comune, per cui invece, i “software si comportano in modo scientifico ed obiettivo”.

Pertanto, se il programmatore software ha dei “pregiudizi”, e il data set utilizzato per fare apprendere il software non è “correttamente costruito”, avremo verosimilmente un sistema informatico che propone soluzioni sbagliate.

A proposito di responsi, tornando per qualche istante all’Oracolo di Delfi: alcuni ricerche di geologi italiani e greci hanno evidenziato come il tempio di Apollo fosse collocato su di una faglia da cui fuoriuscivano gas.  Esalazioni di metano in un ambiente povero di ossigeno: ecco, sarebbe questa la vera ragione che induceva in uno stato di allucinazione le sacerdotesse. Le loro parole senza senso, interpretate dai fedeli come messaggi degli Dei, non erano che gli effetti di una “sniffata”.

Nel mondo della Difesa, in cui va sempre più affermandosi la centralità dei sistemi informatici e delle tecnologie di intelligenza artificiale, diventa decisivo comprendere esattamente come sono stati progettati i software acquistati, pretendendo dalle ditte fornitrici totale visibilità e trasparenza del codice sorgente (algoritmi e data set).

In maggior misura, se il produttore di software è una azienda non nazionale, dietro al cui algoritmo proprietario (leggasi segreto) potrebbero infatti essere presenti oltre ad errori commessi in buona fede (bug), anche comportamenti malevoli, falle nella sicurezza del software utilizzabili per un cyber attacco (back door) od altri malfunzionamenti che potrebbero minare la nostra sovranità nazionale.

Alcune notizie positive. Abbiamo fatto passi da gigante ed i software funzionano generalmente meglio delle predizioni dell’oracolo. Inoltre, gli algoritmi, quando errati, possono essere corretti ed aggiornati (tecnicamente nel linguaggio dei programmatori “patchati”) e cominciare a funzionare perfettamente.

*Eugenio Santagata ha ricoperto diversi ruoli operativi come ufficiale nelle operazioni militari e ha dato il via a diverse iniziative nel campo dell’hi-tech da quando è entrato nel settore privato. È ceo di CY4Gate e il Vice Direttore Generale di Elettronica. Ha conseguito la laurea in giurisprudenza presso l’Università di Napoli, in Scienze Politiche dell’Università di Torino, un MBA alla London Business School e una LL.M alla Hamline University Law School. Parla inglese, francese, russo e spagnolo.

Eugenio Santagata, Andrea MelegariVedi tutti gli articoli

Eugenio Santagata: Laureato in giurisprudenza presso l'Università di Napoli e in Scienze Politiche all'Università di Torino, ha conseguito un MBA alla London Business School e una LL.M alla Hamline University Law School. Da ufficiale ha ricoperto ruoli militari operativi per poi entrare nel settore privato dando vita a diverse iniziative nel campo dell'hi-tech. E' CEO di CY4Gate e Vice Direttore Generale di Elettronica. --- Andrea Melegari: Laureato in Informatica all'Università di Modena, è specializzato in tecnologia semantica a supporto dell'intelligence. Ha insegnato per oltre 10 anni all'Accademia Militare di Modena ed è Senior Executive Vice President, Defense, Intelligence & Security di Expert System. E' Chief Marketing & Innovation Officer di CY4Gate e membro del CdA di Expert System, CY4Gate e Expert System USA.

Login

Benvenuto! Accedi al tuo account

Ricordami Hai perso la password?

Lost Password