Se l’algoritmo non è un oracolo

untitled

di Eugenio Santagata (Ceo di C4YGate) e Andrea Melegari (Chief Marketing&Innovation di CY4Gate)

Pizia, il più famoso degli oracoli della antica Grecia, sedeva nel tempio di Apollo a Delfi. Alla profetessa si rivolgevano tutti coloro che volevano sapere del futuro. Le sue profezie erano tenute in grande conto, anche dai più forti condottieri spartani.

Duemilacinquecento anni dopo, una parte importante della nostra esistenza (e del nostro futuro), è “decretato” dai computer. Per esempio, è un algoritmo che analizza il nostro profilo e decide se possiamo ottenere un prestito, o se siamo il candidato ideale per ricoprire un posto di lavoro. O se meritiamo priorità di cura nel sistema sanitario. E, in un futuro molto più prossimo di quanto crediamo, verso quale nemico puntare il nostro sistema di contraerea.

Semplificando ai massimi termini, gli algoritmi basano il loro ragionare sulla analisi di una lunga sequenza di eventi e su di un preciso obiettivo (ridurre il rischio legato all’insolvenza del credito, selezionare il candidato più adatto ad un determinato profilo professionale, intervenire tempestivamente per sconfiggere una malattia, neutralizzare il nemico più pericoloso).

L’algoritmo viene quindi addestrato, impara e costruisce dei modelli di riferimento che gli serviranno per scegliere quale delle varie opzioni presentate può, con maggiore probabilità, centrare l’obiettivo finale.

Senza rendercene conto, continuamente, tutti noi usiamo degli algoritmi. Ad esempio per decidere cosa mangiare. Se durante alcuni dei nostri pasti (la sequenza di eventi che prendiamo in considerazione) abbiamo registrato problemi alimentari, allora eviteremo alcuni cibi. Anche le recensioni degli utenti Tripadvisor (un’altra sequenza di eventi) condizioneranno la scelta del ristorante per la cena.

Tutto ciò per sottolineare che ogni algoritmo, anche quelli codificati in un software, sono (almeno in parte) condizionati da una opinione personale e dall’insieme di informazioni che utilizziamo per decidere. Situazione molto diversa dalla percezione comune, per cui invece, i “software si comportano in modo scientifico ed obiettivo”.

Pertanto, se il programmatore software ha dei “pregiudizi”, e il data set utilizzato per fare apprendere il software non è “correttamente costruito”, avremo verosimilmente un sistema informatico che propone soluzioni sbagliate.

A proposito di responsi, tornando per qualche istante all’Oracolo di Delfi: alcuni ricerche di geologi italiani e greci hanno evidenziato come il tempio di Apollo fosse collocato su di una faglia da cui fuoriuscivano gas.  Esalazioni di metano in un ambiente povero di ossigeno: ecco, sarebbe questa la vera ragione che induceva in uno stato di allucinazione le sacerdotesse. Le loro parole senza senso, interpretate dai fedeli come messaggi degli Dei, non erano che gli effetti di una “sniffata”.

Nel mondo della Difesa, in cui va sempre più affermandosi la centralità dei sistemi informatici e delle tecnologie di intelligenza artificiale, diventa decisivo comprendere esattamente come sono stati progettati i software acquistati, pretendendo dalle ditte fornitrici totale visibilità e trasparenza del codice sorgente (algoritmi e data set).

In maggior misura, se il produttore di software è una azienda non nazionale, dietro al cui algoritmo proprietario (leggasi segreto) potrebbero infatti essere presenti oltre ad errori commessi in buona fede (bug), anche comportamenti malevoli, falle nella sicurezza del software utilizzabili per un cyber attacco (back door) od altri malfunzionamenti che potrebbero minare la nostra sovranità nazionale.

Alcune notizie positive. Abbiamo fatto passi da gigante ed i software funzionano generalmente meglio delle predizioni dell’oracolo. Inoltre, gli algoritmi, quando errati, possono essere corretti ed aggiornati (tecnicamente nel linguaggio dei programmatori “patchati”) e cominciare a funzionare perfettamente.

*Eugenio Santagata ha ricoperto diversi ruoli operativi come ufficiale nelle operazioni militari e ha dato il via a diverse iniziative nel campo dell’hi-tech da quando è entrato nel settore privato. È ceo di CY4Gate e il Vice Direttore Generale di Elettronica. Ha conseguito la laurea in giurisprudenza presso l’Università di Napoli, in Scienze Politiche dell’Università di Torino, un MBA alla London Business School e una LL.M alla Hamline University Law School. Parla inglese, francese, russo e spagnolo.

Andrea MelegariVedi tutti gli articoli

Laureato in Informatica presso l’Università di Modena, ha maturato grande esperienza nel realizzare e coordinare progetti molto complessi che impiegano la tecnologia semantica a supporto del processo di Intelligence. Ha insegnato per oltre 10 anni all'Accademia Militare di Modena. E' Senior Executive Vice President, Defense, Intelligence & Security di Expert System di cui ha guidato per 12 anni l’Intelligence Division. E' stato uno dei promotori della joint venture con Elettronica che ha portato alla nascita di CY4Gate, nuovo player globale nel settore Cyber Electronic Warfare & Intelligence, di cui è Chief Marketing & Innovation Officer. Attualmente è membro del CdA di Expert System, CY4Gate e Expert System USA.

Login

Benvenuto! Accedi al tuo account

Ricordami Hai perso la password?

Lost Password