L’intelligenza non è della macchina ma è quella del suo programmatore

di FRANCESCO MARINI
Andando ad approfondire una tematica di grande interesse e attualità, la Fondazione Toniolo, in collaborazione con la Bcc Valpolicella Benaco, ha ospitato Stefano Quintarelli presso la sua sede. Venerdì 17 marzo l’imprenditore del settore internet, già deputato tra il 2013 e il 2018, professore e fondatore di I.Net (il primo internet provider italiano) nonché inventore del sistema Spid, ha condiviso alcune sue riflessioni sulla cosiddetta intelligenza artificiale e sul mondo digitale.
Il presidente del Toniolo, don Renzo Beghini, nel presentare la conferenza, ha spiegato la scelta dell’argomento: «Spesso papa Francesco ha richiamato tutti a porre attenzione alla globalizzazione del paradigma tecnocratico perché, dice per esempio nella Laudato si’, la tecnologia deve promuovere il bene comune e lo sviluppo umano integrale […]. Se la cosiddetta intelligenza artificiale si basa solo su criteri di efficienza ed utilità, rischia di farci perdere il senso della differenza tra strumenti e fini generando ciò che viene definita cultura dello scarto». Lo spunto per cominciare è stato fornito da ChatGpt, l’intelligenza artificiale conversazionale recentemente divenuta molto famosa (ma disabilitata nei giorni scorsi per gli utenti in Italia in seguito a un procedimento del Garante per la privacy, ndr). La società creatrice, OpenAi, ha voluto mettere a disposizione questo software molto potente, veloce e versatile, costruito con algoritmi di apprendimento automatico capaci di fornire alle domande risposte simili a quelle che darebbe un essere umano. Quello che sembra un traguardo tecnologico a dir poco stupefacente, però, nasconde molto bene i suoi vistosi e attualmente insuperabili limiti.
Di quali limiti si tratta? Nella sua riflessione, Quintarelli ha spiegato cos’è e come funziona il machine learning: la traduzione italiana del termine sarebbe la capacità di imparare delle macchine, nella realtà si tratta di una abilità fornita ai calcolatori attraverso alcuni algoritmi, ovvero alcuni programmi. Questa abilità deriva, nel caso delle intelligenze artificiali, dall’analisi di una grandissima quantità di dati: per esempio, per “insegnare” ad un robot a riconoscere un gatto è necessario fornire migliaia e migliaia di foto di gatti. Essendo internet un grande contenitore di informazioni di vario tipo, la macchina attinge dalla rete una enorme quantità di dati e “impara” qualcosa. Così, quando ad un computer si chiederà cos’è un gatto oppure di riconoscere un gatto in una fotografia, il programma sarà in grado di farlo perché potrà attingere dal suo archivio tutte le informazioni collezionate sul felino. Un’eventuale risposta corretta, però, non deve illudere l’utente. Infatti, ha continuato nelle sue considerazioni l’informatico veronese, qualsiasi programma e qualsiasi macchina possono “ragionare” solo in termini sintattici e non semantici. Che cosa significhi questo è presto detto.
La mente umana, a differenza dei calcolatori, è in grado di riconoscere e dare un significato alle affermazioni scritte o dette. Tornando all’esempio del gatto: un individuo, quando sente pronunciare la parola gatto, subito può pensare all’animale, quindi ad un essere animato con delle particolari caratteristiche che lo rendono diverso da un cane o da un coniglio o da qualsiasi altro essere vivente. Un algoritmo, invece, no: non ha un’esperienza “esterna” a sé stesso e quindi non è in grado di stabilire relazioni con il mondo reale, neanche nel significato delle cose. Può solo costruire “ragionamenti” in termini sintattici, ovvero tra parole all’interno di un discorso. Questo, che sembra un aspetto puramente teorico e quasi fin troppo filosofico, mostra invece in tempi brevissimi le sue debolezze e, tra tutte, il grande problema etico che sta al cuore della questione. Se una macchina non conosce i significati delle parole, ogni sua decisione viene presa alla luce di indicazioni che vengono fornite dal programmatore. Dove il programma cercherà le informazioni? Dove l’informatico ha stabilito. Come restituire i dati all’utente? Nel modo in cui il programmatore ha stabilito. Domande che non possono essere prese con leggerezza, ma sulle quali è necessaria una profonda riflessione perché, in fin dei conti, ciò che viene delegato ai calcolatori non è detto che sia sempre corretto ma, soprattutto, è privo della dimensione umana.