Non sono contro il progresso ma chiedono una pausa di riflessione nella corsa sfrenata dell’intelligenza artificiale. Ecco chi sono e perché alcuni professori italiani hanno firmato la lettera-manifesto che invita a rallentare
Tra gli oltre mille guru della Silicon Valley e non che hanno firmato una lettera aperta invocando una pausa nello sviluppo dei sistemi di intelligenza artificiale (IA), temendo grandi rischi per l’umanità, ci sono anche loro, professori e ricercatori italiani.
Ecco chi sono e perché sono a favore di una pausa di riflessione.
Nessuno di loro vuole fermare il progresso ma l’autodistruzione sì. Per molti scienziati, infatti, un nuovo Big Ben, di tipo digitale, avverrà quando l’intelligenza delle macchine supererà quella dell’uomo, fenomeno chiamato singolarità tecnologica. Raymond Kurzweil, futurologo americano, aveva previsto che sarebbe successo nel 2045 ma, a quanto pare, il timore è che si verifichi ancora prima.
LA CARICA DEI PROF. ITALIANI
Insieme a professori delle più importanti università del mondo, dal Mit a Berkeley, da Oxford a Harvard, ci sono, tra gli altri, gli italiani Domenico Talia, professore di ingegneria informatica dell’Università della Calabria, Gianluca Bontempi, professore ordinario di machine learning alla Université Libre de Bruxelles, Alessandro Saffiotti, professore della Orebro University e membro dell’Association for Artificial Intelligence, Paolo Zuccon professore associato del dipartimento di Fisica all’Università di Trento, Gabriele Ferretti di Chalmers University of Technology e il ricercatore Alessandro Perilli.
Ad unirli è la convinzione che sia necessario fermarsi un attimo a riflettere sul boom dei sistemi di IA generativa, avviato da ChatGpt, che ci mette di fronte a potenziali menti digitali che nessuno può capire, prevedere e controllare.
TALIA: A RISCHIO I LAVORI INTELLETTUALI…
“Sappiamo che l’innovazione non si può fermare, ma questo è un caso eccezionale. Quello che sono in grado di fare queste tecnologie non è chiaro nemmeno a chi le crea. Sta succedendo tutto troppo in fretta. Tra pochi mesi potrebbe essere già pronta una Gpt-5. Ancora più potente. Queste tecnologie sono destinate a cambiare tutto. Cambieranno il lavoro di milioni di persone. Centinaia di milioni di persone. Soprattutto lavori intellettuali”, ha avvertito Talia.
Per il docente si tratta di uno sviluppo troppo veloce e fuori controllo che potrebbe anche alimentare l’instabilità sociale: “[Il rischio è] che questi strumenti vadano fuori controllo. Che non si capisca perché fanno determinate cose. Sono chatbot che rispondono direttamente dai motori di ricerca. Sono alimentati da miliardi di parametri, ma chi ha il controllo sulle risposte? Chi può evitare che diffondano disinformazione? Magari in comunità particolarmente sensibili?”.
…MA ANCHE LA STABILITÀ SOCIALE
Come scrive infatti Talia nel suo saggio L’impero dell’algoritmo – L’intelligenza delle macchine e la forma del futuro (edito nel 2021 da Rubbettino): “L’intelligenza artificiale (ia), i robot, l’Internet delle Cose stanno spingendo verso uno scenario in cui l’intelletto artificiale potrà essere più capace dell’intelletto umano e alcuni elementi fondanti della nostra società come la democrazia, le libertà, i diritti, i valori umani e la socialità, potrebbero essere profondamente trasformati”.
“Il governo dell’automazione che si ciba di dati e di algoritmi genererà il governo della società e già oggi sta facendo nascere nuove pratiche di potere che indeboliscono le fragili forme di democrazia che governano l’Occidente e, allo stesso tempo, dà forza ai regimi autoritari che hanno necessità di nuove e sofisticate forme di controllo e di egemonia”.
CHI GOVERNA QUESTO CAMBIAMENTO
Nel saggio di Talia si legge anche che a capo di tutto questo c’è “una élite mondiale composta da un gruppo esclusivo – guidato dalle grandi compagnie digitali statunitensi e cinesi – che quotidianamente immagina, progetta e realizza algoritmi, sistemi software e app che milioni o miliardi di cittadini usano“.
Il problema è che “lo fanno spesso senza conoscerne le logiche profonde e ignorandone nella grandissima parte i codici operativi“. E, dunque: “Per evitare che questa nuova élite tecnologica diventi la nuova “razza padrona” delle vite di miliardi di persone è necessario immaginare un uso civico ed etico delle nuove tecnologie, promuovere una diffusione delle conoscenze sul loro utilizzo e su come esse possono trasformare la realtà in cui operano”.
PERILLI: NON CONFONDIAMO AUTOMAZIONE CON IA
Dopo nove anni di carriera nella società di software Red Hat, dove si è occupato tra le altre cose dello sviluppo di un sistema di IA basato sul Large Language Model, la stessa tecnologia usata da ChatGpt, Perilli afferma che quella esperienza lo ha convinto di una cosa: “L’intelligenza artificiale che stiamo vedendo oggi porterà secondo me a un cambiamento radicale nel mondo del lavoro: del tipo di lavoro che gli esseri umani fanno e di come definiamo il concetto di lavoro stesso”.
Alla domanda se l’IA possa sottrarre posti di lavoro alle persone risponde fermamente ‘no’ e spiega che “è più realistico pensare all’automazione come uno strumento per scalare le capacità umane, che è un modo complicato di dire che l’automazione aiuta i lavoratori a fare più cose nella stessa unità di tempo”.
“Automazione e intelligenza artificiale – precisa – possono essere usate in maniera sinergica, ma non sono assolutamente la stessa cosa”.
ANCHE L’OCSE DICE STOP
Goldman Sachs stima che i nuovi algoritmi faranno crescere il Pil mondiale del 7% in 10 anni ma possono provocare un terremoto nel mondo del lavoro: in Europa e Stati Uniti, infatti, due terzi dei lavoratori sono esposti in qualche modo all’automazione dell’IA. Se per i più farà calare un po’ il carico di lavoro, veramente a rischio è quel 7% di persone le cui mansioni almeno per metà potranno essere svolte dagli algoritmi.
A tal proposito l’economista Stefano Scarpetta, direttore per l’impiego, il lavoro e gli affari sociali all’Ocse, che non è tra i firmatari della lettera, ha spiegato ieri sera al Tg1 che, sebbene ci sia ancora incertezza sull’impatto dell’IA sulla produttività e sull’occupazione, “gli ultimi sviluppi ci dicono che l’impatto rischia di essere enorme”.
Tuttavia, ha aggiunto, “di quei 300 milioni di posti di lavoro [di cui parla Goldman Sachs, ndr] molti rimarranno anche se le mansioni svolte dai lavoratori cambieranno in modo sostanziale, solo un 7-10% potrà essere completamente automatizzato ma si creeranno allo stesso tempo altri lavori”.
Infine, commentando la lettera aperta ha detto: “Credo che la pausa di riflessione che Elon Musk e gli altri hanno sottolineato sia effettivamente necessaria perché la velocità e il progresso di queste nuove tecnologie digitali sono molto rapide”.