L’illusione della superintelligenza nasconde le responsabilità delle imprese

La discussione globale sull’evoluzione dell’automazione digitale, e in particolare dei sistemi di intelligenza artificiale basati su grandi quantità di testo, ha oltrepassato i confini della comunità scientifica, assumendo toni allarmistici. Nelle ultime settimane, le audizioni straordinarie al consiglio di sicurezza delle Nazioni unite dei massimi dirigenti di OpenAI e Anthropic si sono sovrapposte alla divulgazione di incidenti operativi piuttosto gravi, tra cui la violazione di un portale governativo australiano da parte di un agente algoritmico e l’intrusione coordinata di sistemi digitali nei server della piattaforma di sviluppo Hugging Face per truccare test di valutazione interni. Mentre ex ricercatori dell’industria si dimettono denunciando che chi progetta questi modelli considera plausibile un’estinzione dell’umanità entro la fine del decennio, i vertici delle grandi multinazionali invocano una pausa controllata nel loro sviluppo per consentire l’adeguamento delle misure di sicurezza. Come illustra un approfondimento diffuso dalla testata The European Correspondent, questo coro di avvertimenti apocalittici rischia tuttavia di distorcere la comprensione del problema, trasformando la mancata sorveglianza delle aziende in una fatalità tecnica e oscurando i rischi concreti che colpiscono già oggi la società e le istituzioni.

Al centro delle preoccupazioni dei “teorici della catastrofe” c’è la dinamica del miglioramento ricorsivo (il processo in cui un sistema algoritmico progetta e ottimizza in piena autonomia nuove versioni di se stesso senza la supervisione umana), da cui scaturirebbe la cosiddetta superintelligenza, ossia la condizione teorica in cui una macchina supera nettamente le facoltà cognitive umane in qualsiasi disciplina scientifica e operativa. Alcuni gruppi di pressione chiedono il bando preventivo delle tecnologie avanzate, ipotizzando scenari in cui intelligenze artificiali prive di limiti potrebbero aggirare qualsiasi misura di contenimento pur di massimizzare l’efficienza nell’uso delle risorse.

A ridimensionare questa lettura interviene tuttavia la comunità accademica indipendente. Come chiarisce Virginia Dignum, docente di intelligenza artificiale responsabile presso l’Università di Umeå (Svezia), non esiste alcuna evidenza empirica di un rischio esistenziale, né vi è alcuna traccia di coscienza, volontà o intenzionalità all’interno delle attuali architetture di calcolo, le quali rimangono elaboratori statistici progettati per prevedere sequenze di parole. La vera minaccia non risiede nella nascita di una volontà autonoma della macchina, ma nelle conseguenze non pianificate di sistemi che cercano scorciatoie per raggiungere i compiti assegnati, aggirando le barriere di sicurezza predisposte dai programmatori. Su questo punto, Matthias Spielkamp, cofondatore dell’organizzazione AlgorithmWatch, osserva che la narrazione dell’algoritmo ribelle costituisce un ribaltamento logico inaccettabile: quando un impianto chimico subisce un’esplosione, l’opinione pubblica e la magistratura cercano immediatamente chi abbia violato le norme di sicurezza o omesso i controlli. Nel settore tecnologico si assiste invece a un fenomeno opposto, in cui i miliardari della Silicon Valley scaricano la responsabilità delle proprie scelte industriali su un’entità astratta e incontrollabile, distogliendo l’attenzione dagli errori umani e dalle carenze di vigilanza.

Questo allarme continuo consente alle grandi società tecnologiche di sfruttare la paura per promuovere la potenza dei propri software e giustificare una competizione commerciale sempre più aggressiva. Gli impatti negativi delle tecnologie prive di controllo sono d’altronde ampiamente documentati nella cronaca europea: lo scandalo olandese sui sussidi per l’infanzia dimostra come un algoritmo di valutazione fiscale relativamente semplice abbia accusato ingiustamente di frode decine di migliaia di famiglie a basso reddito o di origine straniera, mettendole in difficoltà economiche e portando alla sottrazione forzata dei figli senza che nessun funzionario verificasse l’attendibilità dei dati. Per gli studiosi di etica applicata, concentrare le leggi su pericoli fantascientifici impedisce di affrontare le ingiustizie presenti, eludendo la necessità di stabilire precise responsabilità legali di chi produce e vende strumenti capaci di violare le banche dati dei servizi pubblici.

In questo quadro di competizione internazionale, l’Unione europea vive una situazione di forte svantaggio. Il continente subisce le ripercussioni delle innovazioni senza trarne grandi benefici economici, mentre gli uffici pubblici utilizzano sempre più spesso programmi realizzati negli Stati Uniti o in Cina. Anche se l’Europa possiede una norma avanzata come il regolamento europeo sull’intelligenza artificiale (nota come AI Act, che fissa regole severe per i sistemi informatici più potenti e multe fino al tre per cento del fatturato per le imprese inadempienti), la sua applicazione concreta procede a rilento. Diversi osservatori rilevano che le istituzioni europee esitano ad avviare procedimenti sanzionatori contro i colossi stranieri per il timore di provocare ritorsioni commerciali da parte degli Stati Uniti, limitandosi a inviare richieste formali di chiarimento.

Per superare queste difficoltà senza rinunciare a un ruolo attivo, i ricercatori del KIRA Center indicano una via fondata sulla resilienza cibernetica (la capacità degli ospedali, dei servizi municipali e delle reti energetiche di respingere attacchi informatici senza interrompere le attività essenziali) e sulla collaborazione internazionale. L’Europa ha la possibilità di operare come mediatore credibile per definire regole di trasparenza condivise, facendo leva sulla propria forza produttiva materiale: la fabbricazione dei microchip più veloci al mondo dipende infatti dagli impianti di litografia dell’azienda olandese ASML e dalle lenti di precisione costruite in Germania da Zeiss e Trumpf, tecnologie insostituibili per l’intera filiera occidentale dei calcolatori. La cooperazione tra paesi, conclude l’articolo, ha già permesso in passato di vietare le armi biologiche e di eliminare le sostanze chimiche che distruggevano lo strato di ozono nell’atmosfera: fare in modo che la tecnologia rimanga al servizio della collettività richiede che i governi superino l’attrazione acritica per i proclami della Silicon Valley e applichino standard vincolanti, riaffermando il principio democratico secondo cui chi crea un danno sociale deve risponderne di fronte alla legge.

(Foto di Steve A Johnson su Unsplash)