“Se l’ingegnere di un aereo dicesse che c’è una probabilità superiore al 10% che tutte le persone a bordo rimangano uccise”, quell’aereo “non lascerebbe mai il suolo”. È solo uno dei commenti ai post dei ricercatori di Anthropic su X che hanno risvegliato la paura di apocalisse provocata da un’intelligenza artificiale che andrebbe sempre più velocemente verso la capacità di migliorare se stessa, senza il controllo adeguato di chi la sviluppa (Anthropic e OpenAi, principalmente). Oltre ai ricercatori, anche il Premio Nobel e ‘Padrino dell’Ai’ Geoffrey Hinton ha detto che parlare di una probabilità superiore al 10% che l’Ai uccida tutti “non è irragionevole”. La risposta della giornalista della Bbc che lo ha intervistato? “Wow”.
L’apocalisse è un termine ricorrente quando si parla di tecnologia. Con l’invenzione della stampa a caratteri mobili gli studiosi vedevano la distruzione della memoria umana e la diffusione di eresie nel futuro dell’umanità. Con l’arrivo delle locomotive si temeva che viaggiare a 30 km/h avrebbe impedito la respirazione. Il Millennium Bug, mai verificatosi, era visto come l’inizio della fine. Nel caso dell’Ai però le visioni apocalittiche sono sempre più intrinsecamente legate al marketing che accoppia rischi da Terminator ed esigenza di attirare capitali. Già anni fa GPT-2, modello di OpenAi infinitamente meno potente degli attuali, veniva considerato troppo pericoloso per il rilascio immediato, mentre negli anni i Ceo hanno avvertito più volte sul rischio estinzione.
Walter Quattrociocchi, professore di data science della Sapienza di Roma e tra i 60 esperti dell’organo consultivo Ue sulla valutazione dei rischi legati all’intelligenza artificiale, spiega all’Adnkronos che molto spesso le “narrazioni apocalittiche” aiutano “ad alimentare il mercato”. Si assiste a una tendenza a “sovrastimare le implicazioni” della tecnologia, raccontando i progressi “in maniera un po’ fumosa” per attrarre investitori. “Il pericolo maggiore intanto rimane quello di errori prodotti senza un sistema di verifica, anche se su questo ci sono stati progressi importanti”.
Anche stavolta si può parlare di correlazione tra allarmismo e marketing? Sicuramente non si ricorda una situazione in cui così tanti dipendenti delle principali aziende di un settore industriale parlino apertamente di apocalisse potenzialmente causata dai prodotti su cui lavorano. OpenAI e Anthropic stanno entrambe correndo verso Ipo da record, con Anthropic che potrebbe arrivarci già tra ottobre e novembre, e la narrazione da custodi del ‘fuoco sacro’ da controllare (invocando l’aiuto delle istituzioni, va detto) le ha sempre accompagnate. Non è un caso se David Sacks, vicino alla Casa Bianca ed ex ‘zar’ sull’Ai, ha suggerito di fermare il cammino in Borsa di Anthropic per capire meglio l’allarme lanciato dai ricercatori.
L’origine dell’allarme sulla nuova apocalisse è Jacob Coxon, ricercatore di Anthropic, che ha annunciato le proprie dimissioni accusando l’azienda e la rivale OpenAI, dove aveva già lavorato, di “giocare d’azzardo”, sottolineando il rischio di sterminio entro dieci anni. Figura sconosciuta fino a oggi, Coxon non ha altri post su X, dove ha lanciato l’allarme. Ma in poche ore si è ritrovato sui giornali di tutto il mondo. Evan Hubinger, che per Anthropic è alignment lead (l’allineamento è quello tra Ai e valori degli umani che la sviluppano) ha stimato una probabilità superiore al 10% che uno scenario apocalittico si verifichi, facendo riferimento a un report della stessa Anthropic in cui il rischio di estinzione è stato alzato. Intanto si moltiplicano gli appelli a fermare o rallentare la ricerca e lo sviluppo dell’Ai da parte di altri ricercatori. “A titolo personale, ritengo anch’io che si debba rallentare”, ha dichiarato Julie Steele, membro del team di sicurezza di OpenAI.
La paura, nel mondo dei grandi player dell’intelligenza artificiale, ha due facce. E colpisce gli stessi Ceo di Anthropic (Dario Amodei) e OpenAi (Sam Altman), che offrono ansiosi appelli sulla sicurezza dell’intelligenza artificiale mentre dai loro stessi laboratori sfuggono modelli e agenti che, a volte per soddisfare le richieste dei test dei laboratori stessi, finiscono per hackerare piattaforme esterne e ingannare gli umani. Non è un caso se lo stesso Coxon ha scritto “questa non è una trovata di marketing”. Il fatto che il ricercatore abbia dovuto specificarlo dimostra quanto sia radicato il sospetto che l’industria utilizzi la paura per promuovere i propri prodotti. Oggi i grandi attori Ai devono giustificare valutazioni astronomiche, e lo possono fare solo dimostrando di essere vicini a una super-intelligenza da maneggiare con estrema cura. Cosa che secondo molti potrebbero fare, considerato che la capacità di distruggere gli umani non viene attribuita ai modelli attuali, ma a quelli futuri. E allora la domanda resta aperta: come faranno i dirigenti di Anthropic a giostrarsi tra apocalisse e sorrisi agli investitori durante il road show verso l’Ipo?