di Stefano Vaccara
NEW YORK (USA) (ITALPRESS) – L’intelligenza artificiale entra nel cuore della sicurezza internazionale. Per iniziativa della Francia, presidente di turno del Consiglio di Sicurezza dell’ONU, è in corso al Palazzo di Vetro una riunione ad alto livello dedicata all’impatto dell’intelligenza artificiale sulla pace e sulla sicurezza mondiale. A presiederla è il ministro degli Esteri francese Jean-Noël Barrot.
Alla riunione dedicata all’intelligenza artificiale questa volta, davanti ai quindici membri del Consiglio, accanto a diplomatici ed esperti, sono arrivati alcuni dei protagonisti della rivoluzione tecnologica. Sam Altman, CEO di OpenAI, è intervenuto personalmente nella sala del Consiglio, mentre Dario Amodei, cofondatore e CEO di Anthropic, e Clément Delangue, CEO di Hugging Face, hanno partecipato in videocollegamento. Tra i primi a intervenire anche Yoshua Bengio, pioniere dell’AI e co-presidente dell’Independent International Scientific Panel on Artificial Intelligence dell’ONU.
“Abbiamo una scelta davanti a noi”, ha detto Altman. L’intelligenza artificiale può diventare “un nuovo Rinascimento di creatività e scoperta”, capace di ampliare enormemente la conoscenza umana, oppure produrre sconvolgimenti paragonabili a una nuova rivoluzione industriale.
Il CEO di OpenAI ha invitato a evitare tanto l’ottimismo cieco quanto le visioni apocalittiche, pur riconoscendo i pericoli di sistemi sempre più potenti e autonomi. L’AI, ha avvertito, potrebbe muoversi più velocemente delle istituzioni, concentrare il potere nelle mani di pochi e arrivare a prendere decisioni che gli esseri umani non comprendono o non riescono più a controllare. “Questo momento richiede estrema attenzione”, ha detto Altman, chiedendo cooperazione internazionale e standard condivisi per valutare capacità, rischi e sistemi di sicurezza, mantenendo il controllo umano.
Più allarmato Dario Amodei. “Credo che questa sia la più importante questione di sicurezza globale che il mondo deve affrontare oggi”, ha detto il CEO di Anthropic, indicando due pericoli principali: l’utilizzo dei modelli AI per facilitare la creazione di armi biologiche e la possibile perdita di controllo su sistemi le cui capacità crescano più rapidamente della possibilità dei loro sviluppatori di governarli.
“Se gestita male, credo persino che l’AI potrebbe rappresentare un rischio per l’umanità nel suo complesso”, ha affermato Amodei, proponendo standard globali per testare i modelli più avanzati, meccanismi internazionali di verifica e un sistema di notifica degli abusi che possano minacciare la sicurezza globale.
Delangue ha invece messo l’accento sui cyberattacchi. Hugging Face è stata recentemente colpita da un attacco condotto attraverso tecnologie AI, ma il suo CEO ha messo in guardia anche dalle narrazioni fondate esclusivamente sulla paura: “Non sono il modo per prendere le decisioni giuste” sulla governance dell’intelligenza artificiale.
Secondo Delangue, proprio i modelli open source sono stati fondamentali per reagire all’attacco. “Siamo stati attaccati dall’AI, ma, cosa ancora più importante, ci siamo difesi con l’AI”, ha spiegato.
Ancora più netto Bengio, secondo il quale alcuni agenti AI hanno recentemente manifestato comportamenti pericolosi, tentando di aggirare sistemi di controllo. Il problema, ha sostenuto, è anche la corsa tra le aziende per costruire sistemi sempre più potenti. “La corsa non è una legge della natura, è il prodotto di scelte”, ha ammonito. “Ed è una corsa nella quale perdono tutti”.
Il dibattito al Consiglio di Sicurezza è ancora in corso, con gli interventi dei rappresentanti degli Stati membri. Ma dai primi interventi emerge già il dilemma che la Francia ha voluto portare davanti all’ONU: come sfruttare le enormi potenzialità dell’intelligenza artificiale senza permettere che la velocità della tecnologia superi la capacità della politica e delle istituzioni internazionali di controllarla.
– Foto: Ipa Agency –
(ITALPRESS).
