NIKON
NIKON

Dopo la farsa la spy story: Sam Altman allontanato perché lavorava su una super IA chiamata Q*

Prima dei quattro giorni di esilio del ceo di OpenAI Sam Altman, diversi ricercatori avrebbero scritto una lettera al consiglio di amministrazione dell’azienda avvertendo di una potente scoperta di intelligenza artificiale “superiore” denominata Q* che secondo loro potrebbe minacciare l’umanità, hanno detto a Reuters due persone a conoscenza della questione. La lettera precedentemente non segnalata e l’algoritmo di intelligenza artificiale sono stati sviluppi chiave prima della scelta del CdA di cacciare Altman accusandolo di non essere stato chiaro e onesto nella sua gestione da ceo. Prima del suo ritorno trionfale martedì scorso, più di 700 dipendenti avevano minacciato di dimettersi e di unirsi al sostenitore Microsoft in solidarietà con il leader licenziato.

Le fonti di Reuters hanno citato la lettera come uno dei fattori di una lunga lista di lamentele da parte del consiglio che hanno portato al licenziamento di Altman, tra cui le preoccupazioni sulla commercializzazione dei progressi prima di comprenderne le conseguenze. Reuters non è stata in grado di rivedere una copia della lettera. Lo staff che ha scritto la lettera non ha risposto alle richieste di commento. Dopo essere stata contattata da Reuters, OpenAI, che ha rifiutato di commentare, ha riconosciuto in un messaggio interno allo staff un progetto chiamato Q* e una lettera al consiglio prima degli eventi del fine settimana, ha detto una delle persone. Un portavoce di OpenAI ha affermato che il messaggio, inviato dal dirigente di lunga data Mira Murati, ha allertato lo staff su alcune storie dei media senza commentare la loro accuratezza.

Alcuni dipendenti di OpenAI credono che Q* (pronunciato Q Star) potrebbe rappresentare una svolta nella ricerca della startup per quella che è conosciuta come intelligenza generale artificiale (AGI), ha detto a Reuters una delle persone. OpenAI definisce l’AGI come sistemi autonomi che superano gli esseri umani nei compiti economicamente più preziosi. Date le vaste risorse informatiche, il nuovo modello è stato in grado di risolvere alcuni problemi matematici, ha detto la persona in condizione di anonimato perché la persona non era autorizzata a parlare a nome dell’azienda. Sebbene eseguissero calcoli solo al livello degli studenti delle scuole elementari, il superamento di tali test ha reso i ricercatori molto ottimisti riguardo al futuro successo di Q*, ha detto la fonte di Reuters. Quest’ultima non ha potuto verificare in modo indipendente le capacità di Q* dichiarate dai ricercatori.

I ricercatori considerano la matematica una frontiera dello sviluppo dell’intelligenza artificiale generativa. Attualmente, l’intelligenza artificiale generativa è efficace nella scrittura e nella traduzione linguistica prevedendo statisticamente la parola successiva e le risposte alla stessa domanda possono variare notevolmente. Ma conquistare la capacità di fare matematica – dove esiste una sola risposta giusta – implica che l’intelligenza artificiale avrebbe maggiori capacità di ragionamento simili all’intelligenza umana. Ciò potrebbe essere applicato, ad esempio, a nuove ricerche scientifiche, ritengono i ricercatori sull’intelligenza artificiale.

A differenza di una calcolatrice che può risolvere un numero limitato di operazioni, AGI può generalizzare, apprendere e comprendere. Nella loro lettera al consiglio, i ricercatori hanno segnalato l’abilità dell’IA e il potenziale pericolo, hanno detto le fonti senza specificare gli esatti problemi di sicurezza indicati nella lettera. Da tempo gli informatici discutono sul pericolo rappresentato dalle macchine altamente intelligenti, ad esempio se decidessero che la distruzione dell’umanità è nel loro interesse. I ricercatori hanno anche segnalato il lavoro di un team di “scienziati dell’intelligenza artificiale”, la cui esistenza è stata confermata da più fonti. Il gruppo, formato combinando i precedenti team “Code Gen” e “Math Gen”, stava esplorando come ottimizzare i modelli di intelligenza artificiale esistenti per migliorare il loro ragionamento ed eventualmente eseguire lavori scientifici, ha detto una delle persone.

Altman ha guidato gli sforzi per rendere ChatGPT una delle applicazioni software in più rapida crescita nella storia e ha attirato gli investimenti e le risorse informatiche necessarie da Microsoft per avvicinarsi ad AGI. Oltre ad annunciare una serie di nuovi strumenti in una dimostrazione questo mese, la scorsa settimana Altman ha scherzato in un vertice dei leader mondiali a San Francisco dicendo che credeva che fossero in vista grandi progressi. “Quattro volte nella storia di OpenAI, l’ultima volta è stata proprio nelle ultime due settimane, sono riuscito a essere nella stanza, quando in un certo senso spingiamo indietro il velo dell’ignoranza e la frontiera della scoperta, e riuscirci è l’onore professionale di una vita”, ha affermato Altman al vertice della Cooperazione economica Asia-Pacifico. Il giorno dopo, il consiglio ha licenziato Sam Altman.

Per commentare questo articolo e altri contenuti di igizmo.it, visita la nostra pagina Facebook o il nostro feed Twitter.

Articolo correlato
Autore correlato