NIKON
NIKON

OpenAI sta sviluppando una IA che riconosce le immagini generate da IA

OpenAI sta costruendo uno strumento per rilevare immagini create dall’intelligenza artificiale (IA) con un elevato grado di precisione. Mira Murati, chief technology officer del produttore del chatbot ChatGPT e del generatore di immagini DALLE, ha dichiarato che lo strumento di OpenAI è “affidabile al 99%” nel determinare se un’immagine è stata prodotta utilizzando l’intelligenza artificiale. È in fase di test internamente prima di un rilascio pubblico pianificato, ha detto, senza specificare una tempistica. Murati ha parlato insieme all’amministratore delegato di OpenAI Sam Altman, mentre entrambi i dirigenti partecipavano alla conferenza Tech Live del Wall Street Journal a Laguna Beach, in California.

Esistono già alcuni strumenti che pretendono di rilevare immagini o altri contenuti realizzati con l’intelligenza artificiale, ma possono essere imprecisi. Per esempio, OpenAI a gennaio ha rilasciato uno strumento simile destinato a determinare se il testo era generato dall’intelligenza artificiale, ma è stato accantonato a luglio perché inaffidabile. La società ha affermato che sta lavorando per migliorare il software e si è impegnata a sviluppare modi per identificare anche se anche l’audio o le immagini sono stati realizzati con l’intelligenza artificiale.

La necessità di tali strumenti di rilevamento sta diventando sempre più importante poiché gli strumenti di intelligenza artificiale possono essere utilizzati per manipolare o fabbricare notizie di eventi globali. Il generatore di immagini Firefly di Adobe affronta un altro aspetto della sfida, promettendo di non creare contenuti che violino i diritti di proprietà intellettuale dei creatori.

I dirigenti di OpenAI hanno anche dato un suggerimento sul modello di intelligenza artificiale che seguirà GPT-4. Sebbene OpenAI non abbia detto pubblicamente come potrebbe essere chiamato un modello successivo a GPT-4, la startup ha presentato una domanda per un marchio “GPT-5″ all’Ufficio brevetti e marchi degli Stati Uniti a luglio. I chatbot come ChatGPT, che utilizza GPT-4 e un modello precedente, GPT-3.5, sono inclini a inventare cose, note anche come allucinazioni; quando gli è stato chiesto se un modello GPT-5 non avrebbe più dichiarato falsità, Murati ha risposto: “Forse. Vediamo. Abbiamo fatto molti progressi sul problema delle allucinazioni con GPT-4, ma non siamo dove dobbiamo essere”.

Altman ha anche affrontato la possibilità che OpenAI possa progettare e produrre i propri chip per computer per l’addestramento e il funzionamento dei suoi modelli di intelligenza artificiale, piuttosto che utilizzare quelli forniti da aziende come Nvidia, che è attualmente considerata leader di mercato. “Il percorso predefinito sarebbe certamente quello di non farlo”, ha detto, “ma non lo escluderei mai”.

Per commentare questo articolo e altri contenuti di igizmo.it, visita la nostra pagina Facebook o il nostro feed Twitter.

Articolo correlato
Autore correlato