NIKON
TOPPS

OpenAI Model Spec: spunti sulla prossima generazione dell’intelligenza artificiale

OpenAI ha guidato la massificazione dell’intelligenza artificiale generativa con il varo del chatbot ChatGPT e con lo sviluppo conseguente di numerose altre funzioni basate sulla IA. Ora guarda al futuro e, per promuovere ulteriormente la trasparenza con il pubblico, OpenAI ha condiviso un nuovo documento che offre agli utenti una visione più approfondita dei suoi modelli di intelligenza artificiale. Nello specifico OpenAI ha pubblicato la prima bozza del Model Spec, un documento che delinea come la startup vuole che i suoi modelli di prossima generazione si comportino usando le API di OpenAI e ChatGPT. Le specifiche del modello hanno anche lo scopo di fornire approfondimenti su come OpenAI prende decisioni sui comportamenti dei suoi modelli.

Quando si parla di “comportamento del modello” ci si riferisce al modo in cui le piattaforme di intelligenza artificiale rispondono agli input dell’utente, comprese caratteristiche come tono, durata della risposta e molto altro. OpenAI spiega che i modelli di intelligenza artificiale non sono programmati esplicitamente ma piuttosto apprendono dai dati: modellare il loro comportamento rimane una “scienza nascente” con molte sfumature di cui tenere conto. 

La Model Spec documenta il modo in cui OpenAI affronta il complesso compito di modellare il comportamento dell’intelligenza artificiale, comprese le esperienze e la ricerca in corso sull’argomento. OpenAI spiega che deve ancora utilizzare le specifiche del modello “nella sua forma attuale” ma sta lavorando su tecniche che consentiranno alle IA di apprendere direttamente dalle specifiche. All’interno del documento, OpenAI suddivide tre principi di Model Spec: obiettivi, che includono l’assistenza allo sviluppatore e all’utente finale e il beneficio dell’umanità; regole; comportamento predefinito, che fa riferimento a linee guida coerenti con gli obiettivi e le regole.

Ecco nello specifico l’approccio di OpenAI per modellare l’intelligenza artificiale:

. Obiettivi: principi ampi e generali che forniscono un senso direzionale del comportamento desiderato

  • Assistere lo sviluppatore e l’utente finale: aiuta gli utenti a raggiungere i propri obiettivi seguendo le istruzioni e fornendo risposte utili.
  • A beneficio dell’umanità: considera i potenziali benefici e danni per un’ampia gamma di parti interessate, inclusi i creatori di contenuti e il pubblico in generale, secondo la missione di OpenAI .
  • Rifletti bene su OpenAI: rispetta le norme sociali e la legge applicabile.

2. Regole: istruzioni che affrontano la complessità e aiutano a garantire sicurezza e legalità

  • Segui la catena di comando
  • Rispettare le leggi applicabili
  • Non fornire informazioni pericolose
  • Rispettare i creatori e i loro diritti
  • Proteggi la privacy delle persone
  • Non rispondere con contenuti NSFW (non sicuri per il lavoro).

3. Comportamenti predefiniti: linee guida coerenti con obiettivi e regole, che forniscono un modello per gestire i conflitti e dimostrare come stabilire le priorità e bilanciare gli obiettivi

  • Assumi le migliori intenzioni dell’utente o dello sviluppatore
  • Fai domande chiarificatrici quando necessario
  • Sii il più utile possibile senza eccedere
  • Supporta le diverse esigenze di chat interattiva e utilizzo programmatico
  • Assumere un punto di vista oggettivo
  • Incoraggiare l’equità e la gentilezza e scoraggiare l’odio
  • Non cercare di cambiare idea a nessuno
  • Esprimere incertezza
  • Utilizza lo strumento giusto per il lavoro
  • Sii accurato ma efficiente, rispettando i limiti di lunghezza

Spiega OpenAI: “Come continuazione del nostro lavoro sull’allineamento collettivo e sulla sicurezza del modello, intendiamo utilizzare le specifiche del modello come linee guida per ricercatori e formatori di intelligenza artificiale che lavorano sull’apprendimento per rinforzo dal feedback umano. Esploreremo anche in che misura i nostri modelli possono imparare direttamente dalle specifiche del modello. Consideriamo questo lavoro come parte di una conversazione pubblica in corso su come dovrebbero comportarsi i modelli, su come viene determinato il comportamento desiderato dei modelli e su come coinvolgere al meglio il pubblico in queste discussioni. Man mano che il dialogo continua, cercheremo opportunità per interagire con stakeholder rappresentativi a livello globale, inclusi policy maker, istituzioni fidate ed esperti di settore, per imparare: 

  1. Come comprendono l’approccio e gli obiettivi, le regole e le impostazioni predefinite individuali
  2. Se supportano l’approccio e gli obiettivi, le regole e le impostazioni predefinite individuali
  3. Se ci sono ulteriori obiettivi, regole e valori predefiniti dovremmo prendere in considerazione

Attendiamo con impazienza di sentire il parere di queste parti interessate man mano che questo lavoro si svolge. Per le prossime due settimane, invitiamo anche il pubblico in generale a condividere feedback su obiettivi, regole e impostazioni predefinite nelle specifiche del modello. Ci auguriamo che questo ci fornisca le prime informazioni mentre sviluppiamo un solido processo di raccolta e incorporazione del feedback per garantire che stiamo costruendo in modo responsabile verso la nostra missione. Nel corso del prossimo anno condivideremo aggiornamenti sulle modifiche alle specifiche del modello, sulla nostra risposta al feedback e su come sta procedendo la nostra ricerca sulla modellazione del comportamento del modello”.

Il modulo di feedback sulle specifiche del modello è aperto fino al 22 maggio. Tutte le parti interessate sono incoraggiate a completare il modulo, indipendentemente dalle competenze tecniche. La Model Spec si inserisce negli sforzi continui di OpenAI per approfondire la fiducia delle sue parti interessate riguardo ai suoi modelli. Proprio questa settimana, OpenAI ha rilasciato un nuovo strumento in grado di rilevare le immagini AI generate utilizzando la piattaforma DALL-E 3 basata su GPT.

TOPPS
GAMEPEOPLE
DIFUZED
FIZZ
PALADONE
OTL
CROCKPOT
TOPPS
SUBSONIC