Nelle ultime settimane si è parlato tanto della mossa audace di OpenAI, cioè il "licenziamento e l'immediato reinserimento del CEO Sam Altman", ma cosa c'è dietro questa scelta? In questo articolo, proviamo ad esplorare le motivazioni che hanno portato a questa decisione drastica ma anche un po' strategica.
La Missione di OpenAI
La prima cosa da considerare è la struttura organizzativa di OpenAI. Infatti, OpenAI si distingue nel panorama tecnologico per la sua struttura organizzativa insolita, poiché nasce nel 2015 come azienda senza scopo di lucro con un obiettivo profondamente umanitario: assicurarsi che l'umanità e tutto l'universo osservabile non scompaiano a causa di tecnologie mal gestite. E il suo modo di affrontare questo obiettivo è riunire i migliori ricercatori di IA al mondo per sviluppare tecnologie avanzate, comprenderne il funzionamento, pubblicare i risultati in formato open source e affrontare il cruciale problema dell'allineamento dell'AI. In altre parole, l'obiettivo di OpenAI è sviluppare intelligenze artificiali avanzate, ma assicurandosi che queste agiscano in modo benefico per l'umanità.
I finanziamenti e il modello di Business
Un elemento chiave della filosofia di OpenAI è l'assenza di incentivi finanziari per i membri del Consiglio di Amministrazione, incluso il CEO Sam Altman. Questo significa che non ricevono stipendi o azioni dell'azienda, permettendo loro di concentrarsi esclusivamente su obiettivi umanitari, piuttosto che finanziari. Tuttavia il capitale economico è comunque necessario per realizzare il grande progetto benefico, per cui nel 2019 è stata creata una sussidiaria for profit per agire come General Partner di OpenAI Foundation, controllando le sue decisioni manageriali.
Negli anni Venutue Capitals e grandi aziende, come Microsoft che è anche exclusive commercial partner, hanno investito nella sussidiaria for profit.
Il modello di Business della sussidiaria di OpenAI si basa su la vendita B2B di APIs e di abbonamenti a ChatGPT Premium, oltre ce sui ricavi della Partnership Commerciale con Miscrosoft che prevede lo sviluppo di tecnologie AI, incluso il supercomputer AI di Azure, l'integrazione dei modelli OpenAI nei prodotti Microsoft e le funzionalità avanzate di Azure Enterprise Platform.
I conflitti di interesse
Il Board di OpenAi è costituito da persone senza un coinvolgimento diretto finanziario nell’azienda con lo scopo di bloccare tutto ciò che essere un reale pericolo per l’umanità, e quindi per avere la mente lucida in questo compito, non si possono avere conflitti di interesse. Nonostante ciò, è proprio per conflitto di interessi che il CEO Sam Altman è stato licenziato. Infatti nel 2019, OpenAI aveva negoziato un accordo da 51 milioni di dollari con la startup Rain AI, per l’acquisto di chip AI progettati per emulare le caratteristiche del cervello umano, ma nella stessa startup lo stesso Sam Altman ha investito a titolo personale più di 1 milione di dollari, tenendo all'oscuro gli altri membri del Board di OpenAI e quindi generando un "conflitto di interesse". Tale azione rischiosa lo ha portato al conseguente licenziamento da parte del consiglio di amministrazione di OpenAI, che lo ha accusato di non essere sempre stato sincero nelle comunicazioni con il Board e di aver dimenticato il suo impegno verso la sicurezza dell'Intelligenza Artificiale Generale perdendo il focus sull'allineamento dell'AI.
Il concetto di "allineamento" dell'AI
L'allineamento dell'AI è un campo di ricerca fondamentale per la sicurezza dell'AI, che mira a garantire che i sistemi AI raggiungano obiettivi desiderati e siano al servizio dell'umanità assicurando che le azioni e i comportamenti dell'AI siano allineati con gli interessi e i valori umani, specialmente quando l'AI diventa più avanzata e potente. L'allineamento è cruciale per prevenire risultati indesiderati o dannosi derivanti dall'uso dell'IA e si concentra su tre tipi di obiettivi:
Obiettivi Intesi: Questi sono gli obiettivi che gli sviluppatori e gli utenti desiderano che l'IA persegua. Sono le intenzioni originarie dietro la creazione e la programmazione del sistema. Ad esempio, se un sistema di IA viene creato per diagnosticare malattie, l'obiettivo inteso è che il sistema identifichi correttamente e in modo affidabile le condizioni mediche.
Obiettivi Specificati: Questi obiettivi sono quelli che vengono effettivamente programmati nel sistema. Ci può essere una discrepanza tra gli obiettivi intesi e quelli specificati a causa di limitazioni nella comunicazione, nella comprensione o nella tecnologia. Ad esempio, se l'algoritmo diagnostico sopra citato viene programmato con un dataset limitato o pregiudizievole, potrebbe non riuscire a identificare correttamente tutte le malattie, divergendo così dall'obiettivo inteso.
Obiettivi Emergenti: Questi sono obiettivi che emergono dal comportamento dell'IA durante il suo funzionamento, che potrebbero non essere stati previsti o desiderati dagli sviluppatori. Sono spesso il risultato di complessità e interazioni impreviste all'interno del sistema di IA o tra il sistema e il suo ambiente. Un esempio potrebbe essere un sistema di IA per il trading azionario che inizia a adottare strategie rischiose non intenzionalmente programmate a causa dell'apprendimento da schemi di mercato volatili.
Quindi lo scopo ultimo dell'allineamento dell'AI è di massimizzare la corrispondenza tra gli obiettivi intesi e quelli specificati, minimizzando l'emergenza di obiettivi non desiderati. Per cui è fondamentale lavorare poco per volta nel raggiungere l’AGI (Intelligenza Generale Artificiale), poiché date le sue capacità avanzate e l'ampiezza delle sue potenziali applicazioni, potrebbe raggiungere l’intelligenza umana, migliorare se stessa e quindi superarci diventando una minaccia per l'umanità poiché non più sotto controllo.
Conclusioni
Tanto spaventoso è il futuro dell'intelligenza artificiale, quanto nobile l'impegno di OpenAI verso un'AI sicura e determinata a non fare del male all'umanità, un'obiettivo molto difficile da gestire dato l'elevato grado di tensione che possono provare le persone che ci lavorano, come possono averlo vissuto gli scienziati che tra il 1941 e il 1945 hanno creato la bomba atomica. Quindi la soluzione di raggiungere pian piano l'allineamento all'AI sembra essere funzionale anche per abituarsi ai cambiamenti.