OpenAI ha modificato la struttura di governance del suo fondo di venture capital – OpenAI Startup Fund – che sostiene le imprese innovative che operano nel settore dell’intelligenza artificiale: l’amministratore delegato Sam Altman non sarà più socio accomandatario del fondo. In pratica, smetterà di esserne proprietario e controllore. La notizia si apprende da un documento depositato presso la Securities and Exchange Commission statunitense.
Il nuovo assetto
Il controllo del fondo è passato a Ian Hathaway, partner dal 2021, secondo quanto riportato nel documento. OpenAI ha dichiarato che Hathaway ha supervisionato il programma di accelerazione del fondo e ha guidato investimenti in aziende come Harvey, Cursor e Ambience Healthcare. L’OpenAI Startup Fund sta investendo 175 milioni di dollari raccolti da partner di OpenAI come Microsoft, sebbene OpenAI stessa non sia un investitore.
Il cambiamento, documentato nel deposito del 29 marzo, è avvenuto dopo che la proprietà di Altman dell’OpenAI Startup Fund ha sollevato delle perplessità per la sua struttura “insolita”: pur essendo commercializzato in modo simile a un ramo di rischio aziendale, il fondo è stato raccolto da Altman da partner limitati esterni ed è stato lui a prendere le decisioni di investimento. OpenAI ha dichiarato che Altman non avesse interessi finanziari nel fondo, nonostante la proprietà.
L’espansione in Giappone
Nel frattempo OpenAI ha annunciato anche l’apertura del suo primo ufficio asiatico a Tokyo. L’azienda tecnologica intende offrire servizi aziendali personalizzati ai clienti della regione e partecipare alla creazione di un quadro di governance internazionale per l’emergente tecnologia dell’intelligenza artificiale, un progetto che il Giappone è intenzionato a guidare dalla sua presidenza del G7 nel 2023.
OpenAI ha mostrato interesse per il Giappone da tempo e nell’aprile dello scorso anno Sam Altman aveva incontrato il primo ministro Fumio Kishida, a Tokyo dove era stata per l’appunto discussa la possibilità di aprire una filiale nel Paese.
Secondo notizie di stampa, molte aziende giapponesi stanno già sfruttando l’uso dell’AI generativa di OpenAI grazie alla partnership con il gigante Microsoft, e l’azienda di Altman sta cercando di offrire servizi personalizzati, compreso il servizio clienti, attraverso questo nuovo ufficio.
Allarme sulla possibilità di riprodurre voci di persone reali
OpenAI ha poi dichiarato che attraverso il suo modello Voice Engine è in grado di clonare le voci umane riproducendo un suono naturale “emotivo e realistico”, utilizzando un campione di 15 secondi, ma che non intende ancora rilasciare la tecnologia al pubblico perché sarebbe troppo rischioso.
“Riconosciamo che generare un parlato con le caratteristiche della voce di persone reali comporta seri rischi, particolarmente importanti in un anno di elezioni“, hanno dichiarato i creatori di ChatGpt in un comunicato.
Voice Engine è un nuovo modello di intelligenza artificiale in grado di convertire il testo in parlato per creare voci sintetiche che, secondo l’azienda, possono consentire ai creatori di contenuti di tradurre il loro lavoro in altre lingue senza perdere l’accento nativo e aiutare le persone con problemi di comunicazione verbale a usare la voce, per esempio, per fare telefonate. In uno degli esempi forniti dall’azienda, è possibile ascoltare come la voce di una donna anglosassone sia stata tradotta in spagnolo, mandarino, tedesco, francese e giapponese mantenendo l’accento della persona.
Al momento, le aziende che possono accedere a questa tecnologia sono la società di tecnologie per l’istruzione Age of Learning, la piattaforma di visual storytelling HeyGen, il produttore di software per la sanità Dimagi, il produttore di app di comunicazione con intelligenza artificiale Livox e il sistema sanitario Lifespan.
“Stiamo adottando un approccio cauto e informato a una pubblicazione più ampia a causa del potenziale uso improprio della voce sintetica”, ha dichiarato l’azienda in un comunicato, sottolineando che le aziende con cui collaborano hanno accettato le loro politiche di utilizzo. Tra queste regole c’è quella di non usare la voce di qualcuno senza il suo consenso o di indicare agli utenti che si tratta di voci sintetiche. “Infine, abbiamo implementato una serie di misure di sicurezza, tra cui il watermarking, per tracciare l’origine di qualsiasi audio generato da Voice Engine, oltre al monitoraggio proattivo di come viene utilizzato”, ha aggiunto OpenAI.
In quest’anno elettorale negli Stati Uniti si sono già verificati casi di telefonate automatizzate con voci clonate di politici come quella del presidente Joe Biden. Un altro grande problema delle voci sintetiche generate dall’intelligenza artificiale è che i truffatori potrebbero usarle per accedere ai conti bancari che utilizzano l’autenticazione vocale.
L’avvertimento del Garante Privacy su Worldcoin
Oltre ai timori suscitati dall’introduzione della nuova soluzione, c’è anche un monito inviato dal Garante Privacy a Worldcoin Foundation, che sostiene il progetto lanciato da Sam Altman, per poter scambiare criptovalute con un sistema di identificazione degli utenti basato sulla scansione dell’iride.
Dopo i primi riscontri forniti dalla società nell’ambito dell’istruttoria avviata nei mesi scorsi dall’Autorità, “se il progetto Worldcoin approdasse in Italia, con ogni probabilità violerebbe il Regolamento Ue, con tutte le conseguenze di carattere sanzionatorio previste dalla normativa”, spiega l’autorità.
Al centro del progetto c’è Orb, un dispositivo biometrico che scansiona il volto e l’iride, appunto, fornendo un codice identificativo univoco a livello mondiale per ciascun individuo – World ID – in grado, secondo la Worldcoin Foundation, di distinguere gli esseri umani dai prodotti dell’intelligenza artificiale. Orb, World ID e World App, strettamente interconnessi tra loro, costituiscono l’ecosistema Worldcoin.
Anche se i dispositivi Orb non sono ancora funzionanti in Italia, i cittadini italiani possono già scaricare, dagli app store, la World App, fornire i relativi dati personali e prenotare i propri Wld token gratuiti.
Dalle informazioni ricevute dalla società e da quelle reperibili sul sito della stessa, “l’Autorità ritiene che il trattamento dei dati biometrici basato sul consenso degli aderenti al progetto, rilasciato sulla base di una informativa insufficiente, non può essere considerato una base giuridica valida secondo i requisiti richiesti dal Regolamento europeo“.
Oltretutto, la promessa di ricevere Wld token gratuiti da parte di Wordcoin incide negativamente sulla possibilità di esprimere un consenso libero e non condizionato al trattamento dei dati biometrici effettuato attraverso gli Orb.
“Infine, i rischi del trattamento risultano ulteriormente amplificati dall’assenza di filtri per impedire l’accesso agli Orb e alla World App ai minori di 18 anni”, si legge nel provvedimento del Garante in corso di pubblicazione nella Gazzetta Ufficiale.
