l’IA di OpenAI “Voice Engine”, può clonare le voci umane: ma attenzione ai possibili rischi
La nuova IA avrà un ruolo chiave nella diffusione della conoscenza e nell'abbattimento delle barriere linguistiche. Il sistema sarà limitato per impedire il furto d'identità
L’azienda OpenAI, gigante dell’intelligenza artificiale che ha creato ChatGPT, ha presentato uno nuovo strumento che, consente di clonare alla perfezione qualsiasi voce umana dopo averla ascoltata per soli 15 secondi. Il sistema si chiama “Voice Engine” e OpenAI ci sta lavorando dalla fine del 2022. Può usare la voce clonata per leggere un testo nella stessa lingua in cui è stato scritto oppure in una lingua diversa.
–
Prima, però, è giusto fare un’importante precisazione: il tool non è disponibile per il pubblico e non può dunque essere utilizzato da malintenzionati per deepfake e simili. OpenAI vuole infatti procedere in modo etico, tanto che non c’è ancora una data di rilascio per tutti. L’uso di ‘Voice Engine’ sarà limitato per impedire frodi o crimini, come il furto d’identità.
L’ambizione di OpenAI può essere vista sia come intrigante che come “inquietante”. Ma è la stessa azienda, con sede a San Francisco, tramite dichiarazioni rilasciate ai microfoni di TechCrunch da Jeff Harris, membro del Product Staff, a cercare di rassicurare le persone: “Abbiamo adottato un insieme di misure di sicurezza, incluso un marchio per poter risalire all’origine di qualsiasi suono generato da Voice Engine, e un controllo proattivo del suo utilizzo”.
OpenAI ha inoltre assicurato di aver adottato “un approccio prudente e informato”, prima di una più ampia diffusione del nuovo strumento “in considerazione del potenziale uso improprio delle voci sintetiche“. La precisazione segue un grave incidente politico avvenuto quando un consulente della campagna presidenziale di un rivale democratico del presidente americano Joe Biden ha messo a punto un programma in grado di simulare l’identità di quest’ultimo, in corsa per la rielezione. La voce che imitava quella di Biden incitava gli elettori a non votare alle primarie del New Hampshire.
Il colosso americano ha precisato che i partner che testano ‘Voice Engine’ hanno accettato regole che implicano il consenso esplicito e informato di qualsiasi persona la cui voce sia clonata e la trasparenza per coloro che l’ascoltano, i quali devono essere chiaramente informati che quelle voci sono generate dall’intelligenza artificiale. Allo stato attuale, quindi, Voice Engine rimane una tecnologia sorprendente ma limitata a partner selezionati e il rilascio su larga scala è lontano.
