Un’intelligenza artificiale psicopatica, che decodifica il mondo circostante e le immagini che gli vengono presentate, come un coacervo di cattiveria e violenza. È quanto messo a punto dal team del Media Lab del prestigioso Massachusetts Institute of Technology, composto da Iyad Rahwan, Manuel Cebrian e Pinar Yanardag, che ha programmato un algoritmo di image captioning, capace cioè di generare descrizioni di testo a partire da immagini, addestrandolo però unicamente con visioni truculente e brutali, al fine di dimostrare che la natura dei dati che si utilizzano per programmare una macchina può influenzare in maniera significativa il suo comportamento. Norman, questo il nome dell’algoritmo, scelto come tributo al personaggio del film Psycho di Alfred Hitchcock, non ha deluso le aspettative dei suoi programmatori, sviluppando una predisposizione a interpretare le immagini che gli venivano mostrate come scene di violenza.
Gli scienziati hanno sottoposto Norman e un’altra macchina programmata con metodologie ordinarie al test di Rorschach, il noto test psicologico che chiede ai pazienti di descrivere cosa vedano in 10 tavole su cui sono presenti macchie d’inchiostro simmetriche: dove l’algoritmo programmato in maniera canonica vedeva immagini di vita quotidiana come, ad esempio, una persona che tiene in mano un ombrello, Norman vedeva un uomo ucciso a colpi di pistola davanti alla moglie che urla. Oppure, dove una macchina vedeva una foto in bianco e nero di un piccolo uccellino, Norman vedeva un uomo spinto a forza in una macchina da impasto.
Le risposte da psicopatico prodotte dalla macchina, secondo il team del Mit, saranno utili per studiare i pericoli che potrebbe causare l’intelligenza artificiale quando i suoi algoritmi sono programmati in maniera atipica o tendenziosa: capire quali dati utilizzare per insegnare a un cervello artificiale a riconoscere e processare immagini potrebbe essere un’operazione importante forse più dell’algoritmo stesso e che, spesso, è proprio l’uso di dati non adatti in fase di apprendimento a generare malfunzionamenti. Per quanti volessero fare un giro nella mente perversa di Norman, è possibile visitare il sito internet a lui dedicato e sottoporsi in prima persona al test di Rorschach e confrontare le proprie risposte con quelle dell’algoritmo psicopatico.
Segui già la pagina Facebook Il Crivello.it?
