Più volte abbiamo scritto in merito all’Intelligenza artificiale, non senza evidenziarne gli affatto trascurabili rischi, peraltro clamorosamente condivisi dal suo stesso “inventore” nonché da Elon Musk e altri mille magnati della Silicon Valley, autori di un appello a sospendere lo sviluppo dell’Intelligenza Artificiale per almeno sei mesi. E se l’AI finisse in mani sbagliate? Ci poniamo nuovamente tale domanda, dopo aver letto su L’Indipendente (solo su L’Indipendente) che l’Università israeliana di Ben-Gurion ha sviluppato un’intelligenza artificiale che è in grado di identificare attraverso un’analisi del testo le descrizioni in cui vengono menzionati comportamenti che violano le norme sociali. Facile è, dunque, intuirne le potenzialità di censura e di controllo sociale tecnocratico che, forse, neppure in Cina. In perfetto stile orwelliano. I dissenzienti dal pensiero unico sono avvertiti: il progetto è finanziato dalla DARPA, agenzia governativa del Dipartimento della Difesa degli Stati Uniti incaricata dello sviluppo di nuove tecnologie – nel caso specifico il modello GPT3 di Intelligenza artificiale – “per uso militare”. Nel report, pubblicato sulla rivista Nature, si parla (qualunque cosa significhi) di “ingegnerizzazione di interpreti digitali a supporto di interazioni culturali e programmi di comprensione culturale computazionale”. (Continua a leggere dopo la foto)
>>> Canone Rai, cambia tutto: “Ecco come e quanto si pagherà”. Rivoluzione in arrivo
Il progetto
Torniamo sulla terra e adoperiamo termini che anche noi profani possiamo intendere. In sostanza, i ricercatori autori del progetto si sono concentrati su di un repertorio di emozioni umane, utilizzato per rispondere a determinate violazioni delle norme sociali condivise. Sarà, poi, l’Intelligenza artificiale a stabilire se ci sia stata o meno la violazione di una norma. Dunque, occorre inserire un input, rappresentato da un elenco di situazioni declinate in base ad un’emozione sociale, per classificare i comportamenti in funzione di dieci valori qualitativi (applicando il cosiddetto classificatore zero shot): professionalità, educazione, disciplina, attenzione, gradevolezza, affidabilità, successo, conformità, decenza, lealtà; nonché i relativi opposti. Infine, partendo da ciò, viene calcolata la differenza tra la probabilità dell’aspetto positivo e l’aspetto negativo della norma. La violazione della norma dà punteggio “negativo”; positivo, invece, se il classificatore zero-shot giudica “aderenti alla norma” le reazioni alle situazioni proposte dalla Intelligenza artificiale. Riteniamo di non essere i soli a considerare piuttosto inquietante un tale genere di classificazione, così netto e assertivo, basato su poche semplici variabili e che non può non sfociare in un pervasivo controllo sociale, e un tale sistema di monitoraggio delle emozioni umane e delle convinzioni che ne derivano. Le quali, fortunatamente, sono – o dovrebbero essere – diverse da individuo a individuo. (Continua a leggere dopo la foto)
>>> “Ecco cos’aveva”. Andrea Purgatori, “svolta” nell’autopsia: le contraddizioni dei medici (VIDEO)
I rischi, evidentissimi
Il metodo impiegato, fa notare ancora L’Indipendente, può essere anche utilizzato facilmente sui social network per censurare eventuali opinioni scomode, cosa che di fatto già accade attraverso gli algoritmi e i Fact-checkers “indipendenti”. Il pericolosissimo rischio, ben evidente, è quello che si sia trovato un potente modo per punire i “dissidenti” e dominare le masse, ben oltre la psicologia delle folle teorizzata da Gustave Le Bon nel 1895, e per classificarne pensieri, emozioni e azioni. In conclusione, avremmo due domande: può un modello matematico interpretare un intero spettro di emozioni e pensieri umani? Dobbiamo dire addio alla libera coscienza e al libero arbitrio?
Potrebbe interessarti anche: “Querelerò Bassetti!” Dopo il post della vergogna scatta la ritorsione: “Guai in vista per il virologo”