Intelligenza artificiale, Ai Act e panopticon globale

Lo scorso sabato parlamento, consiglio e Unione Europea si sono accordati sul testo finale per la regolamentazione dell’intelligenza artificiale. Un accordo selettivo, che consente l’utilizzo di strumenti di controllo, vietati per i cittadini europei, ai migranti. L’Ue ha messo al bando il sistema di riconoscimento delle emozioni, ma solo nei contesti come quello lavorativo o dell’istruzione, mentre è stata concessa un’esenzione nei confronti del controllo delle migrazioni. Nonostante l’articolo 5 del regolamento affermi che questi sistemi comportano una violazione irreversibile dei diritti umani, senza alcuna possibilità di mitigazione, questa violazione diventa accettabile nei confronti dei migranti. La vita di alcune persone vale più di quella di altre. Ecco allora che torna in gioco BorderCtrl, un sistema finanziato con 4,5 milioni all’interno del programma di ricerca europeo Horizon 2020 e che tramite la lettura delle emozioni dovrebbe capire se una persona sta dicendo o meno la verità. Un moderno poligrafo ben poco affidabile secondo gli esperti e a cui verranno assegnati compiti estremamente sensibili e con un impatto irreversibile per la libertà personale, come la concessione o meno dell’asilo.
Con Matteo, studente di filosofia e informatica, abbiamo parlato del IA Act, ma anche delle dinamiche di controllo da Panopticon che l’IA consente.
Siamo di fronte ad un salto di paradigma più forte dell’avvento di internet. Questa tecnologia mette in mano a chi detiene le leve del potere uno strumento di controllo e orientamento senza precedenti. Possiamo non essere più in grado di distinguere secondo le categorie vero/falso le narrazioni che ci verranno proposte.
Capire per difendersi e contrattaccare è una scommessa cruciale.

Ascolta la diretta: