Intelligenza Artificiale in Europa: approvate nuove regole di trasparenza e gestione del rischio

La Commissione per il mercato interno e la Commissione per le libertà civili hanno adottato una bozza di mandato negoziale sulle prime norme in assoluto per l'intelligenza artificiale con 84 voti a favore, 7 contrari e 12 astensioni.

Nei loro emendamenti alla proposta della Commissione, gli eurodeputati intendono garantire che i sistemi di intelligenza artificiale siano controllati da persone, siano sicuri, trasparenti, tracciabili, non discriminatori e rispettosi dell'ambiente. Vogliono inoltre che la definizione di IA sia uniforme e neutrale dal punto di vista tecnologico, in modo da poter essere applicata ai sistemi di IA di oggi e di domani.

Le norme seguono un approccio basato sul rischio e stabiliscono obblighi per fornitori e utenti a seconda del livello di rischio che l'IA può generare. I sistemi di IA che presentano un livello di rischio inaccettabile per la sicurezza delle persone saranno severamente vietati, compresi i sistemi che utilizzano tecniche subliminali o manipolative intenzionali, sfruttano le vulnerabilità delle persone o sono utilizzati per il social scoring (classificazione delle persone in base al loro comportamento sociale, allo status socio-economico, alle caratteristiche personali).

I deputati hanno modificato in modo sostanziale l'elenco per includere i divieti sugli usi intrusivi e discriminatori dei sistemi di IA come:

• Sistemi di identificazione biometrica remota "in tempo reale" in spazi accessibili al pubblico;
• Sistemi di identificazione biometrica a distanza "a posteriori", con l'unica eccezione delle forze dell'ordine per il perseguimento di reati gravi e solo previa autorizzazione giudiziaria;
• Sistemi di categorizzazione biometrica che utilizzano caratteristiche sensibili (ad esempio, sesso, razza, etnia, cittadinanza, religione, orientamento politico);
• Sistemi di polizia predittivi (basati su profili, ubicazione o comportamenti criminali passati);
• Sistemi di riconoscimento delle emozioni nelle forze dell'ordine, nella gestione delle frontiere, nei luoghi di lavoro e nelle istituzioni educative.
• Scorporo indiscriminato di dati biometrici dai social media o dalle telecamere a circuito chiuso per creare database di riconoscimento facciale (in violazione dei diritti umani e del diritto alla privacy).

I deputati hanno ampliato la classificazione delle aree ad alto rischio per includere i danni alla salute, alla sicurezza, ai diritti fondamentali o all'ambiente delle persone. Hanno inoltre aggiunto all'elenco ad alto rischio i sistemi di IA per influenzare gli elettori nelle campagne politiche e nei sistemi di raccomandazione utilizzati dalle piattaforme di social media (con più di 45 milioni di utenti ai sensi della legge sui servizi digitali).