PUNTATA
HOD6ottobre Download
NEWS
Riconoscimento facciale, cambiano le regole: quando si può usare e chi deve autorizzarlo
https://techprincess.it/riconoscimento-facciale-ai-nuove-regole-polizia-italiana/
https://www.europarl.europa.eu/topics/en/article/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence
Cosa voleva il Parlamento nella legislazione sull’IA
La priorità del Parlamento è stata quella di garantire che i sistemi di intelligenza artificiale utilizzati nell’UE siano sicuri, trasparenti, tracciabili, non discriminatori e rispettosi dell’ambiente. I sistemi di intelligenza artificiale dovrebbero essere supervisionati dalle persone, piuttosto che dall’automazione, per prevenire risultati dannosi.
Il Parlamento ha anche voluto stabilire una definizione tecnologica-neutra e uniforme per l’IA che potesse essere applicata ai futuri sistemi di intelligenza artificiale.
AI Act: regole diverse per i diversi livelli di rischio
Le nuove norme stabiliscono gli obblighi per i fornitori e gli utenti a seconda del livello di rischio di qualificazione del rischio AI. Mentre molti sistemi di intelligenza artificiale rappresentano un rischio minimo, devono essere valutati.
Rischio inaccettabile
Le domande di intelligenza artificiale vietate nell’UE includono:
- Manipolazione cognitivo comportamentale di persone o gruppi vulnerabili specifici: ad esempio giocattoli ad attivazione vocale che incoraggiano comportamenti pericolosi nei bambini
- Social score AI: classificazione delle persone in base al comportamento, allo status socio-economico o alle caratteristiche personali
- Identificazione biometrica e categorizzazione delle persone
- Sistemi di identificazione biometrica in tempo reale e a distanza, come il riconoscimento facciale negli spazi pubblici
Alcune eccezioni possono essere consentite a fini di applicazione della legge. I sistemi di identificazione biometrica a distanza “in tempo reale” saranno ammessi in un numero limitato di casi gravi, mentre i sistemi di identificazione biometrica a distanza “post”, in cui l’identificazione avviene dopo un ritardo significativo, saranno autorizzati a perseguire reati gravi e solo dopo l’approvazione del tribunale.
Alto rischio
I sistemi di intelligenza artificiale che incidono negativamente sulla sicurezza o sui diritti fondamentali saranno considerati ad alto rischio e saranno suddivisi in due categorie:
1) Sistemi di intelligenza artificiale che vengono utilizzati nei prodotti che rientrano nella legislazione dell’UE in materia di sicurezza dei prodotti. Questo include giocattoli, aviazione, automobili, dispositivi medici e ascensori.
2) Sistemi di intelligenza artificiale che rientrano in aree specifiche che dovranno essere registrati in una banca dati dell’UE:
- Gestione e funzionamento delle infrastrutture critiche
- Istruzione e formazione professionale
- Occupazione, gestione dei lavoratori e accesso al lavoro autonomo
- Accesso e godimento dei servizi privati essenziali e dei servizi pubblici e dei benefici
- Forze dell’ordine
- Gestione della migrazione, dell’asilo e del controllo delle frontiere
- Assistenza nell’interpretazione giuridica e nell’applicazione della legge.
Tutti i sistemi di intelligenza artificiale ad alto rischio saranno valutati prima di essere immessi sul mercato e anche durante tutto il loro ciclo di vita. Le persone avranno il diritto di presentare reclami sui sistemi di intelligenza artificiale alle autorità nazionali designate.
Requisiti di trasparenza
L’IA generativa, come ChatGPT, non sarà classificata come ad alto rischio, ma dovrà rispettare i requisiti di trasparenza e la legge sul copyright dell’UE:
- Divulgando che il contenuto è stato generato dall’IA
- Progettare il modello per evitare che generi contenuti illegali
- Riassunti editoriali di dati protetti da copyright utilizzati per la formazione
I modelli di intelligenza artificiale ad alto impatto che potrebbero rappresentare un rischio sistemico, come il modello di intelligenza artificiale più avanzato GPT-4, dovrebbero essere sottoposti a valutazioni approfondite e eventuali incidenti gravi dovrebbero essere segnalati alla Commissione europea.
I contenuti che vengono generati o modificati con l’aiuto dell’IA – immagini, file audio o video (ad esempio deepfake) – devono essere chiaramente etichettati come AI generati in modo che gli utenti siano consapevoli quando si imbattono in tali contenuti.
