Il Mediatore europeo scrive alla Commissione: come intende utilizzare l'IA?

I rapidi sviluppi dell'intelligenza artificiale (IA) possono migliorare la qualità del lavoro umano, ma pongono anche grandi sfide «quando si tratta di accuratezza dei risultati, potenziali pregiudizi, spiegabilità e supervisione umana, non da ultimo quando è o sarà utilizzata nei processi decisionali che interessano direttamente il pubblico». Per questi motivi, il Mediatore europeo ha scritto alla Commissione UE per chiedere come utilizza l'IA nei propri processi decisionali.

«Il modo in cui l'amministrazione dell'UE introduce l'IA - si legge nella missiva del Mediatore - dovrebbe pertanto essere trasparente e consentire un controllo sufficiente. Il pubblico dovrebbe essere in grado di verificare che l'amministrazione abbia svolto un'adeguata dovuta diligenza, che le decisioni di diffusione dell'IA coinvolgano tutti gli attori pertinenti e che siano in atto procedure per riesaminare l'uso di tali sistemi di IA sulla base dell'esperienza. È inoltre fondamentale che le istituzioni dell'UE si assicurino che l'IA sostenga i loro compiti, ma non li sostituisca nel prendere decisioni che riguardano i cittadini. Ad oggi, questi sono i tipi di questioni che i membri della rete europea dei difensori civici hanno incontrato nell'esame dell'uso dell'IA a livello nazionale.

«In questo contesto - afferma ancora il Mediatore europeo - ho deciso di aprire un'iniziativa strategica per raccogliere informazioni su come la Commissione europea, in quanto maggiore istituzione dell'UE, decide e applica l'IA, nonché tecnologie dell'informazione avanzate simili, nel suo lavoro. L'iniziativa mira inoltre a sensibilizzare in merito alla necessità di garantire la responsabilità nel modo in cui le decisioni di introdurre questa tecnologia sono prese e successivamente attuate e monitorate.
La Commissione europea ha recentemente pubblicato una comunicazione dal titolo Artificial Intelligence in the European Commission. In essa la Commissione ha condiviso importanti informazioni sui sistemi di IA già implementati. Ha inoltre condiviso informazioni sui sistemi di IA in fase di sviluppo e sperimentazione. Accolgo con grande favore questo primo passo verso l'aumento delle informazioni a disposizione del pubblico ».

In particolare, il Mediatore europeo ravvisa tre aspetti meritevoli di approfondimento:

1. Analisi dei riscontri del pubblico. L'IA potrebbe consentire ai cittadini UE di trasmettere in modo più efficace alla Commissione le proprie opinioni sulle proposte politiche in esame. Si vorrebbe saperne di più su come la Commissione valuta e prevede di affrontare i potenziali rischi derivanti dall'impiego di strumenti di questo tipo, come la possibilità per alcuni attori di manipolare la percezione del sostegno nell'UE per opzioni politiche specifiche.
2. Gestione dei casi di concorrenza. L'IA potrebbe migliorare la capacità della Commissione di individuare le violazioni delle norme in materia di concorrenza che hanno il maggiore impatto sul mercato interno UE. Al tempo stesso, però, la Commissione dovrà proteggere le proprie indagini da eventuali errori e pregiudizi, tutelando i diritti procedurali delle persone interessate.
3. Gestione dei reclami. L'ufficio del Mediatore tratta le denunce relative al modo in cui la Commissione stessa tratta le infrazioni e altri tipi di denunce. Si chiede quindi in che modo la Commissione intende garantire una protezione dall'automazione eccessiva, per evitare che i responsabili del trattamento delle denunce tendano a fidarsi in modo sproporzionato delle soluzioni proposte dall'IA. «Ogni reclamo - scrive il Mediatore - dovrebbe essere gestito con sufficiente cura dai decisori umani e gli eventuali errori del passato non dovrebbero essere moltiplicati a causa dell'automazione.

Il Mediatore europeo chiede una risposta dettagliata ai propri quesiti entro il 14 giugno 2024. E avvisa: «Vorrei inoltre organizzare una riunione tra la mia squadra d'inchiesta e i rappresentanti della Commissione per affrontare alcune ulteriori domande riguardanti le questioni di cui sopra. Vorrei che questa riunione si svolgesse a giugno o luglio 2024».

Infine: «Il mio ufficio è stato in contatto con il Garante europeo della protezione dei dati prima di lanciare questa iniziativa strategica, dato il loro ruolo specifico in questo settore, per cercare di evitare sovrapposizioni ».