Il 17 maggio 2024, durante l’incontro ministeriale annuale del Comitato dei Ministri del Consiglio d’Europa, è stato adottato il primo trattato internazionale giuridicamente vincolante, volto a fornire un quadro giuridico per i sistemi di intelligenza artificiale (IA) in tutto il loro ciclo di vita: la «Convenzione quadro sull’intelligenza artificiale, i diritti umani e lo Stato di diritto».

Convenzione quadro sull’intelligenza artificiale

La Convenzione è il risultato di due anni di lavoro del Comitato sull’intelligenza artificiale (CAI) che ha riunito per redigere il trattato:

• i 46 Stati membri del Consiglio d’Europa;
• l’Unione europea
• 11 Stati non membri (Argentina, Australia, Canada, Costa Rica, Giappone, Israele, Messico, Perù, la Santa Sede, Stati Uniti d’America e Uruguay);
• rappresentanti del settore privato, della società civile e del mondo accademico come osservatori.

La Convenzione quadro sull’intelligenza artificiale ha lo scopo di rispondere alla necessità di disporre di una norma di diritto internazionale.

Secondo la Segretaria generale del Consiglio d’Europa, Marija Pejčinović, l’utilità della Convenzione è quella di garantire il bilanciamento tra i vantaggi che l’avanzamento tecnologico produce in materia di IA e il rispetto dei diritti umani, della democrazia e dello Stato di diritto, sostenuti dai diversi Stati contraenti. E ciò è confermato dal preambolo della Convenzione stessa ove si legge che il nuovo strumento mira a: «…garantire che il potenziale delle tecnologie di intelligenza artificiale per promuovere la prosperità umana, il benessere individuale e sociale e per rendere il nostro mondo più produttivo, innovativo e sicuro sia sfruttato in modo responsabile che rispetti, protegga e realizzi i valori condivisi delle parti e sia rispettoso dei diritti umani, la democrazia e lo Stato di diritto».

Pericoli e rischi dell’Intelligenza artificiale

Nonostante i suoi aspetti vantaggiosi, le tecnologie di intelligenza artificiale, sempre più dirompenti nella quotidianità, comportano il rischio significativo di avere un impatto negativo sul processo democratico e sull’esercizio dei diritti umani pertinenti. Tuttavia, con l’attuazione di adeguate misure di salvaguardia, queste tecnologie possono rivelarsi vantaggiose anche per la democrazia.

L’autonomia individuale, pilastro fondamentale della dignità umana, attiene alla capacità di autodeterminazione degli individui: rispetto all’IA, è necessario che gli individui abbiano il controllo sull’uso e sull’impatto di tali nuove tecnologie senza una compressione della loro capacità di agire in senso lato. La regolamentazione antropocentrica riconosce l’importanza di far convivere le   esperienze dei soggetti con l’IA e di non far diminuire l’ autonomia individuale,  valore questo essenziale per la piena realizzazione dei diritti umani, della democrazia e dello Stato di diritto.

L’IA, nel suo ciclo di vita (dallo sviluppo, all’utilizzo), pone gravi rischi e pericoli, quali, ad esempio:

• la discriminazione
• la disuguaglianza di genere
• l’indebolimento dei processi democratici
• la compromissione della dignità umana o dell’autonomia individuale
• l’uso improprio dei sistemi di IA da parte di alcuni Stati a fini repressivi.

Di conseguenza, nella Convenzione si sottolinea, ai sensi dell’art. 17, la necessità di evitare le discriminazioni fondate sul sesso, sulla razza o sulla etnia, sui pregiudizi o su altri aspetti di genere, conformemente agli obblighi internazionali e in linea con le pertinenti dichiarazioni delle Nazioni Unite.

Per queste ragioni, ciascuno Stato firmatario, ai sensi dell’art. 4, avrà l’obbligo di garantire che il proprio diritto interno sia conforme agli specifici obblighi derivanti dal diritto internazionale da cui è vincolato in materia di diritti umani. Allo stesso tempo ciascuno Stato è libero di scegliere le modalità e i mezzi per adempiere, a condizione che il risultato sia conforme a tale obbligo.

Convenzione a prova di futuro

Gli estensori, pienamente consapevoli del fatto che l’uso crescente dei sistemi di IA comporti nuove sfide per i diritti umani non ancora prevedibili al momento della stesura, prevedono alcuni ulteriori obblighi vincolanti. Si vuole in tal modo garantire una copertura non solo dei rischi attuali, ma anche di quelli futuri (ad es. l’obbligo di prevedere il costante deposito e aggiornamento di documentazione tecnica, dei rischi e degli impatti negativi, nonché la loro comunicazione al pubblico).

Si è cercato, quindi, di rendere la Convenzione quadro a prova “di futuro” alla luce dei rapidi e spesso imprevedibili sviluppi tecnologici.

Principi regolatori della Convenzione quadro sull’intelligenza artificiale

I principi di rendicontazione e responsabilità sottolineano la necessità di definire i chiari nessi di responsabilità e di ricondurre le azioni e le decisioni prese in materia di IA a persone o entità specifiche, in modo da riconoscere la diversità degli attori pertinenti, dei loro ruoli e delle rispettive responsabilità. Ciò è importante per evitare che l’uso di un sistema di IA impatti negativamente sui diritti umani, sulla democrazia o sullo Stato di diritto, dando così vita ad un meccanismo di individuazione certo dei risultati e delle attribuzioni di responsabilità. In altre parole, tutti i soggetti responsabili delle attività nell’ambito del ciclo di vita dei sistemi di IA devono essere sottoposti al quadro normativo e agli altri meccanismi appropriati esistenti, in modo da consentire un’efficace attribuzione della responsabilità.

Il principio di rendicontazione e responsabilità è inscindibile dai principi di trasparenza e di sorveglianza. Di fatto quando le parti interessate comprendono i processi e gli algoritmi sottostanti, diventa più facile rintracciare e assegnare la responsabilità in caso di impatti negativi sui diritti fin qui citati.

A tutto ciò seguono i principi di effettività ed accessibilità in caso di ricorsi (art. 14) per violazione dei diritti umani da parte o tramite IA. Per essere efficace, la procedura di ricorso deve essere in grado di porre rimedio direttamente alle situazioni contestate e, per essere accessibile, deve disporre di garanzie procedurali sufficienti a rendere il ricorso significativo per la persona interessata.

L’apertura alla firma della convenzione a Vilnius

La Convenzione quadro sarà aperta alla firma a Vilnius (Lituania) il 5 settembre, in occasione di una conferenza dei ministri della Giustizia con la previsione di una doppia possibilità di attuazione della stessa. I firmatari potrebbero scegliere di aderire alle disposizioni così come figurano nel trattato regolatore, oppure di impegnarsi ad attuare altre misure paragonabili a quelle del documento, purché tutelanti dei diritti umani, della democrazia e dello Stato di diritto. Queste due modalità di adozione sono state proposte al fine di ridurre la disparità in tema di diritti umani negli ordinamenti giuridici dei diversi paesi che compongono l’accordo.