{"id":58768,"date":"2024-05-28T10:50:02","date_gmt":"2024-05-28T08:50:02","guid":{"rendered":"https:\/\/blogs.dlapiper.com\/iptitaly\/?p=58768"},"modified":"2024-05-28T10:50:02","modified_gmt":"2024-05-28T08:50:02","slug":"il-primo-trattato-internazionale-sullintelligenza-artificiale-cosa-prevede-la-convenzione-quadro-del-consiglio-deuropa","status":"publish","type":"post","link":"https:\/\/blogs.dlapiper.com\/iptitaly\/2024\/05\/il-primo-trattato-internazionale-sullintelligenza-artificiale-cosa-prevede-la-convenzione-quadro-del-consiglio-deuropa\/","title":{"rendered":"Il primo trattato internazionale sull\u2019intelligenza artificiale: cosa prevede la convenzione quadro del Consiglio d\u2019Europa"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\"><em>di Giacomo Lusardi e Alessandra Faranda<\/em><\/p>\n\n\n\n<p class=\"has-black-color has-text-color has-link-color wp-elements-fea9f3029fab30a027db8c1db70a75be wp-block-paragraph\">Il Consiglio d\u2019Europa ha adottato a Strasburgo la prima convenzione quadro internazionale giuridicamente vincolante volta a garantire il rispetto dei diritti umani, della democrazia e dello Stato di diritto nell\u2019utilizzo dei sistemi di intelligenza artificiale<a> nel settore pubblico e privato.<\/a> Aperta alla firma dal prossimo 5 settembre, anche ai Paesi extraeuropei, la convenzione delinea un quadro normativo che copre <a>l\u2019intero<\/a> ciclo di vita dei sistemi di IA, dalla progettazione alla dismissione, affrontandone i rischi ma incentivando, al contempo, un\u2019innovazione responsabile.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>L\u2019impegno per una governance responsabile dell\u2019IA<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Obiettivo primario della Convenzione quadro \u00e8 garantire che il <strong>potenziale<\/strong> delle tecnologie di intelligenza artificiale (IA) sia sfruttato in modo <strong>responsabile<\/strong>, rispettando, proteggendo e realizzando i valori condivisi dalla <strong>comunit\u00e0 internazionale<\/strong>, i diritti umani, la democrazia e lo Stato di diritto. I sistemi di IA offrono <strong>opportunit\u00e0<\/strong> mai viste prima, ma allo stesso tempo presentano <strong>rischi e pericoli<\/strong> quali la discriminazione, la disuguaglianza di genere, la compromissione dei processi democratici, la lesione della dignit\u00e0 umana o dell\u2019autonomia individuale o, ancora, l\u2019uso improprio da parte degli Stati a fini repressivi.<\/p>\n\n\n\n<p class=\"has-black-color has-text-color has-link-color wp-elements-e984a7ea66024b81fa5efc6d01017ded wp-block-paragraph\"><strong>Ambito di applicazione, definizioni e approccio globale. L\u2019enfasi sul \u201cciclo di vita\u201d <a>dell\u2019IA<\/a><\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Le previsioni della Convenzione sono incentrate sul concetto di \u201c<strong>ciclo di vita<\/strong>\u201d dei sistemi di IA, che ne sintetizza le diverse <strong>fasi<\/strong>, dalla concezione e progettazione fino alla dismissione. Concetto che \u00e8 anche alla base del <strong>Regolamento Europeo sull\u2019intelligenza artificiale<\/strong> (AI Act) con riferimento, tra l\u2019altro, agli obblighi di trasparenza e di adozione del sistema di gestione dei rischi.<\/p>\n\n\n\n<p class=\"has-black-color has-text-color has-link-color wp-elements-e9739cce4ef632af2bf41abfd77407bb wp-block-paragraph\">Ma cosa s\u2019intende per \u201csistema di IA\u201d nell\u2019ambito della Convenzione? Essa definisce i sistemi di IA basandosi non sulla corrispondente <strong>definizione letterale<\/strong> contenuta nell\u2019AI Act, ma di quella adottata <a>dall\u2019<strong>OCSE<\/strong><\/a> l<a><\/a><a>\u2019<\/a>8 novembre 2023. Definizioni, quella dell\u2019OCSE e dell\u2019AI Act, che peraltro coincidono nella sostanza, dato che si fondano sulle medesime <strong>propriet\u00e0 chiave dei sistemi di IA<\/strong>: autonomia e adattabilit\u00e0 variabili, capacit\u00e0 di inferenza e di generazione di previsioni, contenuti, raccomandazioni o decisioni che possono influenzare ambienti fisici o virtuali. La scelta della definizione dell\u2019OCSE \u00e8 orientata all\u2019esigenza di rafforzare la <strong>cooperazione internazionale<\/strong> sul tema dell\u2019IA e di facilitare gli sforzi volti ad <strong>armonizzarne la governance<\/strong> a livello globale.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Sotto il profilo oggettivo, la convenzione <strong>non si propone di regolamentare tutte le attivit\u00e0<\/strong> rientranti nel ciclo di vita dei sistemi di IA, ma <strong>soltanto quelle in grado di interferire<\/strong> con i diritti umani, la democrazia e lo stato di diritto. \u00c8 peculiare, quindi, l\u2019approccio del Consiglio d\u2019Europa che, <strong>a differenza dell\u2019AI Act<\/strong>, non fa coincidere il proprio ambito di applicazione oggettivo con specifici modelli, sistemi o pratiche di IA, bens\u00ec con le <strong>singole attivit\u00e0 facenti parte del ciclo di vita<\/strong> dell\u2019IA e sull\u2019impatto che esse possono avere anche <strong>a prescindere dal rischio<\/strong> che il sistema presenta nel suo complesso.<\/p>\n\n\n\n<p class=\"has-black-color has-text-color has-link-color wp-elements-d7b2fe356dbb3c3af35f7911687cacec wp-block-paragraph\">La Convenzione disciplina <a>l\u2019utilizzo<\/a> dei sistemi di IA sia nel <strong>settore pubblico<\/strong> che nel <strong>settore privato<\/strong>. Le parti della Convenzione dovranno adottare o mantenere le <strong>opportune misure<\/strong> legislative, amministrative o di altro genere per <strong>dare attuazione alle sue disposizioni<\/strong>. Misure che dovranno essere <strong>graduate<\/strong> e <strong>differenziate<\/strong> sulla base della gravit\u00e0 e della probabilit\u00e0 del verificarsi di impatti negativi sui diritti umani, la democrazia e lo Stato di diritto durante tutto il ciclo di vita dei sistemi di IA.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Principi generali relativi alle attivit\u00e0 nel ciclo di vita dei sistemi di IA<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Dopo un primo e un secondo capitolo su, rispettivamente, previsioni e obblighi generali, il terzo capitolo della Convenzione stabilisce una serie di <strong>principi generali<\/strong> da attuare in conformit\u00e0 agli ordinamenti giuridici nazionali. Essi sono volutamente formulati con un livello elevato di <strong>generalit\u00e0<\/strong>, cos\u00ec da poter essere applicati in modo <strong>flessibile<\/strong> in una variet\u00e0 di contesti in rapida evoluzione.<\/p>\n\n\n\n<p class=\"has-black-color has-text-color has-link-color wp-elements-fe125a2cabb4fef4c53930ab929b2ca8 wp-block-paragraph\">Il <strong>primo principio<\/strong> prevede l\u2019adozione di misure per il rispetto della <strong>dignit\u00e0 umana<\/strong> e dell\u2019<strong>autonomia individuale<\/strong>. In particolare, l\u2019uso di sistemi di IA non dovrebbe portare alla <strong>disumanizzazione<\/strong> degli individui, minare la loro capacit\u00e0 di agire autonomamente o ridurli a <strong>meri punti dati <\/strong>(<em>data point<\/em>). Inoltre, i sistemi di IA non dovrebbero essere <strong>antropomorfizzati<\/strong> in un modo che interferisca con la dignit\u00e0 umana<a>.<\/a><a> L\u2019autonomia<\/a> della persona \u00e8 un elemento chiave della dignit\u00e0 umana, intesa come <strong>capacit\u00e0 di autodeterminarsi<\/strong>, prendere decisioni senza coercizioni e vivere liberamente. In ambito di IA preservare <a>l\u2019autonomia<\/a> individuale significa garantire alle persone il controllo <a>sull\u2019utilizzo<\/a> e <a>l\u2019impatto<\/a> delle tecnologie di IA nelle loro vite, senza che queste ne compromettano la libera scelta. Principio, l\u2019<strong>antropocentrismo<\/strong>, che peraltro permea anche l\u2019AI Act (il cui scopo \u00e8, tra l\u2019altro, \u201c<em>promuovere la diffusione di <a>un\u2019intelligenza<\/a> artificiale (IA) antropocentrica e affidabile<\/em>\u201d) e il DDL italiano in materia di IA ora al vaglio delle Camere.<\/p>\n\n\n\n<p class=\"has-black-color has-text-color has-link-color wp-elements-cb11b405deec0b2834e0ce7e73ffccc0 wp-block-paragraph\">Il <strong>secondo principio<\/strong> riguarda la <strong>trasparenza<\/strong> e la <strong>supervisione<\/strong> dei sistemi di IA, fondamentali anche nell\u2019ambito dell\u2019AI Act sia con riferimento ai sistemi ad alto rischio che a determinati sistemi di IA in esso individuati. In virt\u00f9 delle caratteristiche di <strong>complessit\u00e0<\/strong> e <strong>opacit\u00e0<\/strong> che caratterizzano i sistemi di IA, le attivit\u00e0 svolte attraverso di essi richiedono adeguati presidi sotto questi due aspetti. I <strong>processi decisionali<\/strong> e il funzionamento generale dei sistemi di IA dovrebbero essere <strong>comprensibili<\/strong> e accessibili sia dagli attori della filiera che, ove necessario e appropriato, dagli altri soggetti interessati. Al riguardo, la Convenzione prescrive l\u2019adozione o il mantenimento di misure per assicurare la presenza di idonei <strong>requisiti di trasparenza e monitoraggio<\/strong> modulati in base ai contesti e ai rischi specifici, inclusa <a><strong>l\u2019identificazione<\/strong><\/a><strong> dei contenuti<\/strong> generati tramite IA. Della trasparenza rilevano soprattutto gli aspetti di <strong>spiegabilit\u00e0<\/strong> e <strong>interpretabilit\u00e0<\/strong>: la prima si riferisce alla capacit\u00e0 di fornire <strong>spiegazioni sufficientemente comprensibili sul perch\u00e9 un sistema di IA fornisca determinate informazioni<\/strong>, produca specifiche previsioni, contenuti, raccomandazioni o decisioni, il che \u00e8 particolarmente importante in ambiti sensibili quali l\u2019assistenza sanitaria, i servizi finanziari, l\u2019immigrazione, i servizi di frontiera, la giustizia penale; la seconda si riferisce, invece, alla capacit\u00e0 di comprendere <strong>come un sistema di IA faccia previsioni o prenda decisioni<\/strong>, ossia alla misura il processo di generazione degli output possa essere reso accessibile e comprensibile ai non esperti del settore. Tuttavia, la <strong>divulgazione delle informazioni<\/strong> potrebbe contrastare con la privacy, la riservatezza e i segreti commerciali, la sicurezza nazionale, o i diritti dei terzi: per queste ragioni, nell\u2019attuazione del principio di trasparenza \u00e8 opportuno trovare un giusto <strong>equilibrio<\/strong> tra i vari interessi in gioco.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Quanto alla <strong>supervisione<\/strong>, essa si riferisce a vari meccanismi e processi per <strong>monitorare e guidare<\/strong> le attivit\u00e0 del ciclo di vita dei sistemi di IA: secondo il testo della Convenzione si potrebbe trattare di <em>framework<\/em> giuridici, politici e normativi, di raccomandazioni, linee guida, codici di condotta, programmi di audit e certificazione, di strumenti di individuazione degli errori, o di un coinvolgimento di autorit\u00e0 di vigilanza.<\/p>\n\n\n\n<p class=\"has-black-color has-text-color has-link-color wp-elements-f3be565e3fb0b1b0445bafeeb615681d wp-block-paragraph\">Il <strong>terzo principio<\/strong>, di <strong><em>accountability<\/em><\/strong>e <strong>responsabilit\u00e0, <\/strong>costituisce un altro dei capisaldi della Convenzione. Esso riguarda la necessit\u00e0 di predisporre <strong>meccanismi<\/strong> affinch\u00e9 le organizzazioni, entit\u00e0 e individui impegnati nelle attivit\u00e0 lungo tutto il ciclo di vita dei sistemi di IA rispondano degli impatti negativi sui diritti umani, sulla democrazia o sullo Stato di diritto. Principio <strong>inscindibile<\/strong> da quelli di trasparenza e supervisione, poich\u00e9 i meccanismi di trasparenza e supervisione <strong>consentono<\/strong> l\u2019esercizio della responsabilit\u00e0 e <a>dell\u2019<em>accountability<\/em><\/a> rendendo pi\u00f9 chiaro il funzionamento dei sistemi di IA e come producono i loro output.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La Convenzione si articola, poi, su altri quattro principi altrettanto importanti: <strong>eguaglianza e non discriminazione<\/strong>, rispetto al quale il testo elenca una serie di riferimenti normativi da considerare e i vari pregiudizi (<em>bias<\/em>) che potrebbero caratterizzare i sistemi di IA, <strong>tutela dei dati personali<\/strong>, <strong>affidabilit\u00e0 <\/strong>sulla base distandard tecniciemisure in chiave di robustezza, accuratezza, integrit\u00e0 dei dati e cybersicurezza, e, infine<a>,<\/a> <strong>innovazione sicura <\/strong>in ambienti controllati (ad esempio, <em>sandbox <\/em>regolamentari).<\/p>\n\n\n\n<p class=\"has-black-color has-text-color has-link-color wp-elements-f5e3cb431cc943db5505e856c12a791d wp-block-paragraph\"><strong>Rimedi, garanzie procedurali e gestione dei rischi. Moratoria per i sistemi di <a>IA<\/a><\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Sotto il profilo dei <strong>rimedi<\/strong>, la Convenzione richiede alle parti di applicare i propri <strong>regimi normativi esistenti<\/strong> alle attivit\u00e0 che caratterizzano il ciclo di vita dei sistemi di IA. Per rendere efficaci i rimedi in questione, essa prevede l\u2019<strong>adozione o il mantenimento di misure<\/strong> specifiche volte a documentare e rendere disponibili determinate informazioni alle persone interessate, ma anche ad assicurare l\u2019<strong>effettiva possibilit\u00e0<\/strong> di presentare <strong>reclamo alle autorit\u00e0 competenti<\/strong>.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Rispetto alle <strong>garanzie procedurali<\/strong> la Convenzione prevede che i soggetti che interagiscono con i sistemi di IA siano informati proprio del fatto che stanno <strong>interagendo con un sistema di IA<\/strong> e non con un essere umano.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Vi \u00e8 poi una disposizione inerente alla necessit\u00e0 di identificare, valutare, prevenire e mitigare ex ante e, se del caso, in <strong>modo iterativo<\/strong> per tutto il ciclo di vita del sistema di IA, i rischi e gli impatti potenziali rilevanti per i diritti umani, la democrazia e lo Stato di diritto, sviluppando un <strong>sistema di gestione dei rischi<\/strong> sulla base di criteri concreti e oggettivi. La Convenzione impone anche alle parti di valutare la necessit\u00e0 di <strong>moratorie<\/strong>, <strong>divieti<\/strong> o altre misure appropriate per quanto riguarda i sistemi di IA <strong>incompatibili<\/strong> con il rispetto dei diritti umani, della democrazia e dello Stato di diritto, lasciando <strong>libert\u00e0 alle parti<\/strong> nella definizione del concetto di incompatibilit\u00e0 cos\u00ec come sugli scenari che richiedano le misure in questione.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Implementazione, effetti ed entrata in vigore della Convenzione<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Quanto all\u2019implementazione della Convenzione, essa impone di tenere in debita considerazione le esigenze e le <strong>vulnerabilit\u00e0 specifiche<\/strong> riguardanti le persone affette da <strong>disabilit\u00e0 <\/strong>e i <strong>minori<\/strong>, nonch\u00e9 di promuovere l\u2019<strong>alfabetizzazione digitale<\/strong> per tutti i segmenti della popolazione.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Le parti della Convenzione sono libere di applicare <strong>precedenti accordi o trattati<\/strong> relativi al ciclo di vita dei sistemi di IA coperti dalla Convenzione, ma devono attenersi agli <strong>obiettivi<\/strong> e alle <strong>finalit\u00e0<\/strong> della stessa, senza assumere obblighi in contrasto.<\/p>\n\n\n\n<p class=\"has-black-color has-text-color has-link-color wp-elements-3fac49601ea1bc13d75dedff05940bb3 wp-block-paragraph\">Dal <strong>5 settembre 2024<\/strong> la Convenzione sar\u00e0 aperta alla firma non solo degli <strong>Stati membri del Consiglio <a>d\u2019Europa<\/a><\/strong>, ma anche dei <strong>Paesi terzi<\/strong> che hanno contribuito alla sua elaborazione, tra cui Argentina, Australia, Canada, Giappone, Israele, Stato della Citt\u00e0 del Vaticano e USA, oltre che <a>dell\u2019UE<\/a>. Una volta in vigore, altri Stati non membri potranno essere invitati ad aderirvi. La Convenzione <strong>entrer\u00e0 in vigore<\/strong> il primo giorno del mese successivo allo scadere di un periodo di tre mesi dalla data in cui <strong>almeno cinque firmatari<\/strong>, incluso un <strong>minimo tre Stati membri<\/strong> del Consiglio <a>d\u2019Europa<\/a>, avranno espresso il loro consenso ad esserne vincolati.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><\/p>\n","protected":false},"excerpt":{"rendered":"<p>di Giacomo Lusardi e Alessandra Faranda Il Consiglio d\u2019Europa ha adottato a Strasburgo la prima convenzione quadro internazionale giuridicamente vincolante volta a garantire il rispetto dei diritti umani, della democrazia e dello Stato di diritto nell\u2019utilizzo dei sistemi di intelligenza artificiale nel settore pubblico e privato. Aperta alla firma dal prossimo 5 settembre, anche ai [&hellip;]<\/p>\n","protected":false},"author":606,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_s2mail":"","site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[1],"tags":[],"class_list":["post-58768","post","type-post","status-publish","format-standard","hentry","category-general"],"_links":{"self":[{"href":"https:\/\/blogs.dlapiper.com\/iptitaly\/wp-json\/wp\/v2\/posts\/58768","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blogs.dlapiper.com\/iptitaly\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blogs.dlapiper.com\/iptitaly\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blogs.dlapiper.com\/iptitaly\/wp-json\/wp\/v2\/users\/606"}],"replies":[{"embeddable":true,"href":"https:\/\/blogs.dlapiper.com\/iptitaly\/wp-json\/wp\/v2\/comments?post=58768"}],"version-history":[{"count":0,"href":"https:\/\/blogs.dlapiper.com\/iptitaly\/wp-json\/wp\/v2\/posts\/58768\/revisions"}],"wp:attachment":[{"href":"https:\/\/blogs.dlapiper.com\/iptitaly\/wp-json\/wp\/v2\/media?parent=58768"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blogs.dlapiper.com\/iptitaly\/wp-json\/wp\/v2\/categories?post=58768"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blogs.dlapiper.com\/iptitaly\/wp-json\/wp\/v2\/tags?post=58768"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}