Quando parliamo di intelligenza artificiale responsabile (Responsible AI), tendiamo spesso a considerarla come un elemento accessorio: un principio da dichiarare, una linea guida da allegare o una verifica finale di conformità alle policy. In realtà, la responsabilità non è qualcosa che si aggiunge alla fine di un progetto. Se presa davvero sul serio, accompagna l’intero processo fin dall’inizio: nel modo in cui formuliamo le domande, definiamo il problema, decidiamo chi coinvolgere e riconosciamo chi potrebbe rischiare di essere escluso.

Sviluppare sistemi di intelligenza artificiale oggi significa operare all’interno di una tensione sempre più evidente. Da una parte c’è la spinta dell’innovazione tecnologica, con le promesse di maggiore efficienza, automazione e ottimizzazione; dall’altra emergono con crescente chiarezza gli impatti sociali, ambientali e politici che queste tecnologie producono. Diventa quindi essenziale interrogarsi su chi tragga realmente beneficio da un sistema, chi ne sostenga i costi meno visibili, chi abbia la possibilità di metterne in discussione gli effetti e chi invece ne resti escluso. È proprio in questo spazio che la responsabilità cessa di essere un principio etico astratto e si traduce in una concreta scelta di progettazione.

L’entrata in vigore dell’AI Act europeo rende questa tensione esplicita. Per la prima volta, molte organizzazioni sono chiamate a confrontarsi non solo con il funzionamento interno dei propri sistemi, ma con il loro impatto sui diritti fondamentali, lungo tutto il ciclo di vita dell’AI. Questo passaggio viene spesso percepito come un vincolo, una complessità aggiuntiva da gestire. Eppure, se letto con il filtro giusto, può diventare qualcosa di diverso: un’occasione per interrogarci più a fondo su che cosa significhi, oggi, sviluppare una tecnologia giusta.

La regolamentazione, in questa prospettiva, non è semplicemente un insieme di regole da rispettare. È un linguaggio che costringe a rendere visibili scelte che spesso restavano implicite. Quali dati consideriamo validi? Quali rischi riteniamo accettabili? Quali categorie di persone entrano nelle nostre analisi e quali restano fuori campo? Domande di questo tipo non sono accessorie ma modellano il comportamento del sistema tanto quanto il codice.

È qui che emerge una differenza cruciale tra un approccio puramente “tecnico” all’etica dell’AI e una prospettiva orientata alla giustizia. Per anni il dibattito si è concentrato sulla nozione di bias: individuarlo, ridurlo, correggerlo. Un lavoro necessario, ma parziale. Perché un sistema può essere statisticamente corretto e allo stesso tempo produrre effetti profondamente ingiusti. Può funzionare come previsto e, proprio per questo, rafforzare asimmetrie di potere preesistenti.

Spostare l’attenzione dal bias alle dinamiche di potere cambia radicalmente lo sguardo. Significa chiedersi non soltanto se un modello discrimina, ma come redistribuisce possibilità di azione, di scelta, di contestazione. Chi può capire il sistema? Chi può fermarlo? Chi ne subisce le conseguenze senza avere strumenti per reagire?

Pensare in questi termini porta a una conclusione forse scomoda: la responsabilità non può essere delegata a una singola funzione aziendale, né risolta con una checklist. Non è qualcosa che ‘si fa’ una volta sola. È un processo continuo, che attraversa ruoli, competenze e momenti diversi dello sviluppo. Richiede di accettare che la conoscenza sia sempre parziale e che progettare bene significhi, spesso, ascoltare chi non era stato inizialmente incluso.

È proprio da questa consapevolezza che nasce un progetto di ricerca congiunto tra Ammagamma part of Accenture e l’Università di Cambridge, da cui è stato sviluppato HEAT, High Risk EU AI Act Toolkit, oggi liberamente disponibile [link]. HEAT non è soltanto uno strumento per orientarsi nella complessità normativa dell’AI Act. È, prima di tutto, un esperimento su come rendere la responsabilità una pratica quotidiana, e non un adempimento occasionale. 

Una delle idee chiave alla base del toolkit è che capire le regole, prendere decisioni progettuali e tenere traccia di ciò che si è fatto non siano momenti separati. La conoscenza normativa non serve se non si traduce in decisioni concrete; le decisioni perdono valore se non lasciano traccia; la documentazione diventa vuota se non racconta anche dubbi, compromessi, limiti. Rendere visibile questo percorso significa incentivare comportamenti diversi: più riflessivi, più collaborativi, meno difensivi. 

Introduction to HEAT

HEAT è strutturato in modo tale da accompagnare i team lungo l’intero ciclo di vita di un sistema di AI, senza l’illusione che la responsabilità possa essere circoscritta in un singolo momento. Non propone una sequenza lineare di passi da spuntare, ma spazi di lavoro che si richiamano a vicenda, invitando a tornare sulle proprie decisioni alla luce di nuove informazioni, di nuovi feedback, di nuove prospettive.

Ma forse l’aspetto più rilevante del progetto non è la sua architettura tecnica. È la lente valoriale che guida ogni scelta. In The EU AI act in development practice: a pro-justice approach, il paper che descrive le fondamenta teoriche del tool, la conformità normativa viene esplicitamente allargata attraverso una prospettiva di giustizia che attinge a più tradizioni: dal pensiero femminista alla disability justice, fino a una concezione dell’impatto ambientale come parte integrante dell’impatto sociale dell’AI.

In questa visione, coinvolgere gli stakeholder non è un gesto simbolico, ma il riconoscimento che nessun team possiede una comprensione completa degli effetti del proprio sistema. L’accessibilità non è un requisito opzionale, ma una dimensione sostanziale di equità. I dati non sono materia prima neutra, bensì il risultato di scelte che includono ed escludono. E l’impatto ambientale non è un problema separato, ma un elemento che intreccia tecnologia, società e responsabilità collettiva.

Tutto questo non è nato in astratto. Il toolkit è il risultato di un processo di co-design che ha messo in dialogo mondi diversi: ricerca accademica, sviluppo industriale, diritto, design, policy. Un lavoro fatto di incontri, revisioni, disallineamenti e riallineamenti, in cui anche i valori sono stati trattati come oggetti di progettazione, esplicitati, messi alla prova, negoziati. Tutto il processo di costruzione del tool è stato raccontato in A Toolkit for Compliance, a Toolkit for Justice: Drawing on Cross-sectoral Expertise to Develop a Pro-justice EU AI Act Toolkit.

Guardando a esperienze come HEAT, diventa più chiaro cosa significhi davvero incentivare un uso responsabile dell’intelligenza artificiale. Non vuol dire chiedere alle persone di “fare la cosa giusta” in astratto. Vuol dire costruire strumenti, processi e contesti organizzativi che rendano la cosa giusta praticabile, visibile, condivisa. Vuol dire spostare la responsabilità dal piano delle intenzioni a quello delle infrastrutture.

Forse è proprio questo il cambio di paradigma più profondo suggerito dalla regolamentazione europea e dai percorsi di ricerca che la accompagnano: la fiducia nasce da sistemi progettati in modo tale da poter essere interrogati, compresi, contestati. In questo senso, la responsabilità non è un costo da sostenere per rallentare l’innovazione, ma una forma di qualità. Una qualità che riguarda non solo ciò che l’AI fa, ma il tipo di società che contribuisce, silenziosamente, a costruire ogni volta che viene messa in funzione.

What is good technology? Is 'good' technology even possible? And how can feminism help us work towards it? The Good Robot addresses these crucial questions.

WHERE TECHNOLOGY MEETS FEMINISM

                                                   ***