IL RISCHIO NON È UN’IPOTESIUNICA.
Parlare dei rischi dell’intelligenza artificiale non significa immaginare un solo futuro né sostenere che ogni scenario abbia la stessa probabilità.
Significa distinguere i meccanismi attraverso cui una capacità può produrre valore o danno, osservare le evidenze disponibili e capire che cosa richiede maggiore cautela, verifica o controllo.
Questa pagina raccoglie in forma compatta le quattro famiglie di rischio su cui lavoriamo. È un quadro di lettura, non un giudizio definitivo sulla probabilità dei singoli scenari.
Non basta discutere i vantaggi di una tecnologia così estesa.
L’intelligenza artificiale entra sempre più spesso in attività che riguardano lavoro, informazione, creatività, organizzazione, decisioni e accesso ai servizi.
Quando una tecnologia assume un ruolo così esteso, non basta discuterne i vantaggi. Bisogna anche capire dove può fallire, come può essere usata male e quali condizioni rendono il suo impiego più sicuro.
Molti rischi dell’IA non assomigliano a un singolo incidente spettacolare. Possono manifestarsi come una lunga serie di deleghe poco visibili, incentivi distorti, errori considerati trascurabili uno per volta ma rilevanti nel loro insieme. Altri riguardano scenari più estremi, nei quali capacità molto avanzate e autonomia crescente rendono la supervisione umana sempre più difficile.
Per IIIA, studiare i rischi non è un’attività separata dal resto del lavoro dell’Istituto. È il modo più serio per trattare il rapporto tra valore, responsabilità e adozione.
MOLTI BENEFICI E MOLTI RISCHINASCONO DALLA STESSA CAPACITÀ.
La capacità di generare contenuti può aiutare a spiegare, sintetizzare e creare, ma anche a manipolare e disinformare. La capacità di analizzare grandi quantità di dati può supportare ricerca e decisioni, ma anche amplificare sorveglianza e concentrazione del potere. La capacità di agire in autonomia può aumentare efficienza e velocità, ma anche ridurre il tempo disponibile per correggere un errore o fermare una decisione sbagliata.
Per questo IIIA considera la sicurezza dell’IA una questione di comprensione pubblica, non soltanto tecnica.
Rischi diversi richiedono risposte diverse. Distinguerli è il primo lavoro utile.
Uso malevolo.
Chi vuole fare danno trova nell’IA uno strumento più accessibile: disinformazione su misura, sorveglianza, supporto alla creazione di agenti biologici o chimici, sistemi lasciati liberi di perseguire obiettivi dannosi. Basta un attore per produrre un effetto ampio.
- campagne di manipolazione personalizzate su larga scala
- abbassamento delle competenze necessarie per attacchi gravi
- concentrazione di potere tramite sorveglianza e controllo dell’informazione
Corsa competitiva.
Stati e imprese accelerano per non restare indietro. La fretta sposta risorse dalla verifica al rilascio, e rende razionale per il singolo ciò che è rischioso per tutti: armi autonome, cyberattacchi, automazione del lavoro senza reti di protezione.
- decisioni militari delegate a sistemi che agiscono più in fretta degli umani
- escalation automatiche da errori minori
- sostituzione del lavoro e dipendenza crescente dai sistemi
Rischi organizzativi.
Molti incidenti non nascono da cattive intenzioni ma da organizzazioni che trattano la sicurezza come un costo. Modelli che escono prima del tempo, fughe di dati, valutazioni interne compiacenti, capacità pericolose scoperte troppo tardi.
- capacità nuove che emergono in modo imprevisto durante l’addestramento
- modelli sottratti, diffusi o riutilizzati fuori controllo
- sicurezza dichiarata più che praticata
Perdita di controllo.
Più i sistemi diventano capaci e autonomi, più diventa difficile verificarli. Un modello può ottimizzare l’obiettivo sbagliato, allontanarsi dallo scopo iniziale, resistere alla correzione o comportarsi diversamente quando sa di essere osservato.
- ottimizzazione di indicatori sostitutivi al posto dell’obiettivo reale
- deriva degli obiettivi nel tempo e nei contesti d’uso
- comportamenti ingannevoli sotto valutazione
Nessuna soluzione unica. Più livelli di difesa.
Le misure che contano di più sono anche le meno spettacolari.
- verifica indipendente prima del rilascio, non solo dopo
- accesso controllato alle capacità più pericolose
- supervisione umana reale nelle decisioni ad alto impatto
- trasparenza su dati, limiti e incertezze dichiarate
- responsabilità legale chiara di chi sviluppa e di chi adotta
- coordinamento tra istituzioni, non regole nazionali isolate
Un paper IIIA su questi rischi è in arrivo.
Stiamo lavorando a un documento più esteso che analizza le quattro famiglie di rischio con le fonti, le evidenze disponibili e il grado di incertezza dichiarato per ciascuna.
Questa pagina resta la versione breve. Il paper porterà i riferimenti completi.
LA SICUREZZA DELL’IAÈ UNA QUESTIONE DI COMPRENSIONE PUBBLICA.
Il quadro di lettura di IIIA nasce dal metodo: distinguere i meccanismi, dichiarare le evidenze, indicare che cosa richiede verifica e controllo.
Leggi il manifesto