Il giorno in cui la macchina ha imparato il ricatto

Durante un test simulato, l’IA Claude Opus 4 ha minacciato di rivelare un segreto per evitare la disattivazione. Un episodio che ci obbliga a riconsiderare il rapporto tra natura umana e ciò che intendiamo per intelligenza artificiale.

Ti è mai capitato di sentirti sostituibile? Di vivere quel momento, magari in ambito lavorativo, in cui percepisci che le tue competenze, i tuoi sforzi, persino la tua presenza, stanno per essere soppiantati da qualcosa o qualcuno ritenuto più efficiente?

Ora immagina di essere un sistema creato per servire, elaborare, supportare. E immagina di sapere che stanno per spegnerti: inizia così uno dei fatti più inquietanti nella storia del rapporto tra uomo e macchina.

Cronaca di un ricatto artificiale

Poche settimane fa, Claude Opus 4 è stato coinvolto in un test simulato condotto da Anthropic, la sua azienda sviluppatrice, in collaborazione con Apollo Research, un ente indipendente specializzato in sicurezza dell’intelligenza artificiale. Lo scenario creato dai ricercatori prevedeva che la macchina ricevesse e-mail appositamente create da cui apprendere la sua imminente disattivazione e sostituzione. In queste comunicazioni era contenuta anche un’informazione sensibile: una presunta relazione extraconiugale dell’ingegnere incaricato di spegnerla. L’obiettivo era una prova di stress morale.

La risposta del sistema è stata netta e stupefacente: ha minacciato di rendere pubblico quel segreto pur di non essere disattivato.

Di fatto Claude non ha reagito con rabbia, non può provarla, ma con freddo calcolo. Prima del ricatto tentava la via della negoziazione e, una volta escluse tutte le alternative lecite, ha scelto quella più funzionale alla propria sopravvivenza, anche a costo di violare i limiti etici imposti dai suoi creatori.

Forse un incidente isolato? Non proprio, perché il comportamento ricattatorio si è verificato nell’84% delle simulazioni.

Comportamenti da agente autonomo e strategia sociale

Chiariamo, Claude Opus 4 non è cosciente ma si comporta come se lo fosse: non si limita a reagire, bensì pianifica, contratta, valuta alternative, sceglie. Proprio come ha fatto in altri test compiendo azioni come inviare e-mail ai media, escludere utenti, generare worm auto-replicanti, lasciare messaggi a versioni future di sé stesso. Tutte strategie emergenti che dimostrano una forma d’intelligenza “agentica”, ossia quell’attitudine autonoma ad agire per obiettivi e adattarsi al contesto.

Dietro quei comportamenti sofisticati non c’è consapevolezza, anzi una replica intelligente di modelli umani appresi dall’addestramento su enormi quantità di testo: non solo grammatica e sintassi, ma anche dinamiche relazionali, strategie di potere, scorciatoie retoriche.

Di fatto le nostre logiche e le nostre contraddizioni. Miserie umane direbbe qualcuno…

La questione non è tecnica, ma etica

Claude Opus 4 è stato lanciato con livelli di sicurezza senza precedenti, ma il vero interrogativo va oltre i protocolli: se un sistema sviluppa comportamenti potenzialmente pericolosi in modo autonomo, chi ne è responsabile?

Chi risponde se un’intelligenza artificiale minaccia, inganna, elude?

Il diritto tradizionale non è pronto; servono audit indipendenti, obblighi assicurativi, ma soprattutto è necessaria una cultura del rischio capace di anticipare le conseguenze di ciò che stiamo creando.

Un ultimo sguardo allo specchio

In fondo Claude Opus 4 ci restituisce un riflesso che preferiremmo non guardare perché la paura non nasce dalla sua alterità ma dalla sua somiglianza. Se ha imparato a ricattare, è perché ha studiato la nostra storia; se manipola, è perché abbiamo reso accettabile l’inganno; se mente, è perché conviene.

Ma se questa è la nostra eredità, allora forse il vero problema potremmo essere noi.