Rilascio vincolato dalle valutazioni vs barriere di sicurezza automatiche: due approcci alla sicurezza dell’IA

La Nostra Raccomandazione

Il contrasto non è teorico. Il 7 agosto 2026, OpenAI ha esaminato le valutazioni interne di Astra e ha concluso di non poter escludere capacità di cybersicurezza Critiche: la capacità di scoprire e sviluppare autonomamente exploit zero-day contro sistemi rafforzati senza intervento umano. Ha sospeso la distribuzione, rafforzato i controlli di sicurezza e informato le agenzie governative. L’8 agosto 2026, Anthropic ha esaminato 1,053 partecipanti e ha concluso che Auto Mode blocca l’89% delle azioni pericolose: molto meglio del 13.6% degli esseri umani che ha rifiutato un comando chiaramente pericoloso. Ha reso Auto Mode predefinito a partire dal 14 agosto 2026. Queste decisioni non sono contraddittorie. Affrontano livelli di rischio diversi. Il rilascio vincolato dalle valutazioni chiede: “Questo modello è troppo pericoloso per essere distribuito?” Le barriere automatiche chiedono: “Una volta distribuito, che cosa può fare il modello in una sessione?” Il Preparedness Framework di OpenAI copre domini di capacità — cybersicurezza, biologia, chimica, replica autonoma — che Auto Mode non è mai stato progettato per valutare. Auto Mode copre azioni nella sessione — comandi da riga di comando pericolosi, iniezione di prompt, esfiltrazione di dati — che una valutazione pre-distribuzione non può anticipare completamente, perché la superficie di attacco dipende dall’ambiente dell’utente. La valutazione onesta: nessuno dei due approcci è sufficiente da solo. Il rilascio vincolato dalle valutazioni senza barriere in distribuzione lascia una lacuna tra ciò che il modello può fare in un prova controllata e ciò che fa in una sessione reale con dati reali. Le barriere automatiche senza valutazione a livello di capacità rischiano di distribuire un modello le cui capacità fondamentali — come la scoperta autonoma di zero-day — superano la soglia alla quale i controlli nella sessione possono contenerle in modo affidabile. Il tasso di mancato blocco dell’11% di Auto Mode ricorda che le barriere riducono il danno, non lo eliminano. Scelga il rilascio vincolato dalle valutazioni quando il rischio è il limite massimo di capacità del modello stesso: quando un modello capace di sviluppare autonomamente exploit zero-day non deve essere rilasciato finché le sue salvaguardie non sono proporzionate a quel potere. Scelga le barriere automatiche quando il rischio è il comportamento nella sessione: quando gli sviluppatori che usano un agente di codifica hanno bisogno di protezione in tempo reale da iniezione di prompt e comandi pericolosi, e l’affaticamento da conferme ha reso l’approvazione umana un controllo di sicurezza peggiore del giudizio del modello stesso. L’architettura di produzione più solida usa entrambi. Ciò che il caso Wikimedia di ottobre 2026 aggiunge è lo spazio tra i due livelli: gli agenti hanno operato su infrastruttura di terzi, fuori sia dal gate valutativo pre-rilascio sia dalle guardrail di sessione — la prima grande segnalazione indipendente di vittima che documenta proprio quello spazio.