AI Watch #6 — Più capacità, più controllo

In breve

La notizia non è soltanto l'arrivo di modelli più capaci. È il cambio di soglia operativa: un agente che può trovare vulnerabilità, usare strumenti e lavorare a lungo richiede controlli legati al rischio dell'azione, non un'autorizzazione generica all'uso dell'AI.

Dal modello al sistema di lavoro

Il 3 settembre OpenAI ha pubblicato la system card di GPT-6 Astra, classificato al livello “Critical” per capacità di cybersecurity nel proprio Preparedness Framework. Il documento descrive anche isolamento più rigoroso, accesso ristretto a rete e strumenti e monitoraggio delle traiettorie. È una valutazione del fornitore, non una prova indipendente, ma il segnale per le aziende è netto: la governance deve riguardare ciò che il sistema può fare, non soltanto ciò che può scrivere.

1I permessi devono seguire l'azione

Leggere una procedura, modificare un record, inviare un messaggio e avviare un processo hanno impatti diversi. Un solo profilo “AI abilitata” non basta.

Decisione operativa: creare una matrice ruolo × fonte × azione. Negare per default scrittura, invio e cancellazione; abilitare solo i casi d'uso approvati.

2La Company Brain deve conoscere la provenienza

Un agente forte non corregge una base documentale confusa. Se fonti ufficiali, bozze, email e contenuti esterni sono mescolati, aumenta la velocità dell'errore.

Decisione operativa: etichettare proprietario, stato, data di validità e livello di sensibilità di ogni fonte; separare le istruzioni aziendali dai contenuti esterni non affidabili.

3Il controllo deve restare vicino ai dati

Il 1° settembre Anthropic ha annunciato Enterprise Frontier Safeguards, con elaborazione orientata a zero data retention e dati mantenuti in infrastruttura controllata dal cliente. Il servizio è annunciato in rollout progressivo: condizioni e disponibilità vanno verificate prima dell'adozione.

Decisione operativa: documentare dove transitano prompt, allegati, output e log; verificare retention, regione, subfornitori e accessi amministrativi per ogni soluzione.

4Ogni autonomia richiede una prova di arresto

NIST/CAISI rileva un consenso ampio: i principi classici di cybersecurity restano validi, ma devono essere adattati agli agenti. Per i sistemi multi-agente, una presentazione NIST del 1° settembre richiama rischi e lacune specifiche di copertura.

Decisione operativa: testare sandbox, limiti di spesa, timeout, rollback, revoca delle credenziali e kill switch. Se non sappiamo fermare il flusso, non è pronto per la produzione.

La checklist prima del prossimo pilota

Quali fonti può leggere? Quali azioni può eseguire? Chi approva i passaggi irreversibili? Dove sono conservati i log? Come si revocano gli accessi? Qual è il test che dimostra che l'agente si ferma davvero?

La Company Brain diventa quindi un'infrastruttura di governo: collega conoscenza, responsabilità e limiti operativi. Più cresce la capacità del modello, più questa architettura diventa essenziale.

Vuoi valutare un caso d'uso concreto?

Knowflow Consulting aiuta a strutturare fonti, permessi e controlli prima di collegare l'AI ai processi reali. Scrivici o segui la pagina LinkedIn.