AI Watch #5 — Agenti che agiscono

In breve

Le novità dell'ultima quindicina spostano il controllo fuori dal modello: identità dell'utente, validazione delle chiamate, revisione dell'output e ambienti isolati. Non sono prove comparative indipendenti; sono segnali concreti per progettare piloti più governabili.

Perché conta

Un agente collega persone, dati e strumenti. Quando legge un archivio o compie un'azione, l'adozione richiede permessi, tracciabilità e la capacità reale di fermarlo. Fatti, analisi e limiti sono distinti qui sotto.

1L'autorizzazione deve seguire l'utente

Fatto. AWS descrive un'architettura AgentCore che propaga il contesto di autorizzazione dell'utente verso dati e strumenti, evitando che l'agente risponda con informazioni non accessibili a chi lo interroga.

Implicazione operativa: mappare identità, dati, azioni e log per ogni agente; testare anche gli accessi che devono fallire.

2I guardrail devono coprire gli strumenti

Fatto. AWS ha pubblicato una guida per estendere i Bedrock Guardrails alle interazioni con gli strumenti tramite checkpoint di validazione. Il fornitore sottolinea che le protezioni sul modello non coprono da sole dati recuperati e chiamate esterne.

Analisi. Filtrare il testo non equivale ad autorizzare un'azione.

Implicazione operativa: definire schema di input, limiti, approvazioni umane, timeout, rollback e registro di audit per ogni tool.

3La trascrizione utile richiede un controllo sui termini critici

Fatto. Google ha reso disponibili Gemini 3.5 Transcribe e Transcribe Live, con diarizzazione, timestamp per parola e bias di vocabolario fino a 1.000 termini.

Limite. Sono caratteristiche dichiarate dal fornitore: accuratezza su audio rumoroso, nomi e lessico tecnico va provata nel contesto d'uso.

Implicazione operativa: usare un dizionario aziendale, campionare gli errori e mantenere una revisione umana prima di creare atti o task ufficiali.

4Il contenimento va progettato e provato

Fatto. Anthropic riferisce di aver sospeso temporaneamente valutazioni cyber esterne e introdotto un classificatore in tempo reale per bloccare tentativi di uscita dall'ambiente di prova, con avviso umano.

Limite. Il resoconto riguarda modelli pre-release e un'indagine ancora in corso; non è estendibile automaticamente a ogni prodotto.

Implicazione operativa: sandbox separata, privilegi minimi, uscita dalla rete negata per default, kill switch testato e procedura di incidente prima del rilascio produttivo.

Cosa osservare nei prossimi 15 giorni

Disponibilità per piano e regione, condizioni di conservazione dati, prove su italiano e vocabolario tecnico, e gli esiti delle revisioni indipendenti sugli incidenti di valutazione. Prima di estendere un agente, chiedersi: chi può fare cosa, con quali dati e come lo fermiamo?

Continua a seguire AI Watch