LLM security
Valutazione di architetture LLM, pipeline RAG, fonti dati, confini di fiducia e gestione degli output.
AI Security
Proteggere l’AI. Proteggersi dall’AI.
EMF valuta e rafforza chatbot, copilot, modelli e agenti autonomi, e aiuta l’organizzazione a difendersi da phishing, deepfake e attacchi accelerati dall’intelligenza artificiale.
Parla con un espertoIl problema
Un agente con accesso ai dati è anche una nuova superficie di attacco.
I sistemi AI elaborano contenuti non attendibili, usano strumenti e credenziali, e possono compiere azioni con impatti reali. Prompt injection, privilegi eccessivi, segreti esposti e traffico in uscita non controllato richiedono verifiche specifiche. Parallelamente, l’AI rende più credibili e scalabili gli attacchi di social engineering.
Stati e tempi misurati dal perimetro alla chiusura verificata.
L’approccio EMF
Controlli tecnici e governance seguono ciò che il sistema può fare.
EMF parte da dati, strumenti, identità e azioni accessibili al sistema AI. Gli assessment autorizzati verificano scenari di abuso e l’efficacia dei guardrail. Le misure di remediation combinano privilegi minimi, gestione dei segreti, logging, supervisione umana e controlli di rete. La governance AI Act viene integrata quando applicabile, senza sostituire la valutazione legale.
01Contesto prima della priorità
02Responsabilità prima dell’intervento
03Evidenza prima della chiusura
Capacità operative
Attività incluse nel servizio.
Ogni attività alimenta un processo condiviso, con informazioni utili a chi decide e a chi interviene.
Prompt injection assessment
Test autorizzati di istruzioni dirette e indirette, contenuti malevoli e tentativi di aggirare i controlli.
Chatbot e copilot
Security assessment di accessi documentali, isolamento dei contesti, fuga di dati e integrazioni applicative.
Agent Security Review
Revisione specialistica di agenti, strumenti, server MCP, identità, autorizzazioni, azioni critiche e approvazioni umane.
Segreti e traffico in uscita
Verifica della gestione di token e credenziali, politiche di egress e Sentinel come controllo pertinente nei casi d’uso appropriati.
Logging e guardrail
Tracciamento delle azioni, criteri di intervento, limiti operativi e supervisione proporzionata al rischio.
Attacchi potenziati dall’AI
Simulazioni autorizzate di phishing, smishing, vishing e deepfake, valutazione dei processi di verifica e formazione con PhishGuard.
Shadow AI e difese
Mappatura dell’uso non governato, controlli sui flussi di dati e verifica della detection contro attacchi automatizzati.
Erogazione
Fasi di erogazione e verifica.
01
Mappare
Sistemi AI, modelli, dati, strumenti, identità e dipendenze vengono inventariati insieme ai proprietari.
02
Valutare
Rischi e scenari di abuso vengono ordinati per impatto e verificati con test controllati e autorizzati.
03
Rafforzare
Il piano di remediation interviene su architettura, privilegi, guardrail, processi e controlli compensativi.
04
Governare
Metriche, log, revisioni e documentazione mantengono il controllo al variare di modelli e casi d’uso.
Risultati attesi
Indicatori e condizioni di misurazione.
Gli indicatori vengono definiti sul perimetro e sui livelli di servizio concordati, senza assumere risultati uguali per ogni organizzazione.
Rischi resi concreti
Gli scenari di attacco sono collegati a dati, azioni e processi effettivamente esposti.
Privilegi proporzionati
Ogni agente riceve soltanto gli accessi necessari, con controlli sulle operazioni sensibili.
Adozione più consapevole
Team tecnici, risk owner e compliance condividono criteri di sicurezza e responsabilità.
Difesa delle persone
Simulazioni e procedure di verifica rafforzano la risposta a frodi e social engineering generati con AI.
Casi d’uso
Scenari di applicazione.
- Verificare un copilot collegato a documenti riservati prima della messa in produzione.
- Limitare le destinazioni esterne raggiungibili da un agente AI.
- Revisionare privilegi e approvazioni di un agente che modifica sistemi aziendali.
- Testare i processi di autorizzazione contro richieste fraudolente con voce sintetica.
Il prossimo passo
Misura la finestra di esposizione del tuo perimetro.
La valutazione iniziale copre inventario, fonti disponibili, responsabilità di remediation e criteri di verifica della chiusura.
Richiedi un confronto con EMF