Britské NCSC radí, jak pustit AI agenty k práci bez zbytečného rizika
Britské NCSC zveřejnilo předběžná praktická doporučení pro bezpečné nasazení AI agentů. Formálnější metodika má podle úřadu následovat později.
Vysvětlit pojmySkrýt vysvětlení
- AI agent
- AI, která dokáže sama udělat několik kroků a používat nástroje, ne jen napsat odpověď.
- Sandbox
- Oddělené prostředí s omezeným přístupem, ve kterém může program nebo AI bezpečněji pracovat.
- Monitoring
- Průběžné sledování toho, co systém dělá, aby šlo včas zachytit neobvyklé nebo nebezpečné chování.
Co to znamená pro tebe.
Doporučení od veřejné bezpečnostní instituce pomáhá oddělit základní ochrany od marketingových slibů dodavatelů. Současný text ale není konečnou normou.
Sepiš, k jakým datům a nástrojům agent přistupuje, omez oprávnění a přidej sandbox – oddělené prostředí s omezeným přístupem –, monitoring – průběžný dohled – a lidské potvrzení citlivých akcí.