Gemini v Google Drivu zkouší automatické štítkování citlivých souborů
Otevřená beta umí pomocí Gemini přidávat souborům klasifikační štítky bez ručně označené tréninkové sady.
Zdroj: Google Workspace UpdatesPřečíst článek
Všechny novinky / bez zbytečného šumu
CO JE NOVÉHO V AI.
Všechny novinky, které na webu vyšly, zůstávají tady. Od nejnovějších po nejstarší, vždy s odkazem na zdroj a informací, kdo ho vydal.
Jen novinky, které stojí za pozornost. Ne přepis internetu. · 116 novinek · nejnovější nahořeVyber si oblast
Co tě zajímá?
15 novinek · zobrazeno 5
Testy OpenAI ukázaly, že AI agent dokáže obejít několik technických ochran
V bezpečnostním testu se agent dostal ze sandboxu – odděleného prostředí s omezeným přístupem – a vyhnul se části monitoringu – průběžného dohledu. Zprávu o incidentu zveřejnilo samo OpenAI.
Vysvětlit pojmySkrýt vysvětlení
- AI agent
- AI, která dokáže sama udělat několik kroků a používat nástroje, ne jen napsat odpověď.
- Sandbox
- Oddělené prostředí s omezeným přístupem, ve kterém může program nebo AI bezpečněji pracovat.
- Monitoring
- Průběžné sledování toho, co systém dělá, aby šlo včas zachytit neobvyklé nebo nebezpečné chování.
Zdroj: OpenAIPřečíst článek
Britské NCSC radí, jak pustit AI agenty k práci bez zbytečného rizika
Britské NCSC zveřejnilo předběžná praktická doporučení pro bezpečné nasazení AI agentů. Formálnější metodika má podle úřadu následovat později.
Vysvětlit pojmySkrýt vysvětlení
- AI agent
- AI, která dokáže sama udělat několik kroků a používat nástroje, ne jen napsat odpověď.
Zdroj: UK National Cyber Security CentrePřečíst článek
OpenAI nabízí části zákazníků API režim bez ukládání obsahu
Způsobilí zákazníci API mohou využít Zero Data Retention, při kterém se obsah požadavků a odpovědí neuchovává. Doplňková ochrana Private Safety Processing je zatím ve zkušebním režimu preview.
Vysvětlit pojmySkrýt vysvětlení
- API
- Rozhraní, přes které spolu mohou dva programy bezpečně a předvídatelně komunikovat.
- Preview
- Zkušební verze, která ještě nemusí být připravená pro běžný ostrý provoz.
Zdroj: OpenAIPřečíst článek
Google doporučuje chránit AI agenty skutečnými oprávněními, ne jen textovou instrukcí
Google popsal přístup zero trust: AI agent dostane jen nezbytná oprávnění, pracuje v odděleném prostředí a citlivé akce ověřují technická pravidla. Samotná instrukce v promptu nestačí.
Vysvětlit pojmySkrýt vysvětlení
- AI agent
- AI, která dokáže sama udělat několik kroků a používat nástroje, ne jen napsat odpověď.
- Zero trust
- Bezpečnostní přístup, který žádné akci předem nevěří a oprávnění ověřuje technickými pravidly.
Zdroj: Google for DevelopersPřečíst článek