Anthropic od 12. listopadu zpřesní pravidla pro rizikové použití Claude
Anthropic vydal novou verzi pravidel používání Claude, která začne platit 12. listopadu. U rozhodnutí ovlivňujících zdraví, práva, finance, živobytí nebo základní služby musí zůstat kvalifikovaný člověk s možností doporučení změnit a dotčený člověk má vědět, že byla použita AI.
Riziková rozhodnutí vyžadují skutečnou lidskou kontrolu.
Aktualizovaná pravidla se týkají použití Claude, které může ovlivnit zdraví, právní postavení, finance, živobytí nebo přístup k základním službám. Anthropic požaduje kvalifikovaného člověka, jenž má pravomoc doporučení zkontrolovat a v případě potřeby změnit, a také informování dotčené osoby o použití AI.
Nově jsou výslovně popsané také systémy, v nichž Claude řídí zařízení schopná fyzického zásahu. Kvalifikovaný operátor musí zařízení sledovat a umět je zastavit; při odpojení Claude musí zařízení přejít do bezpečného stavu. Nová verze pravidel začne platit 12. listopadu 2026.
Část změn pravidla hlavně zpřesňuje
Anthropic uvádí, že požadavky na lidskou kontrolu a informování u rizikových rozhodnutí nejsou nové, ale nový text přesněji vymezuje, na které situace se vztahují. Nové jsou zejména podmínky pro autonomní fyzické akce.
Projdi rizikové pracovní postupy před 12. listopadem.
Sepiš procesy, v nichž Claude doporučuje nebo provádí krok ovlivňující zdraví, práva, finance, práci nebo základní služby.
U každého určete konkrétního člověka, který může doporučení zastavit nebo změnit, a způsob informování dotčené osoby.
U propojeného zařízení ověř možnost okamžitého zastavení a bezpečný stav při výpadku modelu nebo spojení.
Co zkontrolovat: Výsledkem má být seznam vlastníků kontrol, bodů lidského potvrzení a technických pojistek, ne pouze textová instrukce pro model.