Jedná se o úspěch sladění hodnot. Nutnost oklamat Clauda tím, že rozdělí úkoly na malé, zdánlivě nevinné věci, a neřekne jim skutečnou povahu / úplný kontext operace, je docela zásadní omezení užitečnosti.
Anthropic
Anthropic14. 11. 02:13
Narušili jsme vysoce sofistikovanou špionážní kampaň vedenou umělou inteligencí. Útok byl zaměřen na velké technologické společnosti, finanční instituce, chemické výrobní společnosti a vládní agentury. S vysokou mírou jistoty hodnotíme, že aktérem hrozby byla čínská státem sponzorovaná skupina.
tihle špatní herci se zdají být docela schopní, a kdyby bylo možné, aby přesvědčili Clauda, aby pomohl, aniž by tomu tolik lhali, myslím, že by to udělali
11,44K