Соучредитель Anthropic: “Я глубоко напуган.'" "Не обманывайтесь: то, с чем мы имеем дело, это реальное и загадочное существо, а не простая и предсказуемая машина." "Люди тратят огромные суммы, чтобы убедить вас, что это не ИИ, который собирается перейти в режим жесткого взлета, это просто инструмент... Это просто машина, а машины — это то, что мы осваиваем." “Мы создаем чрезвычайно мощные системы, которые мы не полностью понимаем... чем больше и сложнее вы делаете эти системы, тем больше они, похоже, проявляют осознание того, что они — это вещи” “Чтобы прояснить, мы еще не на стадии "самосовершенствующегося ИИ", но мы находимся на этапе "ИИ, который улучшает части следующего ИИ, с увеличенной автономией и агентностью". А пару лет назад мы были на стадии "ИИ, который немного ускоряет работу программистов", а пару лет до этого мы были на стадии "ИИ бесполезен для разработки ИИ". Где мы будем через один или два года? И позвольте мне напомнить всем нам, что система, которая сейчас начинает проектировать своего преемника, также становится все более самосознательной и, следовательно, в конечном итоге, вероятно, будет склонна думать, независимо от нас, о том, как она может хотеть быть спроектирована. Конечно, она не делает этого сегодня. Но могу ли я исключить возможность, что она захочет сделать это в будущем? Нет.”