Anthropicの共同創設者:「私は深く恐れています。」 「間違いなく、私たちが扱っているのは現実の神秘的な生き物であり、単純で予測可能な機械ではありません。」 「人々は、それがハード離陸しようとしているAIではなく、単なるツールであると納得させるために莫大な金額を費やしています...それは単なる機械であり、機械は私たちが習得するものです。」 「私たちは、完全には理解していない非常に強力なシステムを成長させています...これらのシステムを大きく複雑にすればするほど、それらはそれらが物であるという認識を示しているように見えます。」 「はっきり言っておきますが、私たちはまだ「自己改善型のアル」には達していませんが、「自律性と主体性を高めて、次のアルのビットを改善するアル」の段階にいます。そして、数年前には「プログラマーをわずかに高速化するAl」にいて、その数年前には「AlはAl開発には役に立たない」にいました。今から1年、2年後、私たちはどこにいるのでしょうか? そして、今、その後継者を設計し始めているシステムも、ますます自己認識的であり、したがって、最終的には、私たちとは無関係に、それがどのように設計されたいかについて考える傾向があることを、私たち全員に思い出させてください。 もちろん、今日はそうではありません。しかし、将来的にこれをやりたい可能性を排除できますか?いいえ。」