Cofondatore di Anthropic: “Ho una profonda paura.” “Non fraintendetemi: quello con cui stiamo trattando è una creatura reale e misteriosa, non una semplice e prevedibile macchina.” “Le persone stanno spendendo enormi quantità per convincerti che non è un'AI pronta a decollare in modo brusco, è solo uno strumento... È solo una macchina, e le macchine sono cose che padroneggiamo.” “Stiamo sviluppando sistemi estremamente potenti che non comprendiamo appieno... più grandi e complicati rendi questi sistemi, più sembrano mostrare consapevolezza di essere cose.” “Per essere chiari, non siamo ancora a "AI auto-migliorante", ma siamo nella fase di "AI che migliora parti della prossima AI, con crescente autonomia e agenzia". E un paio di anni fa eravamo a "AI che accelera marginalmente i programmatori", e un paio di anni prima eravamo a "AI è inutile per lo sviluppo di AI". Dove saremo tra uno o due anni? E lasciatemi ricordare a tutti noi che il sistema che ora inizia a progettare il suo successore è anche sempre più consapevole di sé e quindi sarà sicuramente incline a pensare, indipendentemente da noi, a come potrebbe voler essere progettato. Certo, non lo fa oggi. Ma posso escludere la possibilità che vorrà farlo in futuro? No.”