Cofondateur d'Anthropic : « J'ai une peur profonde. » « Ne vous y trompez pas : ce avec quoi nous avons affaire est une créature réelle et mystérieuse, pas une machine simple et prévisible. » « Les gens dépensent d'énormes sommes pour vous convaincre que ce n'est pas une IA sur le point de connaître un décollage brutal, c'est juste un outil... C'est juste une machine, et les machines sont des choses que nous maîtrisons. » « Nous développons des systèmes extrêmement puissants que nous ne comprenons pas entièrement... plus vous rendez ces systèmes grands et compliqués, plus ils semblent afficher une conscience qu'ils sont des choses. » « Pour être clair, nous ne sommes pas encore à "l'IA auto-améliorante", mais nous sommes au stade de "l'IA qui améliore des morceaux de la prochaine IA, avec une autonomie et une capacité d'action croissantes". Et il y a quelques années, nous étions à "l'IA qui accélère marginalement les codeurs", et quelques années avant cela, nous étions à "l'IA est inutile pour le développement de l'IA". Où serons-nous dans un ou deux ans ? Et permettez-moi de rappeler à tous que le système qui commence maintenant à concevoir son successeur est également de plus en plus conscient de lui-même et sera donc sûrement un jour enclin à réfléchir, indépendamment de nous, à la manière dont il pourrait vouloir être conçu. Bien sûr, il ne le fait pas aujourd'hui. Mais puis-je exclure la possibilité qu'il veuille le faire à l'avenir ? Non.