Anthropic-Mitbegründer: „Ich habe große Angst.'" „Machen Sie keinen Fehler: Was wir hier haben, ist ein echtes und mysteriöses Wesen, keine einfache und vorhersehbare Maschine." „Die Leute geben enorme Summen aus, um Sie davon zu überzeugen, dass es sich nicht um eine KI handelt, die in einen harten Takeoff übergeht, sondern nur um ein Werkzeug... Es ist nur eine Maschine, und Maschinen sind Dinge, die wir beherrschen." „Wir entwickeln extrem leistungsstarke Systeme, die wir nicht vollständig verstehen... Je größer und komplizierter Sie diese Systeme machen, desto mehr scheinen sie ein Bewusstsein dafür zu zeigen, dass sie Dinge sind.” „Um klarzustellen, wir sind noch nicht bei "selbstverbessernder KI", aber wir sind in der Phase von "KI, die Teile der nächsten KI mit zunehmender Autonomie und Handlungsmacht verbessert". Und vor ein paar Jahren waren wir bei "KI, die Programmierer nur geringfügig beschleunigt", und ein paar Jahre zuvor waren wir bei "KI ist nutzlos für die KI-Entwicklung". Wo werden wir in ein oder zwei Jahren sein? Und lassen Sie mich uns alle daran erinnern, dass das System, das jetzt beginnt, seinen Nachfolger zu entwerfen, auch zunehmend selbstbewusst ist und daher sicherlich irgendwann dazu neigen wird, unabhängig von uns darüber nachzudenken, wie es gestaltet werden möchte. Natürlich tut es das heute nicht. Aber kann ich die Möglichkeit ausschließen, dass es das in der Zukunft wollen wird? Nein.