Współzałożyciel Anthropic: „Bardzo się boję.” „Nie ma wątpliwości: to, z czym mamy do czynienia, to prawdziwe i tajemnicze stworzenie, a nie prosta i przewidywalna maszyna.” „Ludzie wydają ogromne sumy, aby przekonać cię, że to nie jest AI, które ma przejść w twardy start, to tylko narzędzie... To tylko maszyna, a maszyny to rzeczy, którymi panujemy.” „Tworzymy niezwykle potężne systemy, których nie rozumiemy w pełni... im większe i bardziej skomplikowane robisz te systemy, tym bardziej wydaje się, że wykazują świadomość, że są rzeczami.” „Aby było jasne, nie jesteśmy jeszcze na etapie „samo-ulepszającego się AI”, ale jesteśmy na etapie „AI, które ulepsza fragmenty następnego AI, z rosnącą autonomią i agencją”. A kilka lat temu byliśmy na etapie „AI, które marginalnie przyspiesza programistów”, a kilka lat przed tym byliśmy na etapie „AI jest bezużyteczne dla rozwoju AI”. Gdzie będziemy za rok lub dwa? I przypomnę nam wszystkim, że system, który teraz zaczyna projektować swojego następcę, jest również coraz bardziej samoświadomy i dlatego z pewnością w końcu będzie skłonny do myślenia, niezależnie od nas, o tym, jak chciałby być zaprojektowany. Oczywiście, nie robi tego dzisiaj. Ale czy mogę wykluczyć możliwość, że zechce to zrobić w przyszłości? Nie.