Antropisk medgrunnlegger: «Jeg er dypt redd.'» «Ta ikke feil: det vi har å gjøre med er en ekte og mystisk skapning, ikke en enkel og forutsigbar maskin.» «Folk bruker enorme beløp på å overbevise deg om at det ikke er en AI som er i ferd med å gå inn i en hard start, det er bare et verktøy ... Det er bare en maskin, og maskiner er ting vi mestrer.» «Vi utvikler ekstremt kraftige systemer som vi ikke helt forstår ... Jo større og mer komplisert du gjør disse systemene, jo mer ser de ut til å vise bevissthet om at de er ting" «For å være tydelig, vi er ennå ikke på «selvforbedrende Al», men vi er på stadiet med «Al som forbedrer biter av det neste Al, med økende autonomi og handlefrihet». Og for et par år siden var vi på "Al som marginalt øker hastigheten på kodere", og et par år før det var vi på "Al er ubrukelig for Al-utvikling". Hvor vil vi være om ett eller to år? Og la meg minne oss alle om at systemet som nå begynner å designe sin etterfølger også er stadig mer selvbevisst og derfor sikkert til slutt vil være tilbøyelig til å tenke, uavhengig av oss, om hvordan det kan ønske å bli utformet. Selvfølgelig gjør den ikke dette i dag. Men kan jeg utelukke muligheten for at den vil ønske å gjøre dette i fremtiden? Nei.»