Doom Debate med @VitalikButerin har släppt: Kommer "d/acc" att skydda mänskligheten från superintelligent AI? Vitalik är både en inbiten teknikoptimist och byggare, och någon som är villig att på allvar överväga AI-reglering och samordningsmekanismer. Han myntade begreppet "d/acc" – defensiv, decentraliserad acceleration – som en medelväg mellan okritisk AI-acceleration och totala pausscenarier. Vi debatterar genomförbarheten av AI-anpassning, huruvida metoder som d/acc faktiskt skulle fungera när superintelligensen kommer, och varför han tror att en pluralistisk värld av konkurrerande AI:er kan vara säkrare än en enda anpassad superintelligens. Den springande punkten i vår oenighet är att jag tror att vi är på väg mot ett "växter mot djur"-scenario där AI helt enkelt kommer att fungera på tidsskalor som vi inte kan matcha, medan Vitalik tror att vi kan upprätthålla agens genom rätt kombination av defensiv teknik och institutionell design. Slutligen tar vi itu med själva diskursen – jag ber Vitalik att avfärda de vanliga ad hominem-attackerna mot AI-doomers, från "det är bara en marginell position" till "inga riktiga byggare tror på doom". Hans svar väger tungt med tanke på hans trovärdighet som både en framgångsrik entreprenör och någon som har behållit intellektuell ärlighet under hela sin karriär. Stort tack till Vitalik för en debatt i god tro!