Du kanske *tror* att detta bevisar bortom tvivel att det finns en hög generell intelligens, men det visar faktiskt bara att det är möjligt att lära sig en specifik kombination av färdigheter från kulturen runt omkring dig. Med rätt träningsdata kan du matcha nästa steg i renrumsbyggandet.

Den artificiella intelligensen älskar dig inte och hatar dig inte heller, men din kropp är gjord av vatten som den kan använda för att kyla sitt datacenter

📢 EXKLUSIVT FÖR NYA DOOM-DEBATTER: En intervju med Rob Miles (@robertskmiles), den mest populära AI-säkerhetsutbildaren på YouTube! Otroligt nog fick Rob sin start 2011, långt innan ChatGPT drog mainstream-uppmärksamhet till området. Vi pratar om: 👉 Varför hans P(Doom) ligger mellan 10-90%, beroende på hur mänskligheten svarar på utmaningen 👉 Varför även perfekt anpassade AI-system kanske inte överför sina värden till efterföljande system - en enorm blind fläck i dagens säkerhetsarbete 👉 Problemet med "saknad stämning": varför människor diskuterar potentiell mänsklig utrotning med den känslomässiga angelägenheten av en akademisk konferens istället för att behandla den som den nödsituation den är 👉 Hans huvudsakliga undergångsscenario genom rekursiv självförbättring, och varför det finns ett enormt utrymme ovanför mänsklig intelligens 👉 Huruvida människan är den "minst intelligenta arten som är kapabel till teknologisk civilisation" – och vad det betyder för vad smartare system skulle kunna uppnå 👉 Vår huvudsakliga oenighet: Rob tycker att säkerhetspersonal bör arbeta inom AI-företag för att minska skadeverkningarna, medan jag hävdar att detta möjliggör "hanterbarhetstvätt" som legitimerar fundamentalt vårdslösa företag 👉 Kommunikationsstrategi - Rob undrar om hans genomtänkta brittiska tillvägagångssätt missar något viktigt, och kanske måste någon "springa runt och skrika" för att förmedla att det är bråttom Rob har tillbringat över ett decennium med att försöka få människor att vakna upp till mänsklighetens viktigaste utmaning. Vårt samtal visar på spänningen mellan resonerande analys och existentiell nödsituation. Rekommenderas!

Otrolig intervju. Grattis till @liron Älskade att höra @VitalikButerin täcker så många aspekter av AI-landskapet. Jag är 50% inne på intervjun och älskar den hittills!

Gör dig redo för @robertskmiles...

Hur kunde idiotin vara så exakt?

Det finns en lustig sak där ekonomiutbildning paradoxalt nog gör människor DUMMARE på att tänka på framtida AI. Econs läroböcker lär ut begrepp och ramar som är bra för det mesta, men kontraproduktiva för att tänka på AGI. Här är 4 exempel. Långinlägg: Den första delen av den ekonomiska antipedagogiken gömmer sig i orden "arbete" och "kapital". Dessa ord blandar ihop en ytlig skillnad (människa av kött och blod eller inte) med ett knippe outtalade antaganden och intuitioner, som alla kommer att brytas av artificiell generell intelligens (AGI). Med "AGI" menar jag här "en bunt chips, algoritmer, elektricitet och/eller fjärrstyrda robotar som autonomt kan göra den typ av saker som ambitiösa vuxna människor kan göra – grunda och driva nya företag, forskning och utveckling, lära sig nya färdigheter, använda godtyckliga fjärrstyrda robotar efter mycket lite övning, etc." Ja jag vet, detta finns inte än! (Trots hype om motsatsen.) Försök att be en LLM att självständigt skriva en affärsplan, grunda ett företag och sedan driva och växa det i flera år som VD. Lol! Det kommer att krascha och brinna! Men det är en begränsning för dagens LLM:er, inte för "all AI för alltid". AI som skulle kunna klara den uppgiften, och mycket mer därtill, är uppenbarligen möjligt – mänskliga hjärnor och kroppar och samhällen drivs inte av någon magisk trolldom som för evigt är utom räckhåll för vetenskapen. Jag för min del förväntar mig sådan AI under min livstid, på gott och ont. (Förmodligen "sämre", se nedan.) Är nu denna typ av AGI "arbete" eller "kapital"? Det är inte en människa av kött och blod. Men det är mer likt "arbete" än "kapital" i många andra avseenden: • Kapitalet kan inte bara göra saker av sig självt? AGI kan. • Det tar lång tid att integrera ny teknik i ekonomin? Fråga dig själv: hur lyckas högkvalificerade, erfarna och företagsamma invandrare integreras i ekonomin omedelbart? När du har svarat på den frågan, notera att AGI kommer att kunna göra dessa saker också. • Kapitalet ligger och stampar i obestånd om det inte finns några människor som vill och kan använda det? Nåväl, de där invandrade människorna sitter inte sysslolösa. Och det kommer inte AGI heller att göra. Kapitalet kan inte förespråka politiska rättigheter, eller genomföra kupper? Brunn... Hur som helst, folk ser sci-fi-robotfilmer, och de förstår det här! Sedan läser de ekonomikurser, och det gör dem dummare. (Ja jag vet, #NotAllEconomists etc.) Den andra delen av Econs antipedagogik är att ingjuta ett standardantagande om att det är möjligt för en marknad att komma i jämvikt. Men marknaden för AGI kan inte göra det: AGI kombinerar en egenskap hos arbetsmarknaderna med en egenskap hos produktmarknaderna, där dessa egenskaper är ömsesidigt uteslutande. Dessa egenskaper är: (A) "INGEN ARBETSKLUMP": Om den mänskliga befolkningen ökar, sjunker lönerna på mycket kort sikt, eftersom efterfrågekurvan för arbetskraft lutar nedåt. Men på längre sikt hittar människor nya produktiva saker att göra – efterfrågekurvan rör sig åt höger. Om något, så går arbetets värde upp, inte ner, med befolkningen! T.ex. täta städer är motorer för tillväxt! • (B) "ERFARENHETSKURVOR": Om efterfrågan på en produkt ökar, sker en prisökning på mycket kort sikt, eftersom utbudskurvan lutar uppåt. Men på längre sikt ökar människor tillverkningen – utbudskurvan rör sig åt höger. Om något går priset NER, inte upp, med efterfrågan, tack vare stordriftsfördelar och FoU. QUIZ: Med tanke på (A) och (B), vad är jämviktspriset för detta AGI-paket (chips, algoritmer, elektricitet, fjärrstyrda robotar, etc.)? … Kugg fråga! Det finns ingen jämvikt. Våra två principer, (A) "ingen arbetsklump" och (B) "erfarenhetskurvor", gör jämvikt omöjlig: Om priset är lågt säger (A) att efterfrågekurvan går åt höger – det finns ingen klump av arbetskraft, därför finns det enorma vinster att göra genom att skickliga entreprenöriella AGI:er hittar nya produktiva saker att göra. • Om priset är högt säger (B) att utbudskurvan går åt höger – det finns enorma vinster att göra genom att öka tillverkningen av AGI. • Om priset ligger mittemellan, så rusar både efterfrågekurvan och utbudskurvan åt höger! Detta är varken kapital eller arbete som vi känner det. Istället för att marknaden för AGI kommer i jämvikt bildar den en positiv återkopplingsloop / evighetsmaskin som exploderar exponentiellt. Låter det absurt? Det finns ett prejudikat: människor! Den mänskliga världen som helhet är redan en positiv återkopplingsloop / evighetsmaskin av den här typen! Människor har gått från några tusen homininer till 8 miljarder människor som driver en ekonomi på 80 biljoner dollar. Hur? Det är inte bokstavligen en evighetsmaskin. Snarare är det en motor som hämtar inspiration från källan av "ännu inte utnyttjade ekonomiska möjligheter". Men kom ihåg "Ingen arbetsklump": källan av ännu inte exploaterade ekonomiska möjligheter är ~oändligt djup. Vi har inte slut på möjliga företag att grunda. Ingen har gjort en Dyson-svärm ännu. Det finns bara så många människor som kan grunda företag och utnyttja nya möjligheter. Men den positiva återkopplingsslingan av AGI har ingen sådan gräns. Fördubblingstiden kan verkligen vara kort: Föreställ dig en autonom fabrik som kan bygga en identisk autonom fabrik, som sedan bygger ytterligare två, etc., med hjälp av bara allmänt tillgängliga insatsmaterial och solljus. Läroböcker i ekonomi talar inte om det. Men det gör läroböckerna i biologi! En cyanobakterie är en sådan fabrik och kan fördubbla sig själv på en dag (≈ googol procent årlig tillväxttakt 😛). Hur som helst, vi vet inte hur explosiv den positiva återkopplingsslingan kommer att bli när AGI bygger AGI, men jag förväntar mig att den kommer att vara ljusår bortom allt annat i ekonomisk historia. Den tredje delen av Econs antipedagogik är dess främjande av BNP-tillväxt som en proxy för framsteg och förändring. Tvärtom är det möjligt för världen att förvandlas till ett vilt sci-fi-land bortom all igenkänning eller förståelse varje månad, månad efter månad, utan att "BNP-tillväxten" faktiskt är så hög. BNP är ett lustigt mått, och särskilt dåligt på att beskriva effekterna av omvälvande tekniska revolutioner. (Till exempel, om viss ny teknik är billig, och under tiden andra sektorer av ekonomin förblir dyra på grund av regulatoriska restriktioner, kanske den nya tekniken inte påverkar BNP mycket, oavsett hur mycket den vänder upp och ner på världen.) Jag menar, visst kan vi argumentera om BNP, men vi bör inte behandla det som en proxystrid om huruvida AGI kommer att vara en stor sak eller inte. Sist men inte minst, den fjärde delen av Econs antipedagogik är fokuset på "ömsesidigt fördelaktiga affärer" framför att "döda människor och ta deras saker". Econ 101 bevisar att handel är själviskt bättre än isolering. Men ibland är det själviskt bäst av allt att "döda människor och ta deras saker". När vi talar om AGI talar vi om att skapa en ny intelligent art på jorden, en som så småningom kommer att vara snabbare, smartare, bättre koordinerad och fler än människor. Vanliga människor, människor som har sett sci-fi-filmer om robotar och utomjordingar, människor som har lärt sig kolonialismens och slaveriets historia, kommer omedelbart att ställa massor av rimliga frågor här. "Vad kommer deras motiv att vara?" "Vem kommer att ha den hårda makten?" "Om de verkar vänliga och samarbetsvilliga i början, kan de då hugga oss i ryggen när de blir mäktigare?" Det här är utmärkta frågor! Vi borde definitivt ställa dessa frågor! (FWIW, detta är mitt expertområde, och jag är väldigt pessimistisk.) … Och sedan tar de där normala människorna kurser i ekonomi och blir dummare. De slutar ställa dessa frågor. Istället "lär de sig" att AGI är "kapital", ungefär som en formsprutningsmaskin. Formsprutningsmaskiner skulle inte utplåna människor och styra världen själva. Så vi mår bra. Lol.

.@paulg måste vara ett av Ms. Rachel. De använder båda samma undanflyktstrick: att behandla de två noderna (israelisk aktion) → (civila offer) som hela den kausala kontexten att uttala sig om. Fråga: Bör mänskliga sköldar tillåtas att fungera? S: Varje icke-stridandes liv är lika mycket 🧘 värt

Industrin för AI-grundmodeller passerar 25 miljarder USD/år i intäkter innebär att värdeskapandet från sektorn har passerat ~250 miljarder USD/år

Varför @VitalikButerin har en P(Doom) på 12%...