S-ar putea să credeți că acest lucru dovedește fără îndoială existența unei inteligențe generale ridicate, dar de fapt arată că este posibil să înveți o combinație specifică de abilități de la cultura din jurul tău. Datele de antrenament corecte vă permit să potriviți modelul următorului pas de construcție a camerei curate.

Inteligența artificială nu te iubește și nici nu te urăște, dar corpul tău este făcut din apă pe care o poate folosi pentru a-și răci centrul de date

📢 EXCLUSIV NEW DOOM DEBATES: Un interviu cu Rob Miles (@robertskmiles), cel mai popular educator de siguranță AI de pe YouTube! În mod uimitor, Rob și-a început activitatea în 2011, cu mult înainte ca ChatGPT să atragă atenția publicului asupra domeniului. Vorbim despre: 👉 De ce P(Doom) se află între 10-90%, în funcție de modul în care omenirea răspunde provocării 👉 De ce chiar și sistemele AI perfect aliniate ar putea să nu-și transmită valorile sistemelor succesoare - un punct mort masiv în munca actuală de siguranță 👉 Problema "dispoziției lipsă": de ce oamenii discută despre potențiala extincție umană cu urgența emoțională a unei conferințe academice în loc să o trateze ca pe o urgență 👉 Scenariul său principal prin auto-îmbunătățire recursivă și de ce există un spațiu enorm deasupra inteligenței umane 👉 Dacă oamenii sunt "specia cea mai puțin inteligentă capabilă de civilizație tehnologică" - și ce înseamnă asta pentru ceea ce ar putea realiza sistemele mai inteligente 👉 Dezacordul nostru cheie: Rob crede că oamenii de siguranță ar trebui să lucreze în cadrul companiilor de inteligență artificială pentru reducerea riscurilor, în timp ce eu susțin că acest lucru permite "spălarea tractabilității" care legitimează întreprinderile fundamental nesăbuite 👉 Strategia de comunicare - Rob se întreabă dacă abordarea sa britanică măsurată lipsește ceva crucial și poate cineva trebuie să "alerge țipând" pentru a transmite urgența adecvată Rob a petrecut peste un deceniu încercând să trezească oamenii la cea mai importantă provocare a umanității. Conversația noastră dezvăluie tensiunea dintre analiza rațională și urgența existențială. Foarte recomandat!

Interviu incredibil. Felicitări @liron Mi-a plăcut să aud @VitalikButerin acoperă atât de multe aspecte ale peisajului AI. Sunt 50% interesat de interviu și mi-a plăcut până acum!

Pregătește-te pentru @robertskmiles...

Cum a fost Idiocracy atât de precis

Există un lucru amuzant în care educația economică îi face pe oameni să se gândească la IA în viitor. Manualele economice învață concepte și cadre care sunt grozave pentru majoritatea lucrurilor, dar contraproductive pentru a ne gândi la AGI. Iată 4 exemple. Postare lungă: Prima piesă de anti-pedagogie economică se ascunde în cuvintele "muncă" și "capital". Aceste cuvinte combină o diferență superficială (om în carne și oase vs nu) cu un mănunchi de presupuneri și intuiții nerostite, care vor fi toate rupte de Inteligența Artificială Generală (AGI). Prin "AGI" mă refer aici la "un pachet de cipuri, algoritmi, electricitate și/sau roboți teleoperați care pot face în mod autonom genul de lucruri pe care le pot face adulții umani ambițioși – fondarea și conducerea de noi companii, cercetare și dezvoltare, învățarea de noi abilități, utilizarea roboților arbitrari teleoperați după foarte puțină practică etc." Da, știu, asta nu există încă! (În ciuda hype-ului contrar.) Încercați să cereți unui LLM să scrie în mod autonom un plan de afaceri, să înființeze o companie, apoi să o conducă și să o dezvolte ani de zile ca CEO. Lol! Se va prăbuși și va arde! Dar aceasta este o limitare a LLM-urilor de astăzi, nu a "întregii IA pentru totdeauna". Inteligența artificială care ar putea îndeplini această sarcină și mult mai departe este evident posibilă – creierele, corpurile și societățile umane nu sunt alimentate de vreo vrăjitorie magică dincolo de raza de acțiune a științei. Eu unul mă aștept la o astfel de inteligență artificială în timpul vieții mele, la bine și la rău. (Probabil "mai rău", vezi mai jos.) Acum, este acest tip de AGI "muncă" sau "capital"? Ei bine, nu este un om în carne și oase. Dar seamănă mai mult cu "muncă" decât cu "capital" în multe alte privințe: • Capitalul nu poate să se ridice și să facă lucrurile de la sine? AGI poate. • Noile tehnologii durează mult timp pentru a se integra în economie? Ei bine, întrebați-vă: cum reușesc oamenii imigranți cu înaltă calificare, experimentați și antreprenoriali să se integreze imediat în economie? Odată ce ați răspuns la această întrebare, rețineți că AGI va putea face și aceste lucruri. • Capitalul stă inactiv dacă nu există oameni dispuși și capabili să-l folosească? Ei bine, acei oameni imigranți nu stau degeaba. Și nici AGI. • Capitalul nu poate susține drepturile politice sau nu poate lansa lovituri de stat? Bine... Oricum, oamenii văd filme SF cu roboți și înțeleg asta! Apoi urmează cursuri de economie și asta îi face mai proști. (Da, știu, #NotAllEconomists etc.) A doua piesă a anti-pedagogiei economice insuflă o presupunere implicită că este posibil ca o piață să se echilibreze. Dar piața pentru AGI nu poate: AGI combină o proprietate a piețelor muncii cu o proprietate a piețelor de produse, unde acele proprietăți se exclud reciproc. Aceste proprietăți sunt: • (A) "FĂRĂ FORȚĂ DE MUNCĂ": Dacă populația umană crește, salariile scad pe termen foarte scurt, deoarece curba cererii de forță de muncă scade. Dar pe termen lung, oamenii găsesc noi lucruri productive de făcut – curba cererii se mișcă corect. În orice caz, valoarea muncii crește, nu scade, odată cu populația! De exemplu, orașele dense sunt motoare de creștere! • (B) "CURBE DE EXPERIENȚĂ": Dacă cererea pentru un produs crește, există o creștere a prețurilor pe termen foarte scurt, deoarece curba ofertei se înclină în sus. Dar pe termen lung, oamenii cresc producția – curba ofertei se mișcă spre dreapta. În orice caz, prețul scade, nu crește, odată cu cererea, datorită economiilor de scară și cercetării și dezvoltării. TEST: Având în vedere (A) și (B), care este prețul de echilibru al acestui pachet AGI (cipuri, algoritmi, electricitate, roboți teleoperați etc.)? … Întrebare capcană! Nu există echilibru. Cele două principii ale noastre, (A) "fără muncă de muncă" și (B) "curbe de experiență", fac echilibrul imposibil: • Dacă prețul este scăzut, (A) spune că curba cererii se îndreaptă spre dreapta – nu există forță de muncă, prin urmare există un profit masiv care poate fi obținut de AGI antreprenoriali calificați care găsesc noi lucruri productive de făcut. • Dacă prețul este mare, (B) spune că curba ofertei se îndreaptă spre dreapta – există un profit masiv de obținut prin creșterea producției de AGI. • Dacă prețul este la mijloc, atunci curba cererii și curba ofertei sunt AMBELE în cursa spre dreapta! Acesta nu este nici capital, nici muncă așa cum o știm noi. În loc ca piața pentru echilibrarea AGI, formează o buclă de feedback pozitiv / mașină de mișcare perpetuă care explodează exponențial. Sună absurd? Există un precedent: oamenii! Lumea umană, ca întreg, este deja o buclă de feedback pozitiv / mașină de mișcare perpetuă de acest tip! Oamenii au crescut de la câteva mii de hominizi la 8 miliarde de oameni care conduc o economie de 80 de trilioane de dolari. Cum? Nu este literalmente o mașină cu mișcare perpetuă. Mai degrabă, este un motor care se bazează pe fântâna "oportunităților economice încă neexploatate". Dar amintiți-vă "Fără muncă": fântâna oportunităților economice încă neexploatate este ~infinit de adâncă. Nu am rămas fără companii posibile de înființat. Nimeni nu a făcut încă un roi Dyson. Există doar un număr limitat de oameni care să fondeze companii și să exploateze noi oportunități. Dar bucla de feedback pozitiv a AGI nu are o astfel de limită. Timpul de dublare poate fi într-adevăr scurt: Imaginați-vă o fabrică autonomă care poate construi o fabrică autonomă identică, care apoi construiește încă două etc., folosind doar materiale de intrare disponibile pe scară largă și lumina soarelui. Manualele de economie nu vorbesc despre asta. Dar manualele de biologie da! O cianobacterie este o astfel de fabrică și se poate dubla într-o zi (≈ procentul de creștere anualizat). 😛 Oricum, nu știm cât de explozivă va fi bucla de feedback pozitiv a AGI care construiește AGI, dar mă aștept să fie la ani lumină dincolo de orice altceva din istoria economică. A treia piesă a anti-pedagogiei economice este promovarea creșterii PIB-ului ca proxy pentru progres și schimbare. Dimpotrivă, este posibil ca lumea să se transforme într-un tărâm sălbatic SF dincolo de orice recunoaștere sau înțelegere în fiecare lună, lună de lună, fără ca "creșterea PIB-ului" să fie de fapt atât de mare. PIB-ul este o măsură amuzantă și mai ales slabă în descrierea impactului revoluțiilor tehnologice transformatoare. (De exemplu, dacă unele tehnologii noi sunt ieftine, iar între timp alte sectoare ale economiei rămân scumpe din cauza restricțiilor de reglementare, atunci noua tehnologie ar putea să nu aibă un impact prea mare asupra PIB-ului, indiferent cât de mult răstoarnă lumea.) Adică, sigur că putem discuta despre PIB, dar nu ar trebui să-l tratăm ca pe o bătălie proxy dacă AGI va fi sau nu o mare problemă. În cele din urmă și cel mai important, A PATRA PIESĂ a anti-pedagogiei economice este concentrarea pe "comerțuri reciproc avantajoase" în detrimentul "uciderii oamenilor și luarea lucrurilor lor". Econ 101 dovedește că tranzacționarea este egoist mai bună decât izolarea. Dar uneori "uciderea oamenilor și luarea lucrurilor lor" este egoist cel mai bun dintre toate. Când vorbim despre AGI, vorbim despre crearea unei noi specii inteligente pe Pământ, una care va fi în cele din urmă mai rapidă, mai inteligentă, mai bine coordonată și mai numeroasă decât oamenii. Oamenii normali, oamenii care au văzut filme SF despre roboți și extratereștri, oamenii care au învățat istoria colonialismului și a sclaviei, vor pune imediat o mulțime de întrebări rezonabile aici. "Care vor fi motivele lor?" "Cine va avea puterea tare?" "Dacă par prietenoși și cooperanți de la început, ne-ar putea înjunghia pe la spate când vor deveni mai puternici?" Acestea sunt întrebări excelente! Cu siguranță ar trebui să ne punem aceste întrebări! (FWIW, acesta este domeniul meu de expertiză și sunt foarte pesimist.) … Și apoi acei oameni normali iau cursuri de economie și ajung mai proști. Ei încetează să mai pună aceste întrebări. În schimb, ei "învață" că AGI este "capital", un fel de mașină de turnat prin injecție. Mașinile de turnat prin injecție nu ar distruge oamenii și nu ar conduce lumea singure. Deci suntem bine. Lol.

.@paulg trebuie să fie un fan al doamnei Rachel. Amândoi folosesc același truc evaziv: tratarea celor două noduri (acțiunea israeliană) → (victima civilă) ca întregul context cauzal asupra căruia să opineze. Î: Ar trebui să li se permită scuturile umane să funcționeze? R: Viața fiecărui necombatant valorează la fel 🧘

Industria modelului de fundație AI care depășește veniturile de 25 de miliarde de dolari pe an implică crearea de valoare din sector a depășit ~ 250 miliarde de dolari / an

De ce @VitalikButerin are un 12% P(Doom)...