Există un lucru amuzant în care educația economică îi face pe oameni să se gândească la IA în viitor. Manualele economice învață concepte și cadre care sunt grozave pentru majoritatea lucrurilor, dar contraproductive pentru a ne gândi la AGI. Iată 4 exemple. Postare lungă: Prima piesă de anti-pedagogie economică se ascunde în cuvintele "muncă" și "capital". Aceste cuvinte combină o diferență superficială (om în carne și oase vs nu) cu un mănunchi de presupuneri și intuiții nerostite, care vor fi toate rupte de Inteligența Artificială Generală (AGI). Prin "AGI" mă refer aici la "un pachet de cipuri, algoritmi, electricitate și/sau roboți teleoperați care pot face în mod autonom genul de lucruri pe care le pot face adulții umani ambițioși – fondarea și conducerea de noi companii, cercetare și dezvoltare, învățarea de noi abilități, utilizarea roboților arbitrari teleoperați după foarte puțină practică etc." Da, știu, asta nu există încă! (În ciuda hype-ului contrar.) Încercați să cereți unui LLM să scrie în mod autonom un plan de afaceri, să înființeze o companie, apoi să o conducă și să o dezvolte ani de zile ca CEO. Lol! Se va prăbuși și va arde! Dar aceasta este o limitare a LLM-urilor de astăzi, nu a "întregii IA pentru totdeauna". Inteligența artificială care ar putea îndeplini această sarcină și mult mai departe este evident posibilă – creierele, corpurile și societățile umane nu sunt alimentate de vreo vrăjitorie magică dincolo de raza de acțiune a științei. Eu unul mă aștept la o astfel de inteligență artificială în timpul vieții mele, la bine și la rău. (Probabil "mai rău", vezi mai jos.) Acum, este acest tip de AGI "muncă" sau "capital"? Ei bine, nu este un om în carne și oase. Dar seamănă mai mult cu "muncă" decât cu "capital" în multe alte privințe: • Capitalul nu poate să se ridice și să facă lucrurile de la sine? AGI poate. • Noile tehnologii durează mult timp pentru a se integra în economie? Ei bine, întrebați-vă: cum reușesc oamenii imigranți cu înaltă calificare, experimentați și antreprenoriali să se integreze imediat în economie? Odată ce ați răspuns la această întrebare, rețineți că AGI va putea face și aceste lucruri. • Capitalul stă inactiv dacă nu există oameni dispuși și capabili să-l folosească? Ei bine, acei oameni imigranți nu stau degeaba. Și nici AGI. • Capitalul nu poate susține drepturile politice sau nu poate lansa lovituri de stat? Bine... Oricum, oamenii văd filme SF cu roboți și înțeleg asta! Apoi urmează cursuri de economie și asta îi face mai proști. (Da, știu, #NotAllEconomists etc.) A doua piesă a anti-pedagogiei economice insuflă o presupunere implicită că este posibil ca o piață să se echilibreze. Dar piața pentru AGI nu poate: AGI combină o proprietate a piețelor muncii cu o proprietate a piețelor de produse, unde acele proprietăți se exclud reciproc. Aceste proprietăți sunt: • (A) "FĂRĂ FORȚĂ DE MUNCĂ": Dacă populația umană crește, salariile scad pe termen foarte scurt, deoarece curba cererii de forță de muncă scade. Dar pe termen lung, oamenii găsesc noi lucruri productive de făcut – curba cererii se mișcă corect. În orice caz, valoarea muncii crește, nu scade, odată cu populația! De exemplu, orașele dense sunt motoare de creștere! • (B) "CURBE DE EXPERIENȚĂ": Dacă cererea pentru un produs crește, există o creștere a prețurilor pe termen foarte scurt, deoarece curba ofertei se înclină în sus. Dar pe termen lung, oamenii cresc producția – curba ofertei se mișcă spre dreapta. În orice caz, prețul scade, nu crește, odată cu cererea, datorită economiilor de scară și cercetării și dezvoltării. TEST: Având în vedere (A) și (B), care este prețul de echilibru al acestui pachet AGI (cipuri, algoritmi, electricitate, roboți teleoperați etc.)? … Întrebare capcană! Nu există echilibru. Cele două principii ale noastre, (A) "fără muncă de muncă" și (B) "curbe de experiență", fac echilibrul imposibil: • Dacă prețul este scăzut, (A) spune că curba cererii se îndreaptă spre dreapta – nu există forță de muncă, prin urmare există un profit masiv care poate fi obținut de AGI antreprenoriali calificați care găsesc noi lucruri productive de făcut. • Dacă prețul este mare, (B) spune că curba ofertei se îndreaptă spre dreapta – există un profit masiv de obținut prin creșterea producției de AGI. • Dacă prețul este la mijloc, atunci curba cererii și curba ofertei sunt AMBELE în cursa spre dreapta! Acesta nu este nici capital, nici muncă așa cum o știm noi. În loc ca piața pentru echilibrarea AGI, formează o buclă de feedback pozitiv / mașină de mișcare perpetuă care explodează exponențial. Sună absurd? Există un precedent: oamenii! Lumea umană, ca întreg, este deja o buclă de feedback pozitiv / mașină de mișcare perpetuă de acest tip! Oamenii au crescut de la câteva mii de hominizi la 8 miliarde de oameni care conduc o economie de 80 de trilioane de dolari. Cum? Nu este literalmente o mașină cu mișcare perpetuă. Mai degrabă, este un motor care se bazează pe fântâna "oportunităților economice încă neexploatate". Dar amintiți-vă "Fără muncă": fântâna oportunităților economice încă neexploatate este ~infinit de adâncă. Nu am rămas fără companii posibile de înființat. Nimeni nu a făcut încă un roi Dyson. Există doar un număr limitat de oameni care să fondeze companii și să exploateze noi oportunități. Dar bucla de feedback pozitiv a AGI nu are o astfel de limită. Timpul de dublare poate fi într-adevăr scurt: Imaginați-vă o fabrică autonomă care poate construi o fabrică autonomă identică, care apoi construiește încă două etc., folosind doar materiale de intrare disponibile pe scară largă și lumina soarelui. Manualele de economie nu vorbesc despre asta. Dar manualele de biologie da! O cianobacterie este o astfel de fabrică și se poate dubla într-o zi (≈ procentul de creștere anualizat). 😛 Oricum, nu știm cât de explozivă va fi bucla de feedback pozitiv a AGI care construiește AGI, dar mă aștept să fie la ani lumină dincolo de orice altceva din istoria economică. A treia piesă a anti-pedagogiei economice este promovarea creșterii PIB-ului ca proxy pentru progres și schimbare. Dimpotrivă, este posibil ca lumea să se transforme într-un tărâm sălbatic SF dincolo de orice recunoaștere sau înțelegere în fiecare lună, lună de lună, fără ca "creșterea PIB-ului" să fie de fapt atât de mare. PIB-ul este o măsură amuzantă și mai ales slabă în descrierea impactului revoluțiilor tehnologice transformatoare. (De exemplu, dacă unele tehnologii noi sunt ieftine, iar între timp alte sectoare ale economiei rămân scumpe din cauza restricțiilor de reglementare, atunci noua tehnologie ar putea să nu aibă un impact prea mare asupra PIB-ului, indiferent cât de mult răstoarnă lumea.) Adică, sigur că putem discuta despre PIB, dar nu ar trebui să-l tratăm ca pe o bătălie proxy dacă AGI va fi sau nu o mare problemă. În cele din urmă și cel mai important, A PATRA PIESĂ a anti-pedagogiei economice este concentrarea pe "comerțuri reciproc avantajoase" în detrimentul "uciderii oamenilor și luarea lucrurilor lor". Econ 101 dovedește că tranzacționarea este egoist mai bună decât izolarea. Dar uneori "uciderea oamenilor și luarea lucrurilor lor" este egoist cel mai bun dintre toate. Când vorbim despre AGI, vorbim despre crearea unei noi specii inteligente pe Pământ, una care va fi în cele din urmă mai rapidă, mai inteligentă, mai bine coordonată și mai numeroasă decât oamenii. Oamenii normali, oamenii care au văzut filme SF despre roboți și extratereștri, oamenii care au învățat istoria colonialismului și a sclaviei, vor pune imediat o mulțime de întrebări rezonabile aici. "Care vor fi motivele lor?" "Cine va avea puterea tare?" "Dacă par prietenoși și cooperanți de la început, ne-ar putea înjunghia pe la spate când vor deveni mai puternici?" Acestea sunt întrebări excelente! Cu siguranță ar trebui să ne punem aceste întrebări! (FWIW, acesta este domeniul meu de expertiză și sunt foarte pesimist.) … Și apoi acei oameni normali iau cursuri de economie și ajung mai proști. Ei încetează să mai pună aceste întrebări. În schimb, ei "învață" că AGI este "capital", un fel de mașină de turnat prin injecție. Mașinile de turnat prin injecție nu ar distruge oamenii și nu ar conduce lumea singure. Deci suntem bine. Lol.