Es gibt eine lustige Sache, bei der die wirtschaftliche Bildung paradoxerweise die Menschen DUMMER macht, wenn es darum geht, über zukünftige KI nachzudenken. Wirtschaftslehrbücher lehren Konzepte und Rahmenbedingungen, die für die meisten Dinge großartig sind, aber kontraproduktiv für das Denken über AGI. Hier sind 4 Beispiele. Langbeitrag: DAS ERSTE STÜCK der anti-pädagogischen Wirtschaftslehre versteckt sich in den Worten „Arbeit“ und „Kapital“. Diese Wörter vermischen einen oberflächlichen Unterschied (flesh-and-blood Mensch vs. nicht) mit einem Bündel unausgesprochener Annahmen und Intuitionen, die alle durch Künstliche Allgemeine Intelligenz (AGI) gebrochen werden. Mit „AGI“ meine ich hier „ein Bündel von Chips, Algorithmen, Elektrizität und/oder fernbedienten Robotern, die autonom die Arten von Dingen tun können, die ehrgeizige erwachsene Menschen tun können – neue Unternehmen gründen und führen, F&E, neue Fähigkeiten erlernen, beliebige fernbediente Roboter nach sehr wenig Übung verwenden usw.“ Ja, ich weiß, das existiert noch nicht! (Trotz des gegenteiligen Hypes.) Versuchen Sie, ein LLM zu fragen, ob es autonom einen Geschäftsplan schreiben, ein Unternehmen gründen und es dann jahrelang als CEO führen und wachsen lassen kann. Lol! Es wird scheitern! Aber das ist eine Einschränkung der heutigen LLMs, nicht von „aller KI für immer“. KI, die diese Aufgabe und viel mehr darüber hinaus bewältigen könnte, ist offensichtlich möglich – menschliche Gehirne, Körper und Gesellschaften werden nicht von irgendeiner magischen Zauberei angetrieben, die für immer außerhalb der Reichweite der Wissenschaft liegt. Ich für meinen Teil erwarte eine solche KI in meinem Leben, zum besseren oder schlechteren. (Wahrscheinlich „schlechter“, siehe unten.) Nun, ist diese Art von AGI „Arbeit“ oder „Kapital“? Nun, es ist kein flesh-and-blood Mensch. Aber es ist in vielen anderen Aspekten mehr wie „Arbeit“ als „Kapital“: • Kapital kann nicht einfach selbstständig Dinge tun? AGI kann. • Neue Technologien brauchen lange, um in die Wirtschaft integriert zu werden? Nun, fragen Sie sich: Wie schaffen es hochqualifizierte, erfahrene und unternehmerische Einwanderer, sich sofort in die Wirtschaft zu integrieren? Sobald Sie diese Frage beantwortet haben, beachten Sie, dass AGI auch in der Lage sein wird, diese Dinge zu tun. • Kapital sitzt untätig herum, wenn es keine Menschen gibt, die bereit und in der Lage sind, es zu nutzen? Nun, diese Einwanderer sitzen nicht untätig herum. Und AGI wird es auch nicht tun. • Kapital kann sich nicht für politische Rechte einsetzen oder Putsche starten? Nun… Jedenfalls sehen die Menschen Sci-Fi-Roboterfilme, und sie verstehen das! Dann belegen sie Wirtschaftskurse, und das macht sie dümmer. (Ja, ich weiß, #NotAllEconomists usw.) DAS ZWEITE STÜCK der anti-pädagogischen Wirtschaftslehre ist die Verankerung einer Standardannahme, dass es möglich ist, dass ein Markt ins Gleichgewicht kommt. Aber der Markt für AGI kann das nicht: AGI kombiniert eine Eigenschaft von Arbeitsmärkten mit einer Eigenschaft von Produktmärkten, wobei diese Eigenschaften sich gegenseitig ausschließen. Diese Eigenschaften sind: • (A) „KEIN ARBEITSBUND“: Wenn die menschliche Bevölkerung steigt, sinken die Löhne kurzfristig, weil die Nachfragekurve für Arbeit abwärts geneigt ist. Aber langfristig finden die Menschen neue produktive Dinge zu tun – die Nachfragekurve bewegt sich nach rechts. Wenn überhaupt, steigt der Wert der Arbeit mit der Bevölkerung! Z.B. dichte Städte sind Motoren des Wachstums! • (B) „ERFAHRUNGSKURVEN“: Wenn die Nachfrage nach einem Produkt steigt, gibt es kurzfristig einen Preisanstieg, weil die Angebotskurve aufwärts geneigt ist. Aber langfristig steigern die Menschen die Produktion – die Angebotskurve bewegt sich nach rechts. Wenn überhaupt, sinkt der Preis mit der Nachfrage, dank von Skaleneffekten und F&E. QUIZ: Unter Berücksichtigung von (A) und (B), was ist der Gleichgewichtspreis dieses AGI-Bündels (Chips, Algorithmen, Elektrizität, fernbediente Roboter usw.)? …Trickfrage! Es gibt kein Gleichgewicht. Unsere beiden Prinzipien, (A) „kein Arbeitsbund“ und (B) „Erfahrungskurven“, machen Gleichgewicht unmöglich: • Wenn der Preis niedrig ist, sagt (A), dass die Nachfragekurve nach rechts rast – es gibt keinen Arbeitsbund, daher gibt es massive Gewinne, die von qualifizierten unternehmerischen AGIs erzielt werden, die neue produktive Dinge finden. • Wenn der Preis hoch ist, sagt (B), dass die Angebotskurve nach rechts rast – es gibt massive Gewinne, die durch die Steigerung der Produktion von AGI erzielt werden. • Wenn der Preis dazwischen liegt, dann rasen sowohl die Nachfragekurve als auch die Angebotskurve nach rechts! Das ist weder Kapital noch Arbeit, wie wir es kennen. Anstatt dass der Markt für AGI ins Gleichgewicht kommt, bildet er eine positive Rückkopplungsschleife / ein perpetuum mobile, das exponentiell explodiert. Klingt das absurd? Es gibt einen Präzedenzfall: Menschen! Die menschliche Welt als Ganzes ist bereits eine positive Rückkopplungsschleife / ein perpetuum mobile dieser Art! Menschen haben sich von ein paar tausend Hominiden zu 8 Milliarden Menschen entwickelt, die eine 80 Billionen Dollar Wirtschaft betreiben. Wie? Es ist nicht wörtlich ein perpetuum mobile. Vielmehr ist es ein Motor, der aus dem Brunnen der „noch nicht ausgeschöpften wirtschaftlichen Möglichkeiten“ schöpft. Aber denken Sie daran „Kein Arbeitsbund“: der Brunnen der noch nicht ausgeschöpften wirtschaftlichen Möglichkeiten ist ~unendlich tief. Wir sind nicht ohne mögliche Unternehmen, die gegründet werden können, ausgegangen. Niemand hat bisher einen Dyson-Schwarm gemacht. Es gibt nur so viele Menschen, die Unternehmen gründen und neue Möglichkeiten ausschöpfen können. Aber die positive Rückkopplungsschleife von AGI hat kein solches Limit. Die Verdopplungszeit kann in der Tat kurz sein: Stellen Sie sich eine autonome Fabrik vor, die eine identische autonome Fabrik bauen kann, die dann zwei weitere baut usw., und das nur mit weit verbreiteten Rohstoffen und Sonnenlicht. Wirtschaftslehrbücher sprechen nicht darüber. Aber Biologielehrbücher tun es! Ein Cyanobakterium ist eine solche Fabrik und kann sich in einem Tag verdoppeln (≈ googol Prozent jährliche Wachstumsrate 😛). Jedenfalls wissen wir nicht, wie explosiv die positive Rückkopplungsschleife von AGI, die AGI aufbaut, sein wird, aber ich erwarte, dass sie Lichtjahre über alles hinausgeht, was in der Wirtschaftsgeschichte vorkam. DAS DRITTE STÜCK der anti-pädagogischen Wirtschaftslehre ist die Förderung des BIP-Wachstums als Proxy für Fortschritt und Veränderung. Im Gegenteil, es ist möglich, dass sich die Welt jeden Monat, Monat für Monat, in ein wildes Sci-Fi-Land verwandelt, das über alle Anerkennung oder Verständnis hinausgeht, ohne dass das „BIP-Wachstum“ tatsächlich so hoch ist. Das BIP ist eine lustige Kennzahl und besonders schlecht darin, die Auswirkungen transformierender technologischer Revolutionen zu beschreiben. (Zum Beispiel, wenn eine neue Technologie kostengünstig ist und währenddessen andere Sektoren der Wirtschaft aufgrund regulatorischer Einschränkungen teuer bleiben, dann könnte die neue Technologie das BIP nicht viel beeinflussen, egal wie sehr sie die Welt auf den Kopf stellt.) Ich meine, sicher, wir können über das BIP streiten, aber wir sollten es nicht als Proxy-Schlacht darüber behandeln, ob AGI ein großes Thema sein wird oder nicht. Zuletzt und am wichtigsten, DAS VIERTE STÜCK der anti-pädagogischen Wirtschaftslehre ist der Fokus auf „gegenseitig vorteilhafte Handelsgeschäfte“ über „Menschen zu töten und ihre Sachen zu nehmen“. Die Wirtschaft 101 beweist, dass Handel egoistisch besser ist als Isolation. Aber manchmal ist „Menschen zu töten und ihre Sachen zu nehmen“ egoistisch am besten von allen. Wenn wir über AGI sprechen, sprechen wir darüber, eine neue intelligente Spezies auf der Erde zu schaffen, die letztendlich schneller, intelligenter, besser koordiniert und zahlreicher sein wird als Menschen. Normale Menschen, Menschen, die Sci-Fi-Filme über Roboter und Aliens gesehen haben, Menschen, die die Geschichte des Kolonialismus und der Sklaverei gelernt haben, werden sofort viele vernünftige Fragen stellen. „Was werden ihre Motive sein?“ „Wer wird die harte Macht haben?“ „Wenn sie anfangs freundlich und kooperativ erscheinen, könnten sie uns dann in den Rücken fallen, wenn sie mächtiger werden?“ Das sind ausgezeichnete Fragen! Wir sollten diese Fragen definitiv stellen! (FWIW, das ist mein Fachgebiet, und ich bin sehr pessimistisch.) …Und dann nehmen diese normalen Menschen Wirtschaftskurse und werden dümmer. Sie hören auf, diese Fragen zu stellen. Stattdessen „lernen“ sie, dass AGI „Kapital“ ist, irgendwie wie eine Spritzgießmaschine. Spritzgießmaschinen würden Menschen nicht auslöschen und die Welt von selbst regieren. Also sind wir in Ordnung. Lol.