Il y a une chose drôle où l'éducation économique rend paradoxalement les gens PLUS STUPIDES en pensant à l'IA future. Les manuels d'économie enseignent des concepts et des cadres qui sont excellents pour la plupart des choses, mais contre-productifs pour penser à l'AGI. Voici 4 exemples. Longpost : LE PREMIER ÉLÉMENT de l'anti-pédagogie économique se cache dans les mots "travail" et "capital". Ces mots confondent une différence superficielle (humain en chair et en os contre non) avec un ensemble d'assumptions et d'intuitions non exprimées, qui seront toutes brisées par l'Intelligence Artificielle Générale (AGI). Par "AGI", j'entends ici "un ensemble de puces, d'algorithmes, d'électricité et/ou de robots téléopérés qui peuvent faire de manière autonome les types de choses que des adultes humains ambitieux peuvent faire : fonder et diriger de nouvelles entreprises, R&D, apprendre de nouvelles compétences, utiliser des robots téléopérés arbitraires après très peu de pratique, etc." Oui, je sais, cela n'existe pas encore ! (Malgré le battage médiatique à l'inverse.) Essayez de demander à un LLM d'écrire de manière autonome un plan d'affaires, de fonder une entreprise, puis de la diriger et de la faire croître pendant des années en tant que PDG. Lol ! Ça va s'effondrer ! Mais c'est une limitation des LLM d'aujourd'hui, pas de "toute l'IA pour toujours". Une IA qui pourrait réussir cette tâche, et bien plus encore, est évidemment possible : les cerveaux, les corps et les sociétés humaines ne sont pas alimentés par une sorcellerie magique pour toujours hors de portée de la science. Pour ma part, je m'attends à une telle IA de mon vivant, pour le meilleur ou pour le pire. (Probablement "pire", voir ci-dessous.) Alors, ce type d'AGI est-il "travail" ou "capital" ? Eh bien, ce n'est pas un humain en chair et en os. Mais c'est plus comme "travail" que "capital" à bien des égards : • Le capital ne peut pas simplement se lever et faire des choses tout seul ? L'AGI peut. • Les nouvelles technologies prennent beaucoup de temps à s'intégrer dans l'économie ? Eh bien, demandez-vous : comment les humains immigrants hautement qualifiés, expérimentés et entrepreneuriaux parviennent-ils à s'intégrer immédiatement dans l'économie ? Une fois que vous avez répondu à cette question, notez que l'AGI sera également capable de faire ces choses. • Le capital reste inactif s'il n'y a pas d'humains prêts et capables de l'utiliser ? Eh bien, ces humains immigrants ne restent pas inactifs. Et l'AGI non plus. • Le capital ne peut pas plaider pour des droits politiques, ou lancer des coups d'État ? Eh bien… Quoi qu'il en soit, les gens voient des films de robots de science-fiction, et ils comprennent cela ! Puis ils suivent des cours d'économie, et cela les rend plus stupides. (Oui, je sais, #NotAllEconomists etc.) LE DEUXIÈME ÉLÉMENT de l'anti-pédagogie économique est d'instiller une hypothèse par défaut selon laquelle il est possible pour un marché d'équilibrer. Mais le marché de l'AGI ne peut pas : l'AGI combine une propriété des marchés du travail avec une propriété des marchés de produits, où ces propriétés sont mutuellement exclusives. Ces propriétés sont : • (A) "PAS DE MONTANT DE TRAVAIL" : Si la population humaine augmente, les salaires chutent à très court terme, car la courbe de demande de travail est décroissante. Mais à plus long terme, les gens trouvent de nouvelles choses productives à faire - la courbe de demande se déplace vers la droite. Si quelque chose, la valeur du travail augmente, pas diminue, avec la population ! Par exemple, les villes denses sont des moteurs de croissance ! • (B) "COURBES D'EXPÉRIENCE" : Si la demande pour un produit augmente, il y a une augmentation de prix à très court terme, car la courbe d'offre est croissante. Mais à plus long terme, les gens augmentent la fabrication - la courbe d'offre se déplace vers la droite. Si quelque chose, le prix diminue, pas augmente, avec la demande, grâce aux économies d'échelle et à la R&D. QUIZ : En considérant (A) et (B), quel est le prix d'équilibre de cet ensemble d'AGI (puces, algorithmes, électricité, robots téléopérés, etc.) ? …Question piège ! Il n'y a pas d'équilibre. Nos deux principes, (A) "pas de montant de travail" et (B) "courbes d'expérience", rendent l'équilibre impossible : • Si le prix est bas, (A) dit que la courbe de demande se déplace vers la droite - il n'y a pas de montant de travail, donc il y a un énorme profit à réaliser par des AGI entrepreneuriaux qualifiés trouvant de nouvelles choses productives à faire. • Si le prix est élevé, (B) dit que la courbe d'offre se déplace vers la droite - il y a un énorme profit à réaliser en augmentant la fabrication d'AGI. • Si le prix est entre les deux, alors la courbe de demande et la courbe d'offre se déplacent TOUTES DEUX vers la droite ! Ce n'est ni du capital ni du travail tel que nous le connaissons. Au lieu que le marché de l'AGI s'équilibre, il forme une boucle de rétroaction positive / machine à mouvement perpétuel qui explose de manière exponentielle. Cela semble absurde ? Il y a un précédent : les humains ! Le monde humain, dans son ensemble, est déjà une boucle de rétroaction positive / machine à mouvement perpétuel de ce type ! Les humains se sont auto-boostés d'un peu plus de quelques milliers d'hominidés à 8 milliards de personnes gérant une économie de 80 000 milliards de dollars. Comment ? Ce n'est pas littéralement une machine à mouvement perpétuel. Plutôt, c'est un moteur qui puise dans le puits des "opportunités économiques encore inexploitées". Mais rappelez-vous "Pas de Montant de Travail" : le puits des opportunités économiques encore inexploitées est ~infini. Nous n'avons pas épuisé les entreprises possibles à fonder. Personne n'a encore créé un essaim de Dyson. Il y a seulement tant d'humains pour fonder des entreprises et exploiter de nouvelles opportunités. Mais la boucle de rétroaction positive de l'AGI n'a pas de telle limite. Le temps de doublement peut être très court en effet : Imaginez une usine autonome qui peut construire une usine autonome identique, qui construit ensuite deux autres, etc., en utilisant simplement des matériaux d'entrée largement disponibles et de la lumière du soleil. Les manuels d'économie n'en parlent pas. Mais les manuels de biologie le font ! Une cyanobactérie est une telle usine, et peut se doubler en un jour (≈ taux de croissance annualisé de googol pour cent 😛). Quoi qu'il en soit, nous ne savons pas à quel point la boucle de rétroaction positive de l'AGI construisant l'AGI sera explosive, mais je m'attends à ce qu'elle soit des années-lumière au-delà de tout ce que l'histoire économique a connu. LE TROISIÈME ÉLÉMENT de l'anti-pédagogie économique est sa promotion de la croissance du PIB comme un proxy pour le progrès et le changement. Au contraire, il est possible que le monde se transforme en un pays de science-fiction sauvage au-delà de toute reconnaissance ou compréhension chaque mois, mois après mois, sans que la "croissance du PIB" ne soit réellement si élevée. Le PIB est une métrique drôle, et particulièrement mauvaise pour décrire l'impact des révolutions technologiques transformantes. (Par exemple, si une nouvelle technologie est peu coûteuse, et que d'autres secteurs de l'économie restent coûteux en raison de restrictions réglementaires, alors la nouvelle technologie pourrait ne pas avoir beaucoup d'impact sur le PIB, peu importe à quel point elle bouleverse le monde.) Je veux dire, bien sûr, nous pouvons discuter du PIB, mais nous ne devrions pas le traiter comme une bataille proxy sur la question de savoir si l'AGI sera ou non un gros problème. Enfin et surtout, LE QUATRIÈME ÉLÉMENT de l'anti-pédagogie économique est l'accent mis sur les "échanges mutuellement bénéfiques" plutôt que sur "tuer des gens et prendre leurs affaires". L'économie 101 prouve que le commerce est égoïstement meilleur que l'isolement. Mais parfois, "tuer des gens et prendre leurs affaires" est égoïstement le meilleur de tous. Quand nous parlons d'AGI, nous parlons de créer une nouvelle espèce intelligente sur Terre, une espèce qui sera finalement plus rapide, plus intelligente, mieux coordonnée et plus nombreuse que les humains. Les gens normaux, ceux qui ont vu des films de science-fiction sur des robots et des extraterrestres, ceux qui ont appris l'histoire du colonialisme et de l'esclavage, poseront immédiatement beaucoup de questions raisonnables ici. "Quels seront leurs motifs ?" "Qui aura le pouvoir dur ?" "S'ils semblent amicaux et coopératifs au début, pourraient-ils nous poignarder dans le dos lorsqu'ils deviendront plus puissants ?" Ce sont d'excellentes questions ! Nous devrions définitivement poser ces questions ! (Pour info, c'est mon domaine d'expertise, et je suis très pessimiste.) …Et puis ces gens normaux suivent des cours d'économie, et finissent par devenir plus stupides. Ils cessent de poser ces questions. Au lieu de cela, ils "apprennent" que l'AGI est "capital", un peu comme une machine à injection. Les machines à injection ne pourraient pas anéantir les humains et diriger le monde par elles-mêmes. Donc, tout va bien. Lol.