Vous pourriez *penser* que cela prouve sans aucun doute l'existence d'une intelligence générale élevée, mais cela montre en réalité qu'il est possible d'apprendre une combinaison spécifique de compétences à partir de la culture qui vous entoure. Les bonnes données d'entraînement vous permettent de faire correspondre les modèles pour la prochaine étape de construction d'une salle blanche.

L'IA ne t'aime pas, ni ne te déteste, mais ton corps est fait d'eau qu'elle peut utiliser pour refroidir son datacenter.

📢 NOUVEAUX DÉBATS DOOM EXCLUSIFS : Une interview avec Rob Miles (@robertskmiles), l'éducateur en sécurité de l'IA le plus populaire sur YouTube ! Étonnamment, Rob a commencé en 2011, bien avant que ChatGPT n'attire l'attention du grand public sur le domaine. Nous parlons de : 👉 Pourquoi sa P(Doom) se situe entre 10 et 90 %, selon la façon dont l'humanité répond au défi 👉 Pourquoi même les systèmes d'IA parfaitement alignés pourraient ne pas transmettre leurs valeurs aux systèmes successeurs - un énorme angle mort dans le travail de sécurité actuel 👉 Le problème du "mood manquant" : pourquoi les gens discutent de l'extinction humaine potentielle avec l'urgence émotionnelle d'une conférence académique au lieu de la traiter comme l'urgence qu'elle est 👉 Son scénario principal de doom à travers l'amélioration récursive, et pourquoi il y a une énorme marge au-dessus de l'intelligence humaine 👉 Si les humains sont la "moins intelligente des espèces capables de civilisation technologique" - et ce que cela signifie pour ce que des systèmes plus intelligents pourraient accomplir 👉 Notre désaccord clé : Rob pense que les personnes en sécurité devraient travailler au sein des entreprises d'IA pour réduire les dommages, tandis que j'argue que cela permet le "tractability-washing" qui légitime des entreprises fondamentalement imprudentes 👉 Stratégie de communication - Rob se demande si son approche britannique mesurée manque de quelque chose de crucial, et peut-être que quelqu'un doit "courir en criant" pour transmettre l'urgence appropriée Rob a passé plus d'une décennie à essayer de réveiller les gens sur le défi le plus important de l'humanité. Notre conversation révèle la tension entre l'analyse raisonnée et l'urgence existentielle. Fortement recommandé !

Interview incroyable. Félicitations à @liron J'ai adoré entendre @VitalikButerin aborder tant d'aspects du paysage de l'IA. Je suis à 50 % de l'interview et j'adore jusqu'à présent !

Préparez-vous pour @robertskmiles…

Comment Idiocracy était-il si précis ?

Il y a une chose drôle où l'éducation économique rend paradoxalement les gens PLUS STUPIDES en pensant à l'IA future. Les manuels d'économie enseignent des concepts et des cadres qui sont excellents pour la plupart des choses, mais contre-productifs pour penser à l'AGI. Voici 4 exemples. Longpost : LE PREMIER ÉLÉMENT de l'anti-pédagogie économique se cache dans les mots "travail" et "capital". Ces mots confondent une différence superficielle (humain en chair et en os contre non) avec un ensemble d'assumptions et d'intuitions non exprimées, qui seront toutes brisées par l'Intelligence Artificielle Générale (AGI). Par "AGI", j'entends ici "un ensemble de puces, d'algorithmes, d'électricité et/ou de robots téléopérés qui peuvent faire de manière autonome les types de choses que des adultes humains ambitieux peuvent faire : fonder et diriger de nouvelles entreprises, R&D, apprendre de nouvelles compétences, utiliser des robots téléopérés arbitraires après très peu de pratique, etc." Oui, je sais, cela n'existe pas encore ! (Malgré le battage médiatique à l'inverse.) Essayez de demander à un LLM d'écrire de manière autonome un plan d'affaires, de fonder une entreprise, puis de la diriger et de la faire croître pendant des années en tant que PDG. Lol ! Ça va s'effondrer ! Mais c'est une limitation des LLM d'aujourd'hui, pas de "toute l'IA pour toujours". Une IA qui pourrait réussir cette tâche, et bien plus encore, est évidemment possible : les cerveaux, les corps et les sociétés humaines ne sont pas alimentés par une sorcellerie magique pour toujours hors de portée de la science. Pour ma part, je m'attends à une telle IA de mon vivant, pour le meilleur ou pour le pire. (Probablement "pire", voir ci-dessous.) Alors, ce type d'AGI est-il "travail" ou "capital" ? Eh bien, ce n'est pas un humain en chair et en os. Mais c'est plus comme "travail" que "capital" à bien des égards : • Le capital ne peut pas simplement se lever et faire des choses tout seul ? L'AGI peut. • Les nouvelles technologies prennent beaucoup de temps à s'intégrer dans l'économie ? Eh bien, demandez-vous : comment les humains immigrants hautement qualifiés, expérimentés et entrepreneuriaux parviennent-ils à s'intégrer immédiatement dans l'économie ? Une fois que vous avez répondu à cette question, notez que l'AGI sera également capable de faire ces choses. • Le capital reste inactif s'il n'y a pas d'humains prêts et capables de l'utiliser ? Eh bien, ces humains immigrants ne restent pas inactifs. Et l'AGI non plus. • Le capital ne peut pas plaider pour des droits politiques, ou lancer des coups d'État ? Eh bien… Quoi qu'il en soit, les gens voient des films de robots de science-fiction, et ils comprennent cela ! Puis ils suivent des cours d'économie, et cela les rend plus stupides. (Oui, je sais, #NotAllEconomists etc.) LE DEUXIÈME ÉLÉMENT de l'anti-pédagogie économique est d'instiller une hypothèse par défaut selon laquelle il est possible pour un marché d'équilibrer. Mais le marché de l'AGI ne peut pas : l'AGI combine une propriété des marchés du travail avec une propriété des marchés de produits, où ces propriétés sont mutuellement exclusives. Ces propriétés sont : • (A) "PAS DE MONTANT DE TRAVAIL" : Si la population humaine augmente, les salaires chutent à très court terme, car la courbe de demande de travail est décroissante. Mais à plus long terme, les gens trouvent de nouvelles choses productives à faire - la courbe de demande se déplace vers la droite. Si quelque chose, la valeur du travail augmente, pas diminue, avec la population ! Par exemple, les villes denses sont des moteurs de croissance ! • (B) "COURBES D'EXPÉRIENCE" : Si la demande pour un produit augmente, il y a une augmentation de prix à très court terme, car la courbe d'offre est croissante. Mais à plus long terme, les gens augmentent la fabrication - la courbe d'offre se déplace vers la droite. Si quelque chose, le prix diminue, pas augmente, avec la demande, grâce aux économies d'échelle et à la R&D. QUIZ : En considérant (A) et (B), quel est le prix d'équilibre de cet ensemble d'AGI (puces, algorithmes, électricité, robots téléopérés, etc.) ? …Question piège ! Il n'y a pas d'équilibre. Nos deux principes, (A) "pas de montant de travail" et (B) "courbes d'expérience", rendent l'équilibre impossible : • Si le prix est bas, (A) dit que la courbe de demande se déplace vers la droite - il n'y a pas de montant de travail, donc il y a un énorme profit à réaliser par des AGI entrepreneuriaux qualifiés trouvant de nouvelles choses productives à faire. • Si le prix est élevé, (B) dit que la courbe d'offre se déplace vers la droite - il y a un énorme profit à réaliser en augmentant la fabrication d'AGI. • Si le prix est entre les deux, alors la courbe de demande et la courbe d'offre se déplacent TOUTES DEUX vers la droite ! Ce n'est ni du capital ni du travail tel que nous le connaissons. Au lieu que le marché de l'AGI s'équilibre, il forme une boucle de rétroaction positive / machine à mouvement perpétuel qui explose de manière exponentielle. Cela semble absurde ? Il y a un précédent : les humains ! Le monde humain, dans son ensemble, est déjà une boucle de rétroaction positive / machine à mouvement perpétuel de ce type ! Les humains se sont auto-boostés d'un peu plus de quelques milliers d'hominidés à 8 milliards de personnes gérant une économie de 80 000 milliards de dollars. Comment ? Ce n'est pas littéralement une machine à mouvement perpétuel. Plutôt, c'est un moteur qui puise dans le puits des "opportunités économiques encore inexploitées". Mais rappelez-vous "Pas de Montant de Travail" : le puits des opportunités économiques encore inexploitées est ~infini. Nous n'avons pas épuisé les entreprises possibles à fonder. Personne n'a encore créé un essaim de Dyson. Il y a seulement tant d'humains pour fonder des entreprises et exploiter de nouvelles opportunités. Mais la boucle de rétroaction positive de l'AGI n'a pas de telle limite. Le temps de doublement peut être très court en effet : Imaginez une usine autonome qui peut construire une usine autonome identique, qui construit ensuite deux autres, etc., en utilisant simplement des matériaux d'entrée largement disponibles et de la lumière du soleil. Les manuels d'économie n'en parlent pas. Mais les manuels de biologie le font ! Une cyanobactérie est une telle usine, et peut se doubler en un jour (≈ taux de croissance annualisé de googol pour cent 😛). Quoi qu'il en soit, nous ne savons pas à quel point la boucle de rétroaction positive de l'AGI construisant l'AGI sera explosive, mais je m'attends à ce qu'elle soit des années-lumière au-delà de tout ce que l'histoire économique a connu. LE TROISIÈME ÉLÉMENT de l'anti-pédagogie économique est sa promotion de la croissance du PIB comme un proxy pour le progrès et le changement. Au contraire, il est possible que le monde se transforme en un pays de science-fiction sauvage au-delà de toute reconnaissance ou compréhension chaque mois, mois après mois, sans que la "croissance du PIB" ne soit réellement si élevée. Le PIB est une métrique drôle, et particulièrement mauvaise pour décrire l'impact des révolutions technologiques transformantes. (Par exemple, si une nouvelle technologie est peu coûteuse, et que d'autres secteurs de l'économie restent coûteux en raison de restrictions réglementaires, alors la nouvelle technologie pourrait ne pas avoir beaucoup d'impact sur le PIB, peu importe à quel point elle bouleverse le monde.) Je veux dire, bien sûr, nous pouvons discuter du PIB, mais nous ne devrions pas le traiter comme une bataille proxy sur la question de savoir si l'AGI sera ou non un gros problème. Enfin et surtout, LE QUATRIÈME ÉLÉMENT de l'anti-pédagogie économique est l'accent mis sur les "échanges mutuellement bénéfiques" plutôt que sur "tuer des gens et prendre leurs affaires". L'économie 101 prouve que le commerce est égoïstement meilleur que l'isolement. Mais parfois, "tuer des gens et prendre leurs affaires" est égoïstement le meilleur de tous. Quand nous parlons d'AGI, nous parlons de créer une nouvelle espèce intelligente sur Terre, une espèce qui sera finalement plus rapide, plus intelligente, mieux coordonnée et plus nombreuse que les humains. Les gens normaux, ceux qui ont vu des films de science-fiction sur des robots et des extraterrestres, ceux qui ont appris l'histoire du colonialisme et de l'esclavage, poseront immédiatement beaucoup de questions raisonnables ici. "Quels seront leurs motifs ?" "Qui aura le pouvoir dur ?" "S'ils semblent amicaux et coopératifs au début, pourraient-ils nous poignarder dans le dos lorsqu'ils deviendront plus puissants ?" Ce sont d'excellentes questions ! Nous devrions définitivement poser ces questions ! (Pour info, c'est mon domaine d'expertise, et je suis très pessimiste.) …Et puis ces gens normaux suivent des cours d'économie, et finissent par devenir plus stupides. Ils cessent de poser ces questions. Au lieu de cela, ils "apprennent" que l'AGI est "capital", un peu comme une machine à injection. Les machines à injection ne pourraient pas anéantir les humains et diriger le monde par elles-mêmes. Donc, tout va bien. Lol.

.@paulg doit être un fan de Mme Rachel. Ils utilisent tous les deux le même truc évasif : traiter les deux nœuds (action israélienne)→(victime civile) comme l'ensemble du contexte causal sur lequel s'exprimer. Q : Les boucliers humains devraient-ils être autorisés à travailler ? A : La vie de chaque non-combattant vaut la même chose 🧘

Le chiffre d'affaires de l'industrie des modèles de fondation AI dépassant 25 milliards de dollars par an implique que la création de valeur dans le secteur a dépassé environ 250 milliards de dollars par an.

Pourquoi @VitalikButerin a un P(Doom) de 12%...