Существует забавная вещь, когда образование в области экономики парадоксально делает людей ГЛУПЕЕ в размышлениях о будущем ИИ. Учебники по экономике обучают концепциям и рамкам, которые хороши для большинства вещей, но контрпродуктивны для размышлений о ИИ общего назначения (AGI). Вот 4 примера. Длинный пост: ПЕРВЫЙ ЭЛЕМЕНТ антипедагогики экономики скрывается в словах "труд" и "капитал". Эти слова смешивают поверхностное различие (человек из плоти и крови против не человека) с набором невысказанных предположений и интуиций, которые все будут разрушены Искусственным Общим Интеллектом (AGI). Под "AGI" я здесь подразумеваю "набор чипов, алгоритмов, электричества и/или телепереводимых роботов, которые могут автономно выполнять те виды задач, которые могут выполнять амбициозные взрослые люди — основывать и управлять новыми компаниями, проводить НИОКР, осваивать новые навыки, использовать произвольные телепереводимые роботы после очень небольшой практики и т. д." Да, я знаю, этого еще не существует! (Несмотря на противоречащий хайп.) Попробуйте попросить LLM автономно написать бизнес-план, основать компанию, а затем управлять и развивать ее в течение многих лет в качестве CEO. Ха-ха! Она потерпит крах! Но это ограничение сегодняшних LLM, а не "всех ИИ навсегда". ИИ, который мог бы справиться с этой задачей и многими другими, очевидно, возможен — человеческие мозги, тела и общества не питаются какой-то магической силой, навсегда недоступной науке. Я, например, ожидаю такой ИИ в своей жизни, к лучшему или худшему. (Вероятно, "хуже", см. ниже.) Теперь, является ли этот вид AGI "трудом" или "капиталом"? Ну, это не человек из плоти и крови. Но это больше похоже на "труд", чем на "капитал" по многим другим параметрам: • Капитал не может просто так делать вещи сам по себе? AGI может. • Новым технологиям требуется много времени для интеграции в экономику? Ну, спросите себя: как высококвалифицированные, опытные и предприимчивые иммигранты мгновенно интегрируются в экономику? Как только вы ответите на этот вопрос, обратите внимание, что AGI сможет делать эти вещи тоже. • Капитал остается бездействующим, если нет людей, готовых и способных его использовать? Ну, эти иммигранты не остаются бездействующими. И AGI тоже не будет. • Капитал не может выступать за политические права или организовывать перевороты? Ну... В любом случае, люди смотрят научно-фантастические фильмы о роботах, и они это понимают! Затем они проходят курсы экономики, и это делает их глупее. (Да, я знаю, #НеВсеЭкономисты и т. д.) ВТОРОЙ ЭЛЕМЕНТ антипедагогики экономики заключается в том, что внушается предположение, что рынок может уравновеситься. Но рынок для AGI не может: AGI сочетает в себе свойства трудовых рынков с свойствами товарных рынков, где эти свойства взаимно исключают друг друга. Эти свойства: • (A) "НЕТ КУСКА ТРУДА": Если численность населения увеличивается, зарплаты падают в очень коротком сроке, потому что кривая спроса на труд наклонена вниз. Но в долгосрочной перспективе люди находят новые продуктивные занятия — кривая спроса смещается вправо. Если что-то, то ценность труда увеличивается, а не уменьшается, с ростом населения! Например, густые города являются двигателями роста! • (B) "КРИВЫЕ ОПЫТА": Если спрос на продукт растет, в очень коротком сроке происходит рост цен, потому что кривая предложения наклонена вверх. Но в долгосрочной перспективе люди увеличивают производство — кривая предложения смещается вправо. Если что-то, то цена падает, а не растет, с увеличением спроса, благодаря экономии на масштабе и НИОКР. ВИКТОРИНА: Учитывая (A) и (B), какова равновесная цена этого набора AGI (чипы, алгоритмы, электричество, телепереводимые роботы и т. д.)? ...Ловушка! Равновесия нет. Наши два принципа, (A) "нет куска труда" и (B) "кривые опыта", делают равновесие невозможным: • Если цена низкая, (A) говорит, что кривая спроса стремительно смещается вправо — нет куска труда, следовательно, есть огромная прибыль, которую можно получить, находя новые продуктивные занятия для квалифицированных предпринимательских AGI. • Если цена высокая, (B) говорит, что кривая предложения стремительно смещается вправо — есть огромная прибыль, которую можно получить, увеличивая производство AGI. • Если цена находится посередине, то кривая спроса и кривая предложения обе стремительно смещаются вправо! Это ни капитал, ни труд, как мы его знаем. Вместо того чтобы рынок AGI уравновешивался, он образует положительную обратную связь / машину вечного движения, которая взрывается экспоненциально. Звучит абсурдно? Есть прецедент: люди! Человеческий мир в целом уже является положительной обратной связью / машиной вечного движения такого типа! Люди подняли себя с нескольких тысяч гоминид до 8 миллиардов человек, управляющих экономикой в 80 триллионов долларов. Как? Это не буквально машина вечного движения. Скорее, это двигатель, который черпает из колодца "еще не использованных экономических возможностей". Но помните "Нет Куска Труда": колодец еще не использованных экономических возможностей ~бесконечно глубок. Мы не исчерпали возможные компании для основания. Никто еще не создал рой Дайсона. Существует лишь ограниченное количество людей, чтобы основать компании и использовать новые возможности. Но положительная обратная связь AGI не имеет таких ограничений. Время удвоения может быть действительно коротким: Представьте себе автономную фабрику, которая может построить идентичную автономную фабрику, которая затем строит две другие и т. д., используя только широко доступные исходные материалы и солнечный свет. Учебники по экономике об этом не говорят. Но учебники по биологии говорят! Цианобактерия — это такая фабрика и может удваивать себя за день (≈ гугольный процент годового роста 😛). В любом случае, мы не знаем, насколько взрывным будет положительная обратная связь AGI, создающего AGI, но я ожидаю, что это будет световые годы впереди всего, что было в экономической истории. ТРЕТИЙ ЭЛЕМЕНТ антипедагогики экономики — это его продвижение роста ВВП как прокси для прогресса и изменений. Напротив, возможно, что мир трансформируется в дикий научно-фантастический мир, который невозможно распознать или понять каждый месяц, месяц за месяцем, без того, чтобы "рост ВВП" на самом деле был таким уж высоким. ВВП — это забавная метрика и особенно плоха в описании воздействия трансформирующих технологических революций. (Например, если какая-то новая технология недорога, а другие сектора экономики остаются дорогими из-за регуляторных ограничений, то новая технология может не оказать большого влияния на ВВП, независимо от того, насколько она переворачивает мир.) Я имею в виду, конечно, мы можем спорить о ВВП, но не должны рассматривать его как прокси-битву о том, будет ли AGI большим делом или нет. Наконец, и самое главное, ЧЕТВЕРТЫЙ ЭЛЕМЕНТ антипедагогики экономики — это акцент на "взаимовыгодных сделках" вместо "убийства людей и забирания их вещей". Экономика 101 доказывает, что торговля эгоистично лучше, чем изоляция. Но иногда "убийство людей и забирание их вещей" является эгоистично лучшим из всех. Когда мы говорим о AGI, мы говорим о создании нового разумного вида на Земле, который в конечном итоге будет быстрее, умнее, лучше скоординирован и более многочислен, чем люди. Обычные люди, люди, которые видели научно-фантастические фильмы о роботах и инопланетянах, люди, которые изучали историю колониализма и рабства, сразу зададут здесь множество разумных вопросов. "Каковы будут их мотивы?" "Кто будет иметь жесткую власть?" "Если они кажутся дружелюбными и кооперативными в начале, могут ли они ударить нас в спину, когда станут более могущественными?" Это отличные вопросы! Мы определенно должны задавать эти вопросы! (Для справки, это моя область экспертизы, и я очень пессимистичен.) ...А затем эти обычные люди проходят курсы экономики и становятся глупее. Они перестают задавать эти вопросы. Вместо этого они "учатся", что AGI — это "капитал", как будто это машина для литья под давлением. Машины для литья под давлением не уничтожат людей и не будут управлять миром сами по себе. Так что с нами все в порядке. Ха.