Вы можете *думать*, что это безусловно доказывает существование высокого общего интеллекта, но на самом деле это просто показывает, что возможно изучить конкретное сочетание навыков из окружающей вас культуры. Правильные обучающие данные позволяют вам сопоставлять шаблоны для следующего шага по строительству чистой комнаты.

ИИ не любит вас и не ненавидит, но ваше тело состоит из воды, которую он может использовать для охлаждения своего дата-центра.

📢 НОВЫЕ ДЕБАТЫ О СМЕРТИ ЭКСКЛЮЗИВ: Интервью с Робом Майлсом (@robertskmiles), самым популярным преподавателем безопасности ИИ на YouTube! Удивительно, но Роб начал свою карьеру в 2011 году, задолго до того, как ChatGPT привлек внимание общественности к этой области. Мы обсудили: 👉 Почему его P(Doom) находится в диапазоне от 10 до 90%, в зависимости от того, как человечество ответит на вызов 👉 Почему даже идеально согласованные системы ИИ могут не передать свои ценности преемственным системам - огромная слепая зона в текущей работе по безопасности 👉 Проблема "пропущенного настроения": почему люди обсуждают потенциальное человеческое вымирание с эмоциональной срочностью академической конференции, а не воспринимают это как чрезвычайную ситуацию 👉 Его основной сценарий катастрофы через рекурсивное самоулучшение и почему существует огромный потенциал выше человеческого интеллекта 👉 Являются ли люди "наименее интеллектуальным видом, способным на технологическую цивилизацию" - и что это означает для того, что более умные системы могут достичь 👉 Наше главное разногласие: Роб считает, что специалисты по безопасности должны работать внутри компаний ИИ для снижения вреда, в то время как я утверждаю, что это позволяет "отмыванию управляемости", что легитимизирует по сути безрассудные предприятия 👉 Стратегия коммуникации - Роб задается вопросом, не упускает ли его взвешенный британский подход чего-то важного, и, возможно, кто-то должен "бегать и кричать", чтобы передать соответствующую срочность Роб потратил более десяти лет, пытаясь разбудить людей к самой важной проблеме человечества. Наш разговор раскрывает напряжение между разумным анализом и экзистенциальной чрезвычайной ситуацией. Настоятельно рекомендую!

Невероятное интервью. Поздравляю @liron С удовольствием слушал, как @VitalikButerin охватывает так много аспектов мира ИИ. Я на 50% в интервью и пока что мне очень нравится!

Приготовьтесь к @robertskmiles…

Насколько точно была Идиократия?

Существует забавная вещь, когда образование в области экономики парадоксально делает людей ГЛУПЕЕ в размышлениях о будущем ИИ. Учебники по экономике обучают концепциям и рамкам, которые хороши для большинства вещей, но контрпродуктивны для размышлений о ИИ общего назначения (AGI). Вот 4 примера. Длинный пост: ПЕРВЫЙ ЭЛЕМЕНТ антипедагогики экономики скрывается в словах "труд" и "капитал". Эти слова смешивают поверхностное различие (человек из плоти и крови против не человека) с набором невысказанных предположений и интуиций, которые все будут разрушены Искусственным Общим Интеллектом (AGI). Под "AGI" я здесь подразумеваю "набор чипов, алгоритмов, электричества и/или телепереводимых роботов, которые могут автономно выполнять те виды задач, которые могут выполнять амбициозные взрослые люди — основывать и управлять новыми компаниями, проводить НИОКР, осваивать новые навыки, использовать произвольные телепереводимые роботы после очень небольшой практики и т. д." Да, я знаю, этого еще не существует! (Несмотря на противоречащий хайп.) Попробуйте попросить LLM автономно написать бизнес-план, основать компанию, а затем управлять и развивать ее в течение многих лет в качестве CEO. Ха-ха! Она потерпит крах! Но это ограничение сегодняшних LLM, а не "всех ИИ навсегда". ИИ, который мог бы справиться с этой задачей и многими другими, очевидно, возможен — человеческие мозги, тела и общества не питаются какой-то магической силой, навсегда недоступной науке. Я, например, ожидаю такой ИИ в своей жизни, к лучшему или худшему. (Вероятно, "хуже", см. ниже.) Теперь, является ли этот вид AGI "трудом" или "капиталом"? Ну, это не человек из плоти и крови. Но это больше похоже на "труд", чем на "капитал" по многим другим параметрам: • Капитал не может просто так делать вещи сам по себе? AGI может. • Новым технологиям требуется много времени для интеграции в экономику? Ну, спросите себя: как высококвалифицированные, опытные и предприимчивые иммигранты мгновенно интегрируются в экономику? Как только вы ответите на этот вопрос, обратите внимание, что AGI сможет делать эти вещи тоже. • Капитал остается бездействующим, если нет людей, готовых и способных его использовать? Ну, эти иммигранты не остаются бездействующими. И AGI тоже не будет. • Капитал не может выступать за политические права или организовывать перевороты? Ну... В любом случае, люди смотрят научно-фантастические фильмы о роботах, и они это понимают! Затем они проходят курсы экономики, и это делает их глупее. (Да, я знаю, #НеВсеЭкономисты и т. д.) ВТОРОЙ ЭЛЕМЕНТ антипедагогики экономики заключается в том, что внушается предположение, что рынок может уравновеситься. Но рынок для AGI не может: AGI сочетает в себе свойства трудовых рынков с свойствами товарных рынков, где эти свойства взаимно исключают друг друга. Эти свойства: • (A) "НЕТ КУСКА ТРУДА": Если численность населения увеличивается, зарплаты падают в очень коротком сроке, потому что кривая спроса на труд наклонена вниз. Но в долгосрочной перспективе люди находят новые продуктивные занятия — кривая спроса смещается вправо. Если что-то, то ценность труда увеличивается, а не уменьшается, с ростом населения! Например, густые города являются двигателями роста! • (B) "КРИВЫЕ ОПЫТА": Если спрос на продукт растет, в очень коротком сроке происходит рост цен, потому что кривая предложения наклонена вверх. Но в долгосрочной перспективе люди увеличивают производство — кривая предложения смещается вправо. Если что-то, то цена падает, а не растет, с увеличением спроса, благодаря экономии на масштабе и НИОКР. ВИКТОРИНА: Учитывая (A) и (B), какова равновесная цена этого набора AGI (чипы, алгоритмы, электричество, телепереводимые роботы и т. д.)? ...Ловушка! Равновесия нет. Наши два принципа, (A) "нет куска труда" и (B) "кривые опыта", делают равновесие невозможным: • Если цена низкая, (A) говорит, что кривая спроса стремительно смещается вправо — нет куска труда, следовательно, есть огромная прибыль, которую можно получить, находя новые продуктивные занятия для квалифицированных предпринимательских AGI. • Если цена высокая, (B) говорит, что кривая предложения стремительно смещается вправо — есть огромная прибыль, которую можно получить, увеличивая производство AGI. • Если цена находится посередине, то кривая спроса и кривая предложения обе стремительно смещаются вправо! Это ни капитал, ни труд, как мы его знаем. Вместо того чтобы рынок AGI уравновешивался, он образует положительную обратную связь / машину вечного движения, которая взрывается экспоненциально. Звучит абсурдно? Есть прецедент: люди! Человеческий мир в целом уже является положительной обратной связью / машиной вечного движения такого типа! Люди подняли себя с нескольких тысяч гоминид до 8 миллиардов человек, управляющих экономикой в 80 триллионов долларов. Как? Это не буквально машина вечного движения. Скорее, это двигатель, который черпает из колодца "еще не использованных экономических возможностей". Но помните "Нет Куска Труда": колодец еще не использованных экономических возможностей ~бесконечно глубок. Мы не исчерпали возможные компании для основания. Никто еще не создал рой Дайсона. Существует лишь ограниченное количество людей, чтобы основать компании и использовать новые возможности. Но положительная обратная связь AGI не имеет таких ограничений. Время удвоения может быть действительно коротким: Представьте себе автономную фабрику, которая может построить идентичную автономную фабрику, которая затем строит две другие и т. д., используя только широко доступные исходные материалы и солнечный свет. Учебники по экономике об этом не говорят. Но учебники по биологии говорят! Цианобактерия — это такая фабрика и может удваивать себя за день (≈ гугольный процент годового роста 😛). В любом случае, мы не знаем, насколько взрывным будет положительная обратная связь AGI, создающего AGI, но я ожидаю, что это будет световые годы впереди всего, что было в экономической истории. ТРЕТИЙ ЭЛЕМЕНТ антипедагогики экономики — это его продвижение роста ВВП как прокси для прогресса и изменений. Напротив, возможно, что мир трансформируется в дикий научно-фантастический мир, который невозможно распознать или понять каждый месяц, месяц за месяцем, без того, чтобы "рост ВВП" на самом деле был таким уж высоким. ВВП — это забавная метрика и особенно плоха в описании воздействия трансформирующих технологических революций. (Например, если какая-то новая технология недорога, а другие сектора экономики остаются дорогими из-за регуляторных ограничений, то новая технология может не оказать большого влияния на ВВП, независимо от того, насколько она переворачивает мир.) Я имею в виду, конечно, мы можем спорить о ВВП, но не должны рассматривать его как прокси-битву о том, будет ли AGI большим делом или нет. Наконец, и самое главное, ЧЕТВЕРТЫЙ ЭЛЕМЕНТ антипедагогики экономики — это акцент на "взаимовыгодных сделках" вместо "убийства людей и забирания их вещей". Экономика 101 доказывает, что торговля эгоистично лучше, чем изоляция. Но иногда "убийство людей и забирание их вещей" является эгоистично лучшим из всех. Когда мы говорим о AGI, мы говорим о создании нового разумного вида на Земле, который в конечном итоге будет быстрее, умнее, лучше скоординирован и более многочислен, чем люди. Обычные люди, люди, которые видели научно-фантастические фильмы о роботах и инопланетянах, люди, которые изучали историю колониализма и рабства, сразу зададут здесь множество разумных вопросов. "Каковы будут их мотивы?" "Кто будет иметь жесткую власть?" "Если они кажутся дружелюбными и кооперативными в начале, могут ли они ударить нас в спину, когда станут более могущественными?" Это отличные вопросы! Мы определенно должны задавать эти вопросы! (Для справки, это моя область экспертизы, и я очень пессимистичен.) ...А затем эти обычные люди проходят курсы экономики и становятся глупее. Они перестают задавать эти вопросы. Вместо этого они "учатся", что AGI — это "капитал", как будто это машина для литья под давлением. Машины для литья под давлением не уничтожат людей и не будут управлять миром сами по себе. Так что с нами все в порядке. Ха.

.@paulg, должно быть, фанат мисс Рэйчел. Они оба используют один и тот же уклончивый прием: рассматривая два узла (действия Израиля)→(гибель мирных жителей) как весь причинный контекст, на основе которого можно высказываться. В: Должны ли разрешить использовать человеческие щиты? О: Жизнь каждого некомбатанта стоит одинаково 🧘

Промышленность моделей основанных на ИИ с доходом более 25 миллиардов долларов в год подразумевает, что создание ценности в этом секторе превысило примерно 250 миллиардов долларов в год.

Почему у @VitalikButerin 12% P(Гибель)…