📢 НОВЫЕ ДЕБАТЫ О СМЕРТИ ЭКСКЛЮЗИВ: Интервью с Робом Майлсом (@robertskmiles), самым популярным преподавателем безопасности ИИ на YouTube! Удивительно, но Роб начал свою карьеру в 2011 году, задолго до того, как ChatGPT привлек внимание общественности к этой области. Мы обсудили: 👉 Почему его P(Doom) находится в диапазоне от 10 до 90%, в зависимости от того, как человечество ответит на вызов 👉 Почему даже идеально согласованные системы ИИ могут не передать свои ценности преемственным системам - огромная слепая зона в текущей работе по безопасности 👉 Проблема "пропущенного настроения": почему люди обсуждают потенциальное человеческое вымирание с эмоциональной срочностью академической конференции, а не воспринимают это как чрезвычайную ситуацию 👉 Его основной сценарий катастрофы через рекурсивное самоулучшение и почему существует огромный потенциал выше человеческого интеллекта 👉 Являются ли люди "наименее интеллектуальным видом, способным на технологическую цивилизацию" - и что это означает для того, что более умные системы могут достичь 👉 Наше главное разногласие: Роб считает, что специалисты по безопасности должны работать внутри компаний ИИ для снижения вреда, в то время как я утверждаю, что это позволяет "отмыванию управляемости", что легитимизирует по сути безрассудные предприятия 👉 Стратегия коммуникации - Роб задается вопросом, не упускает ли его взвешенный британский подход чего-то важного, и, возможно, кто-то должен "бегать и кричать", чтобы передать соответствующую срочность Роб потратил более десяти лет, пытаясь разбудить людей к самой важной проблеме человечества. Наш разговор раскрывает напряжение между разумным анализом и экзистенциальной чрезвычайной ситуацией. Настоятельно рекомендую!