📢 НОВИЙ ЕКСКЛЮЗИВ DOOM DEBATES: Інтерв'ю з Робом Майлзом (@robertskmiles), найпопулярнішим викладачем безпеки штучного інтелекту на YouTube! Дивно, але Роб розпочав свою кар'єру в 2011 році, задовго до того, як ChatGPT привернув загальну увагу до цієї галузі. Ми говоримо про: 👉 Чому його P (Doom) знаходиться в межах 10-90%, залежно від того, як людство відреагує на виклик 👉 Чому навіть ідеально узгоджені системи штучного інтелекту можуть не передати свої цінності системам-наступникам – величезна сліпа пляма в поточній роботі з безпеки 👉 Проблема «зниклого настрою»: чому люди обговорюють потенційне вимирання людства з емоційною терміновістю академічної конференції, замість того, щоб ставитися до неї як до надзвичайної ситуації, якою вона є 👉 Його основний сценарій загибелі через рекурсивне самовдосконалення, і чому над людським інтелектом величезний запас 👉 Чи є люди «найменш розумним видом, здатним до технологічної цивілізації» – і що це означає для того, чого можуть досягти розумніші системи 👉 Наша ключова розбіжність: Роб вважає, що фахівці з безпеки повинні працювати в компаніях, що займаються штучним інтелектом, для зменшення шкоди, тоді як я стверджую, що це дозволяє «відмивання тяги», яке легітимізує принципово безрозсудні підприємства 👉 Комунікаційна стратегія - Роб задається питанням, чи не бракує його зваженого британського підходу чогось важливого, і, можливо, комусь потрібно «бігати з криками», щоб висловити відповідну терміновість Роб витратив більше десяти років, намагаючись пробудити людей перед найважливішим викликом людства. Наша розмова виявляє напругу між аргументованим аналізом та екзистенційною надзвичайною ситуацією. Настійно рекомендую!