📢 EKSKLUSIF DEBAT DOOM BARU: Wawancara dengan Rob Miles (@robertskmiles), pendidik keselamatan AI paling populer di YouTube! Hebatnya, Rob memulai kariernya pada tahun 2011, jauh sebelum ChatGPT membawa perhatian arus utama ke lapangan. Kita berbicara tentang: 👉 Mengapa P(Doom) miliknya berada di antara 10-90%, tergantung pada bagaimana umat manusia menanggapi tantangan tersebut 👉 Mengapa bahkan sistem AI yang diselaraskan dengan sempurna mungkin tidak meneruskan nilainya ke sistem penerus - titik buta besar dalam pekerjaan keselamatan saat ini 👉 Masalah "suasana hati yang hilang": mengapa orang mendiskusikan potensi kepunahan manusia dengan urgensi emosional dari konferensi akademik alih-alih memperlakukannya seperti keadaan darurat 👉 Skenario malapetaka utamanya melalui perbaikan diri rekursif, dan mengapa ada ruang kepala yang sangat besar di atas kecerdasan manusia 👉 Apakah manusia adalah "spesies paling tidak cerdas yang mampu berperadaban teknologi" - dan apa artinya bagi apa yang dapat dicapai oleh sistem yang lebih cerdas 👉 Ketidaksepakatan utama kami: Rob berpikir orang keselamatan harus bekerja di dalam perusahaan AI untuk pengurangan bahaya, sementara saya berpendapat ini memungkinkan "pencucian traktabilitas" yang melegitimasi perusahaan yang sembrono secara fundamental 👉 Strategi komunikasi - Rob bertanya-tanya apakah pendekatan Inggris yang terukur kehilangan sesuatu yang penting, dan mungkin seseorang perlu "berlarian berteriak" untuk menyampaikan urgensi yang sesuai Rob telah menghabiskan lebih dari satu dekade mencoba membangunkan orang terhadap tantangan terpenting umat manusia. Percakapan kami mengungkapkan ketegangan antara analisis beralasan dan keadaan darurat eksistensial. Sangat direkomendasikan!