📢 CUỘC THẢO LUẬN DOOM MỚI ĐẶC BIỆT: Một cuộc phỏng vấn với Rob Miles (@robertskmiles), nhà giáo dục về an toàn AI nổi tiếng nhất trên YouTube! Thật đáng kinh ngạc, Rob bắt đầu vào năm 2011, lâu trước khi ChatGPT thu hút sự chú ý của công chúng đến lĩnh vực này. Chúng tôi đã nói về: 👉 Tại sao P(Doom) của anh ấy nằm giữa 10-90%, tùy thuộc vào cách nhân loại phản ứng với thách thức 👉 Tại sao ngay cả các hệ thống AI hoàn toàn phù hợp cũng có thể không truyền đạt giá trị của chúng cho các hệ thống kế nhiệm - một điểm mù lớn trong công việc an toàn hiện tại 👉 Vấn đề "thiếu tâm trạng": tại sao mọi người thảo luận về khả năng tuyệt chủng của con người với sự khẩn cấp cảm xúc như một hội nghị học thuật thay vì coi đó là một tình huống khẩn cấp thực sự 👉 Kịch bản doom chính của anh ấy thông qua việc tự cải thiện lặp đi lặp lại, và tại sao có rất nhiều không gian trên trí thông minh của con người 👉 Liệu con người có phải là "loài ít thông minh nhất có khả năng văn minh công nghệ" - và điều đó có nghĩa là gì đối với những gì các hệ thống thông minh hơn có thể đạt được 👉 Sự bất đồng chính của chúng tôi: Rob nghĩ rằng những người làm an toàn nên làm việc trong các công ty AI để giảm thiểu thiệt hại, trong khi tôi lập luận rằng điều này cho phép "rửa sạch khả năng xử lý" mà hợp pháp hóa các doanh nghiệp liều lĩnh về bản chất 👉 Chiến lược giao tiếp - Rob tự hỏi liệu cách tiếp cận điềm tĩnh của người Anh của anh ấy có thiếu điều gì đó quan trọng, và có thể ai đó cần "chạy quanh và la hét" để truyền đạt sự khẩn cấp thích hợp Rob đã dành hơn một thập kỷ để cố gắng đánh thức mọi người về thách thức quan trọng nhất của nhân loại. Cuộc trò chuyện của chúng tôi tiết lộ sự căng thẳng giữa phân tích lý trí và tình huống khẩn cấp tồn tại. Rất đáng khuyên!