📢 NIEUWE DOOM DEBATES EXCLUSIEF: Een interview met Rob Miles (@robertskmiles), de populairste AI-veiligheidsonderwijzer op YouTube! Verbazingwekkend genoeg begon Rob in 2011, lang voordat ChatGPT mainstream aandacht voor het veld bracht. We praten over: 👉 Waarom zijn P(Doom) tussen de 10-90% ligt, afhankelijk van hoe de mensheid op de uitdaging reageert 👉 Waarom zelfs perfect afgestemde AI-systemen mogelijk hun waarden niet doorgeven aan opvolgende systemen - een enorme blinde vlek in het huidige veiligheidswerk 👉 Het "ontbrekende humeur" probleem: waarom mensen de potentiële menselijke uitsterving bespreken met de emotionele urgentie van een academische conferentie in plaats van het te behandelen als de noodsituatie die het is 👉 Zijn belangrijkste doemscenario door middel van recursieve zelfverbetering, en waarom er enorme ruimte boven menselijke intelligentie is 👉 Of mensen de "minst intelligente soort zijn die in staat is tot technologische beschaving" - en wat dat betekent voor wat slimmere systemen zouden kunnen bereiken 👉 Onze belangrijkste onenigheid: Rob denkt dat veiligheidsexperts binnen AI-bedrijven moeten werken voor schadebeperking, terwijl ik betoog dat dit "tractability-washing" mogelijk maakt dat fundamenteel roekeloze ondernemingen wordt gelegitimeerd 👉 Communicatiestrategie - Rob vraagt zich af of zijn gematigde Britse benadering iets cruciaals mist, en misschien moet iemand "rondrennen en schreeuwen" om de juiste urgentie over te brengen Rob heeft meer dan een decennium geprobeerd mensen wakker te schudden voor de belangrijkste uitdaging van de mensheid. Ons gesprek onthult de spanning tussen redelijke analyse en existentiële noodsituatie. Zeer aanbevolen!