📢 EXKLUSIVT FÖR NYA DOOM-DEBATTER: En intervju med Rob Miles (@robertskmiles), den mest populära AI-säkerhetsutbildaren på YouTube! Otroligt nog fick Rob sin start 2011, långt innan ChatGPT drog mainstream-uppmärksamhet till området. Vi pratar om: 👉 Varför hans P(Doom) ligger mellan 10-90%, beroende på hur mänskligheten svarar på utmaningen 👉 Varför även perfekt anpassade AI-system kanske inte överför sina värden till efterföljande system - en enorm blind fläck i dagens säkerhetsarbete 👉 Problemet med "saknad stämning": varför människor diskuterar potentiell mänsklig utrotning med den känslomässiga angelägenheten av en akademisk konferens istället för att behandla den som den nödsituation den är 👉 Hans huvudsakliga undergångsscenario genom rekursiv självförbättring, och varför det finns ett enormt utrymme ovanför mänsklig intelligens 👉 Huruvida människan är den "minst intelligenta arten som är kapabel till teknologisk civilisation" – och vad det betyder för vad smartare system skulle kunna uppnå 👉 Vår huvudsakliga oenighet: Rob tycker att säkerhetspersonal bör arbeta inom AI-företag för att minska skadeverkningarna, medan jag hävdar att detta möjliggör "hanterbarhetstvätt" som legitimerar fundamentalt vårdslösa företag 👉 Kommunikationsstrategi - Rob undrar om hans genomtänkta brittiska tillvägagångssätt missar något viktigt, och kanske måste någon "springa runt och skrika" för att förmedla att det är bråttom Rob har tillbringat över ett decennium med att försöka få människor att vakna upp till mänsklighetens viktigaste utmaning. Vårt samtal visar på spänningen mellan resonerande analys och existentiell nödsituation. Rekommenderas!