📢 NOUVEAUX DÉBATS DOOM EXCLUSIFS : Une interview avec Rob Miles (@robertskmiles), l'éducateur en sécurité de l'IA le plus populaire sur YouTube ! Étonnamment, Rob a commencé en 2011, bien avant que ChatGPT n'attire l'attention du grand public sur le domaine. Nous parlons de : 👉 Pourquoi sa P(Doom) se situe entre 10 et 90 %, selon la façon dont l'humanité répond au défi 👉 Pourquoi même les systèmes d'IA parfaitement alignés pourraient ne pas transmettre leurs valeurs aux systèmes successeurs - un énorme angle mort dans le travail de sécurité actuel 👉 Le problème du "mood manquant" : pourquoi les gens discutent de l'extinction humaine potentielle avec l'urgence émotionnelle d'une conférence académique au lieu de la traiter comme l'urgence qu'elle est 👉 Son scénario principal de doom à travers l'amélioration récursive, et pourquoi il y a une énorme marge au-dessus de l'intelligence humaine 👉 Si les humains sont la "moins intelligente des espèces capables de civilisation technologique" - et ce que cela signifie pour ce que des systèmes plus intelligents pourraient accomplir 👉 Notre désaccord clé : Rob pense que les personnes en sécurité devraient travailler au sein des entreprises d'IA pour réduire les dommages, tandis que j'argue que cela permet le "tractability-washing" qui légitime des entreprises fondamentalement imprudentes 👉 Stratégie de communication - Rob se demande si son approche britannique mesurée manque de quelque chose de crucial, et peut-être que quelqu'un doit "courir en criant" pour transmettre l'urgence appropriée Rob a passé plus d'une décennie à essayer de réveiller les gens sur le défi le plus important de l'humanité. Notre conversation révèle la tension entre l'analyse raisonnée et l'urgence existentielle. Fortement recommandé !