📢 NOVOS DEBATES DOOM EXCLUSIVOS: Uma entrevista com Rob Miles (@robertskmiles), o educador de segurança de IA mais popular do YouTube! Surpreendentemente, Rob começou em 2011, muito antes de o ChatGPT chamar a atenção do mainstream para o campo. Falamos sobre: 👉 Por que seu P(Doom) fica entre 10-90%, dependendo de como a humanidade responde ao desafio 👉 Por que mesmo sistemas de IA perfeitamente alinhados podem não passar seus valores para sistemas sucessores - um enorme ponto cego no trabalho de segurança atual 👉 O problema do "humor perdido": por que as pessoas discutem a potencial extinção humana com a urgência emocional de uma conferência acadêmica em vez de tratá-la como a emergência que é 👉 Seu cenário de desgraça principal por meio do autoaperfeiçoamento recursivo e por que há um enorme espaço acima da inteligência humana 👉 Se os humanos são a "espécie menos inteligente capaz de civilização tecnológica" - e o que isso significa para o que os sistemas mais inteligentes poderiam alcançar 👉 Nossa principal discordância: Rob acha que o pessoal de segurança deve trabalhar dentro das empresas de IA para redução de danos, enquanto eu argumento que isso permite a "lavagem da tratabilidade" que legitima empresas fundamentalmente imprudentes 👉 Estratégia de comunicação - Rob se pergunta se sua abordagem britânica comedida está faltando algo crucial, e talvez alguém precise estar "correndo por aí gritando" para transmitir a urgência apropriada Rob passou mais de uma década tentando despertar as pessoas para o desafio mais importante da humanidade. Nossa conversa revela a tensão entre a análise racional e a emergência existencial. Altamente recomendado!