📢 NOVO DEBATE DOOM EXCLUSIVO: Uma entrevista com Rob Miles (@robertskmiles), o educador de segurança em IA mais popular no YouTube! Incrivelmente, Rob começou em 2011, muito antes do ChatGPT trazer atenção mainstream para o campo. Nós falamos sobre: 👉 Por que sua P(Doom) fica entre 10-90%, dependendo de como a humanidade responde ao desafio 👉 Por que mesmo sistemas de IA perfeitamente alinhados podem não passar seus valores para sistemas sucessores - um enorme ponto cego no trabalho de segurança atual 👉 O problema do "humor ausente": por que as pessoas discutem a potencial extinção humana com a urgência emocional de uma conferência acadêmica, em vez de tratar isso como a emergência que realmente é 👉 Seu cenário principal de doom através da autoaperfeiçoamento recursivo, e por que há um enorme espaço acima da inteligência humana 👉 Se os humanos são a "espécie menos inteligente capaz de civilização tecnológica" - e o que isso significa para o que sistemas mais inteligentes poderiam alcançar 👉 Nosso principal desacordo: Rob acha que as pessoas de segurança deveriam trabalhar dentro das empresas de IA para redução de danos, enquanto eu argumento que isso possibilita o "lavagem de tratabilidade" que legitima empreendimentos fundamentalmente imprudentes 👉 Estratégia de comunicação - Rob se pergunta se sua abordagem britânica medida está perdendo algo crucial, e talvez alguém precise estar "correndo e gritando" para transmitir a urgência apropriada Rob passou mais de uma década tentando despertar as pessoas para o desafio mais importante da humanidade. Nossa conversa revela a tensão entre análise razoável e emergência existencial. Altamente recomendado!