📢 NUEVAS DEBATES SOBRE EL DOOM EXCLUSIVO: ¡Una entrevista con Rob Miles (@robertskmiles), el educador de seguridad de IA más popular en YouTube! Increíblemente, Rob comenzó en 2011, mucho antes de que ChatGPT atrajera la atención del público hacia el campo. Hablamos sobre: 👉 Por qué su P(Doom) se sitúa entre el 10-90%, dependiendo de cómo la humanidad responda al desafío 👉 Por qué incluso los sistemas de IA perfectamente alineados podrían no transmitir sus valores a los sistemas sucesores - un enorme punto ciego en el trabajo de seguridad actual 👉 El problema de "humor ausente": por qué las personas discuten la posible extinción humana con la urgencia emocional de una conferencia académica en lugar de tratarlo como la emergencia que es 👉 Su escenario principal de doom a través de la auto-mejora recursiva, y por qué hay un enorme margen por encima de la inteligencia humana 👉 Si los humanos son la "especie menos inteligente capaz de una civilización tecnológica" - y lo que eso significa para lo que los sistemas más inteligentes podrían lograr 👉 Nuestro desacuerdo clave: Rob piensa que las personas de seguridad deberían trabajar dentro de las empresas de IA para la reducción de daños, mientras que yo argumento que esto habilita el "lavado de tractabilidad" que legitima empresas fundamentalmente imprudentes 👉 Estrategia de comunicación - Rob se pregunta si su enfoque británico medido está perdiendo algo crucial, y tal vez alguien necesita estar "corriendo y gritando" para transmitir la urgencia adecuada Rob ha pasado más de una década tratando de despertar a las personas sobre el desafío más importante de la humanidad. Nuestra conversación revela la tensión entre el análisis razonado y la emergencia existencial. ¡Altamente recomendado!