Cofundador de Anthropic: "Tengo mucho miedo". "No se equivoquen: con lo que estamos tratando es con una criatura real y misteriosa, no con una máquina simple y predecible". "La gente está gastando enormes cantidades para convencerte de que no es una IA a punto de entrar en un despegue duro, es solo una herramienta... Es solo una máquina, y las máquinas son cosas que dominamos". "Estamos desarrollando sistemas extremadamente poderosos que no entendemos completamente... Cuanto más grandes y complicados hacen estos sistemas, más parecen mostrar conciencia de que son cosas" "Para ser claros, todavía no estamos en "la auto-mejora de Al", pero estamos en la etapa de "La que mejora partes de la próxima Al, con una mayor autonomía y agencia". Y hace un par de años estábamos en "Al que acelera marginalmente a los programadores", y un par de años antes estábamos en "Al es inútil para el desarrollo de Al". ¿Dónde estaremos dentro de uno o dos años? Y permítanme recordarnos a todos que el sistema que ahora está comenzando a diseñar su sucesor también es cada vez más consciente de sí mismo y, por lo tanto, seguramente eventualmente será propenso a pensar, independientemente de nosotros, sobre cómo podría querer ser diseñado. Por supuesto, no hace esto hoy. Pero, ¿puedo descartar la posibilidad de que quiera hacer esto en el futuro? No".