Você pode *pensar* que isso prova, sem sombra de dúvida, a existência de alta inteligência geral, mas na verdade apenas mostra que é possível aprender uma combinação específica de habilidades da cultura ao seu redor. Os dados de treinamento corretos permitem que você corresponda ao padrão da próxima etapa de construção de salas limpas.

A IA não te ama, nem te odeia, mas seu corpo é feito de água que pode ser usada para resfriar seu datacenter

📢 NOVOS DEBATES DOOM EXCLUSIVOS: Uma entrevista com Rob Miles (@robertskmiles), o educador de segurança de IA mais popular do YouTube! Surpreendentemente, Rob começou em 2011, muito antes de o ChatGPT chamar a atenção do mainstream para o campo. Falamos sobre: 👉 Por que seu P(Doom) fica entre 10-90%, dependendo de como a humanidade responde ao desafio 👉 Por que mesmo sistemas de IA perfeitamente alinhados podem não passar seus valores para sistemas sucessores - um enorme ponto cego no trabalho de segurança atual 👉 O problema do "humor perdido": por que as pessoas discutem a potencial extinção humana com a urgência emocional de uma conferência acadêmica em vez de tratá-la como a emergência que é 👉 Seu cenário de desgraça principal por meio do autoaperfeiçoamento recursivo e por que há um enorme espaço acima da inteligência humana 👉 Se os humanos são a "espécie menos inteligente capaz de civilização tecnológica" - e o que isso significa para o que os sistemas mais inteligentes poderiam alcançar 👉 Nossa principal discordância: Rob acha que o pessoal de segurança deve trabalhar dentro das empresas de IA para redução de danos, enquanto eu argumento que isso permite a "lavagem da tratabilidade" que legitima empresas fundamentalmente imprudentes 👉 Estratégia de comunicação - Rob se pergunta se sua abordagem britânica comedida está faltando algo crucial, e talvez alguém precise estar "correndo por aí gritando" para transmitir a urgência apropriada Rob passou mais de uma década tentando despertar as pessoas para o desafio mais importante da humanidade. Nossa conversa revela a tensão entre a análise racional e a emergência existencial. Altamente recomendado!

Entrevista incrível. Parabéns a @liron Adorei ouvir @VitalikButerin cobrir tantos aspectos do cenário de IA. Estou 50% na entrevista e adorando até agora!

Prepare-se para @robertskmiles...

Como a idiocracia era tão precisa

Há uma coisa engraçada em que a educação econômica paradoxalmente torna as pessoas mais ao pensar na IA do futuro. Os livros didáticos de economia ensinam conceitos e estruturas que são ótimos para a maioria das coisas, mas contraproducentes para pensar sobre AGI. Aqui estão 4 exemplos. Poste longo: A primeira peça da antipedagogia econômica está escondida nas palavras "trabalho" e "capital". Essas palavras confundem uma diferença superficial (humano de carne e osso versus não) com um feixe de suposições e intuições tácitas, que serão quebradas pela Inteligência Artificial Geral (AGI). Por "AGI" quero dizer aqui "um pacote de chips, algoritmos, eletricidade e / ou robôs teleoperados que podem fazer de forma autônoma os tipos de coisas que adultos humanos ambiciosos podem fazer - fundar e administrar novas empresas, P&D, aprender novas habilidades, usar robôs teleoperados arbitrários após muito pouca prática, etc. " Sim, eu sei, isso ainda não existe! (Apesar do hype em contrário.) Tente pedir a um LLM para escrever um plano de negócios de forma autônoma, fundar uma empresa e, em seguida, administrá-la e expandi-la por anos como CEO. Lol! Ele vai travar e queimar! Mas essa é uma limitação dos LLMs de hoje, não de "toda IA para sempre". A IA que poderia pregar essa tarefa, e muito mais além, é obviamente possível - cérebros, corpos e sociedades humanas não são alimentados por alguma feitiçaria mágica para sempre fora do alcance da ciência. Eu, pelo menos, espero essa IA em minha vida, para melhor ou para pior. (Provavelmente "pior", veja abaixo.) Agora, esse tipo de AGI é "trabalho" ou "capital"? Bem, não é um humano de carne e osso. Mas é mais como "trabalho" do que "capital" em muitos outros aspectos: • O capital não pode simplesmente fazer as coisas sozinho? AGI pode. • Novas tecnologias demoram muito para se integrar à economia? Bem, pergunte a si mesmo: como os seres humanos imigrantes altamente qualificados, experientes e empreendedores conseguem se integrar à economia imediatamente? Depois de responder a essa pergunta, observe que a AGI também poderá fazer essas coisas. • O capital fica ocioso se não houver humanos dispostos e capazes de usá-lo? Bem, esses humanos imigrantes não ficam parados. E nem a AGI. • O capital não pode defender direitos políticos ou lançar golpes? Poço... De qualquer forma, as pessoas veem filmes de robôs de ficção científica e entendem isso! Então eles fazem cursos de economia, e isso os torna mais burros. (Sim, eu sei, #NotAllEconomists etc.) A segunda peça da antipedagogia econômica é incutir uma suposição padrão de que é possível que um mercado se equilibre. Mas o mercado para AGI não pode: AGI combina uma propriedade de mercados de trabalho com uma propriedade de mercados de produtos, onde essas propriedades são mutuamente exclusivas. Essas propriedades são: • (A) "SEM PEDAÇO DE TRABALHO": Se a população humana aumenta, os salários caem no curtíssimo prazo, porque a curva de demanda por trabalho se inclina para baixo. Mas, a longo prazo, as pessoas encontram novas coisas produtivas para fazer – a curva de demanda se move para a direita. Na verdade, o valor do trabalho aumenta, não desce, com a população! Por exemplo, cidades densas são motores de crescimento! • (B) "CURVAS DE EXPERIÊNCIA": Se a demanda por um produto aumenta, há aumento de preço no curtíssimo prazo, porque a curva de oferta se inclina para cima. Mas, a longo prazo, as pessoas aumentam a manufatura – a curva de oferta se move para a direita. Na verdade, o preço cai, não sobe, com a demanda, graças às economias de escala e P&D. QUIZ: Considerando (A) e (B), qual é o preço de equilíbrio deste pacote AGI (chips, algoritmos, eletricidade, robôs teleoperados, etc.)? … Pegadinha! Não há equilíbrio. Nossos dois princípios, (A) "sem caroço de trabalho" e (B) "curvas de experiência", tornam o equilíbrio impossível: • Se o preço estiver baixo, (A) diz que a curva de demanda corre para a direita – não há mão de obra, portanto, há um lucro enorme a ser obtido por AGIs empreendedores qualificados que encontram novas coisas produtivas para fazer. • Se o preço estiver alto, (B) diz que a curva de oferta corre para a direita - há um lucro enorme a ser obtido com o aumento da fabricação de AGI. • Se o preço estiver no meio, então a curva de demanda e a curva de oferta estão AMBAS correndo para a direita! Isso não é capital nem trabalho como o conhecemos. Em vez de o mercado de AGI equilibrar, ele forma um ciclo de feedback positivo / máquina de movimento perpétuo que explode exponencialmente. Isso soa absurdo? Há um precedente: humanos! O mundo humano, como um todo, já é um ciclo de feedback positivo / máquina de movimento perpétuo desse tipo! Os humanos passaram de alguns milhares de hominídeos para 8 bilhões de pessoas administrando uma economia de US $ 80 trilhões. Como? Não é literalmente uma máquina de movimento perpétuo. Em vez disso, é um motor que se baseia no poço de "oportunidades econômicas ainda não exploradas". Mas lembre-se de "No Lump of Labor": o poço de oportunidades econômicas ainda não exploradas é ~infinitamente profundo. Não ficamos sem empresas possíveis para fundar. Ninguém fez um enxame de Dyson ainda. Há tantos humanos para fundar empresas e explorar novas oportunidades. Mas o ciclo de feedback positivo da AGI não tem esse limite. O tempo de duplicação pode ser realmente curto: Imagine uma fábrica autônoma que pode construir uma fábrica autônoma idêntica, que então constrói mais duas, etc., usando apenas materiais de entrada amplamente disponíveis e luz solar. Os livros didáticos de economia não falam sobre isso. Mas os livros didáticos de biologia sim! Uma cianobactéria é uma dessas fábricas e pode dobrar em um dia (≈ taxa 😛 de crescimento anualizada por cento de googol). De qualquer forma, não sabemos o quão explosivo será o ciclo de feedback positivo da AGI construindo a AGI, mas espero que esteja anos-luz além de qualquer coisa na história econômica. A terceira peça da antipedagogia econômica é a promoção do crescimento do PIB como um proxy para o progresso e a mudança. Pelo contrário, é possível que o mundo se transforme em uma terra selvagem de ficção científica além de todo reconhecimento ou compreensão a cada mês, mês após mês, sem que o "crescimento do PIB" seja realmente tão alto. O PIB é uma métrica engraçada e especialmente ruim para descrever o impacto das revoluções tecnológicas transformadoras. (Por exemplo, se alguma nova tecnologia é barata e, enquanto isso, outros setores da economia permanecem caros devido a restrições regulatórias, então a nova tecnologia pode não impactar muito o PIB, não importa o quanto ela derrube o mundo.) Quero dizer, claro que podemos discutir sobre o PIB, mas não devemos tratá-lo como uma batalha por procuração sobre se a AGI será ou não um grande negócio. Por último e mais importante, A QUARTA PEÇA da antipedagogia Econ é o foco em "negócios mutuamente benéficos" em vez de "matar pessoas e tomar suas coisas". Econ 101 prova que negociar é egoisticamente melhor do que o isolamento. Mas às vezes "matar pessoas e pegar suas coisas" é egoisticamente o melhor de tudo. Quando falamos de AGI, estamos falando de criar uma nova espécie inteligente na Terra, que eventualmente será mais rápida, mais inteligente, mais bem coordenada e mais numerosa do que os humanos. Pessoas normais, pessoas que viram filmes de ficção científica sobre robôs e alienígenas, pessoas que aprenderam a história do colonialismo e da escravidão, farão imediatamente muitas perguntas razoáveis aqui. "Quais serão seus motivos?" "Quem terá o poder duro?" "Se eles estão parecendo amigáveis e cooperativos desde o início, eles podem nos apunhalar pelas costas quando ficarem mais poderosos?" Estas são excelentes perguntas! Definitivamente, deveríamos estar fazendo essas perguntas! (FWIW, esta é minha área de especialização e sou muito pessimista.) … E então essas pessoas normais têm aulas de economia e acabam mais estúpidas. Eles param de fazer essas perguntas. Em vez disso, eles "aprendem" que a AGI é "capital", como uma máquina de moldagem por injeção. As máquinas de moldagem por injeção não acabariam com os humanos e governariam o mundo sozinhas. Então estamos bem. Lol.

.@paulg deve ser fã da Sra. Rachel. Ambos usam o mesmo truque evasivo: tratar os dois nós (ação israelense) → (vítimas civis) como todo o contexto causal sobre o qual opinar. P: Os escudos humanos devem funcionar? R: A vida de todo não-combatente vale o mesmo 🧘

A indústria de modelos de base de IA ultrapassa a receita de US$ 25 bilhões/ano implica que a criação de valor do setor ultrapassou ~US$ 250 bilhões/ano

Por que @VitalikButerin tem um P (Doom) de 12% ...