Você pode *pensar* que isso prova além de qualquer dúvida a existência de uma alta inteligência geral, mas na verdade apenas mostra que é possível aprender uma combinação específica de habilidades da cultura ao seu redor. Os dados de treinamento corretos permitem que você faça correspondência de padrões com o próximo passo na construção de uma sala limpa.

A IA não te ama, nem te odeia, mas o teu corpo é feito de água que ela pode usar para arrefecer o seu datacenter.

📢 NOVO DEBATE DOOM EXCLUSIVO: Uma entrevista com Rob Miles (@robertskmiles), o educador de segurança em IA mais popular no YouTube! Incrivelmente, Rob começou em 2011, muito antes do ChatGPT trazer atenção mainstream para o campo. Nós falamos sobre: 👉 Por que sua P(Doom) fica entre 10-90%, dependendo de como a humanidade responde ao desafio 👉 Por que mesmo sistemas de IA perfeitamente alinhados podem não passar seus valores para sistemas sucessores - um enorme ponto cego no trabalho de segurança atual 👉 O problema do "humor ausente": por que as pessoas discutem a potencial extinção humana com a urgência emocional de uma conferência acadêmica, em vez de tratar isso como a emergência que realmente é 👉 Seu cenário principal de doom através da autoaperfeiçoamento recursivo, e por que há um enorme espaço acima da inteligência humana 👉 Se os humanos são a "espécie menos inteligente capaz de civilização tecnológica" - e o que isso significa para o que sistemas mais inteligentes poderiam alcançar 👉 Nosso principal desacordo: Rob acha que as pessoas de segurança deveriam trabalhar dentro das empresas de IA para redução de danos, enquanto eu argumento que isso possibilita o "lavagem de tratabilidade" que legitima empreendimentos fundamentalmente imprudentes 👉 Estratégia de comunicação - Rob se pergunta se sua abordagem britânica medida está perdendo algo crucial, e talvez alguém precise estar "correndo e gritando" para transmitir a urgência apropriada Rob passou mais de uma década tentando despertar as pessoas para o desafio mais importante da humanidade. Nossa conversa revela a tensão entre análise razoável e emergência existencial. Altamente recomendado!

Entrevista incrível. Parabéns ao @liron Adorei ouvir o @VitalikButerin abordar tantos aspectos do panorama da IA. Estou 50% da entrevista e estou a adorar até agora!

Prepare-se para @robertskmiles…

Como foi que Idiocracy foi tão preciso?

Há uma coisa engraçada onde a educação em economia paradoxalmente torna as pessoas MAIS BURRAS ao pensar sobre a futura IA. Os livros didáticos de economia ensinam conceitos e estruturas que são ótimos para a maioria das coisas, mas contraproducentes para pensar sobre AGI. Aqui estão 4 exemplos. Longpost: A PRIMEIRA PEÇA da anti-pedagogia econômica está escondida nas palavras "trabalho" e "capital". Essas palavras confundem uma diferença superficial (humano de carne e osso vs não) com um conjunto de suposições e intuições não ditas, que serão todas quebradas pela Inteligência Geral Artificial (AGI). Por "AGI" quero dizer aqui "um conjunto de chips, algoritmos, eletricidade e/ou robôs teleoperados que podem fazer de forma autônoma os tipos de coisas que adultos humanos ambiciosos podem fazer—fundar e administrar novas empresas, P&D, aprender novas habilidades, usar robôs teleoperados arbitrários após muito pouco treinamento, etc." Sim, eu sei, isso ainda não existe! (Apesar do hype em contrário.) Tente pedir a um LLM para escrever autonomamente um plano de negócios, fundar uma empresa e depois administrá-la e fazê-la crescer por anos como CEO. Lol! Ele vai falhar miseravelmente! Mas essa é uma limitação dos LLMs de hoje, não de "toda IA para sempre". IA que poderia realizar essa tarefa, e muito mais além, é obviamente possível—cérebro, corpo e sociedades humanas não são alimentados por alguma mágica que está para sempre além do alcance da ciência. Eu, por um, espero tal IA na minha vida, para melhor ou para pior. (Provavelmente "pior", veja abaixo.) Agora, esse tipo de AGI é "trabalho" ou "capital"? Bem, não é um humano de carne e osso. Mas é mais como "trabalho" do que "capital" em muitos outros aspectos: • O capital não pode simplesmente se levantar e fazer coisas por conta própria? A AGI pode. • Novas tecnologias levam muito tempo para se integrar à economia? Bem, pergunte a si mesmo: como humanos imigrantes altamente qualificados, experientes e empreendedores conseguem se integrar à economia imediatamente? Uma vez que você tenha respondido a essa pergunta, note que a AGI também será capaz de fazer essas coisas. • O capital fica parado se não houver humanos dispostos e capazes de usá-lo? Bem, esses humanos imigrantes não ficam parados. E a AGI também não ficará. • O capital não pode advogar por direitos políticos ou lançar golpes? Bem... De qualquer forma, as pessoas veem filmes de robôs de ficção científica e elas entendem isso! Então, elas fazem cursos de economia e isso as torna mais burras. (Sim, eu sei, #NotAllEconomists etc.) A SEGUNDA PEÇA da anti-pedagogia econômica é instilar uma suposição padrão de que é possível para um mercado se equilibrar. Mas o mercado para AGI não pode: a AGI combina uma propriedade dos mercados de trabalho com uma propriedade dos mercados de produtos, onde essas propriedades são mutuamente exclusivas. Essas propriedades são: • (A) "NÃO HÁ MONTANTE DE TRABALHO": Se a população humana aumenta, os salários caem no muito curto prazo, porque a curva de demanda por trabalho inclina-se para baixo. Mas a longo prazo, as pessoas encontram novas coisas produtivas para fazer— a curva de demanda se desloca para a direita. Se algo, o valor do trabalho aumenta, não diminui, com a população! Por exemplo, cidades densas são motores de crescimento! • (B) "CURVAS DE EXPERIÊNCIA": Se a demanda por um produto aumenta, há um aumento de preço no muito curto prazo, porque a curva de oferta inclina-se para cima. Mas a longo prazo, as pessoas aumentam a fabricação— a curva de oferta se desloca para a direita. Se algo, o preço diminui, não aumenta, com a demanda, graças às economias de escala e P&D. QUIZ: Considerando (A) e (B), qual é o preço de equilíbrio deste conjunto de AGI (chips, algoritmos, eletricidade, robôs teleoperados, etc.)? ...Pergunta capciosa! Não há equilíbrio. Nossos dois princípios, (A) "não há montante de trabalho" e (B) "curvas de experiência", tornam o equilíbrio impossível: • Se o preço é baixo, (A) diz que a curva de demanda avança rapidamente para a direita—não há montante de trabalho, portanto há um lucro massivo a ser feito por AGIs empreendedores qualificados encontrando novas coisas produtivas para fazer. • Se o preço é alto, (B) diz que a curva de oferta avança rapidamente para a direita—há um lucro massivo a ser feito aumentando a fabricação de AGI. • Se o preço está entre os dois, então a curva de demanda e a curva de oferta estão AMBAS avançando rapidamente para a direita! Isso não é nem capital nem trabalho como o conhecemos. Em vez de o mercado de AGI se equilibrar, ele forma um ciclo de feedback positivo / máquina de movimento perpétuo que explode exponencialmente. Isso soa absurdo? Há um precedente: humanos! O mundo humano, como um todo, já é um ciclo de feedback positivo / máquina de movimento perpétuo desse tipo! Os humanos se impulsionaram de alguns milhares de hominídeos para 8 bilhões de pessoas gerando uma economia de $80 trilhões. Como? Não é literalmente uma máquina de movimento perpétuo. Em vez disso, é um motor que se alimenta do poço de "oportunidades econômicas ainda não exploradas". Mas lembre-se "Não Há Montante de Trabalho": o poço de oportunidades econômicas ainda não exploradas é ~infinitamente profundo. Não esgotamos as possíveis empresas a serem fundadas. Ninguém fez um enxame de Dyson ainda. Há apenas um número limitado de humanos para fundar empresas e explorar novas oportunidades. Mas o ciclo de feedback positivo da AGI não tem tal limite. O tempo de duplicação pode ser realmente curto: Imagine uma fábrica autônoma que pode construir uma fábrica autônoma idêntica, que então constrói duas mais, etc., usando apenas materiais de entrada amplamente disponíveis e luz solar. Os livros didáticos de economia não falam sobre isso. Mas os livros didáticos de biologia falam! Uma cianobactéria é tal fábrica e pode se duplicar em um dia (≈ taxa de crescimento anualizada de googol por cento 😛). De qualquer forma, não sabemos quão explosivo será o ciclo de feedback positivo da AGI construindo AGI, mas espero que seja anos-luz além de qualquer coisa na história econômica. A TERCEIRA PEÇA da anti-pedagogia econômica é sua promoção do crescimento do PIB como um proxy para progresso e mudança. Pelo contrário, é possível que o mundo se transforme em uma terra selvagem de ficção científica além de todo reconhecimento ou compreensão a cada mês, mês após mês, sem que o "crescimento do PIB" realmente seja tão alto. O PIB é uma métrica engraçada e especialmente ruim para descrever o impacto de revoluções tecnológicas transformadoras. (Por exemplo, se alguma nova tecnologia é barata, e enquanto isso outros setores da economia permanecem caros devido a restrições regulatórias, então a nova tecnologia pode não impactar muito o PIB, não importa o quanto ela revolucione o mundo.) Quero dizer, claro que podemos discutir sobre o PIB, mas não devemos tratá-lo como uma batalha proxy sobre se a AGI será ou não um grande problema. Por último e mais importante, A QUARTA PEÇA da anti-pedagogia econômica é o foco em "trocas mutuamente benéficas" em vez de "matar pessoas e levar suas coisas". A economia 101 prova que negociar é egoisticamente melhor do que o isolamento. Mas às vezes "matar pessoas e levar suas coisas" é egoisticamente o melhor de todos. Quando falamos sobre AGI, estamos falando sobre criar uma nova espécie inteligente na Terra, uma que será eventualmente mais rápida, mais inteligente, melhor coordenada e mais numerosa do que os humanos. Pessoas normais, pessoas que viram filmes de ficção científica sobre robôs e alienígenas, pessoas que aprenderam a história do colonialismo e da escravidão, imediatamente farão muitas perguntas razoáveis aqui. "Quais serão seus motivos?" "Quem terá o poder duro?" "Se eles parecerem amigáveis e cooperativos no início, poderão nos apunhalar pelas costas quando se tornarem mais poderosos?" Essas são perguntas excelentes! Definitivamente devemos estar fazendo essas perguntas! (Para que conste, esta é minha área de especialização e sou muito pessimista.) ...E então essas pessoas normais fazem aulas de economia e acabam mais burras. Elas param de fazer essas perguntas. Em vez disso, elas "aprendem" que a AGI é "capital", meio que como uma máquina de moldagem por injeção. Máquinas de moldagem por injeção não iriam exterminar humanos e dominar o mundo sozinhas. Então estamos bem. Lol.

.@paulg deve ser fã da Sra. Rachel. Ambos usam o mesmo truque evasivo: tratar os dois nós (ação israelense)→(casualidade civil) como todo o contexto causal sobre o qual opinar. Q: Devem os escudos humanos ser permitidos para trabalhar? A: A vida de cada não-combatente vale o mesmo 🧘

A indústria de modelos de fundação de IA com receita superior a $25B/ano implica que a criação de valor do setor ultrapassou ~$250B/ano.

Por que @VitalikButerin tem um P(Doom) de 12%...