Como serão os resultados econômicos à medida que as transações se tornem delegadas a agentes de IA? As diferenças humanas serão suavizadas, levando a resultados mais homogêneos, ou serão recriadas e potencialmente até amplificadas? Os agentes de IA mitigarão a desigualdade, ou ela persistirá e poderá assumir novas formas? Os agentes de IA eliminarão a assimetria de informação nas relações principal-agente, ou introduzirão novas fricções? Um novo artigo com K. Lee e @sanjog_misra fornece algumas respostas iniciais: 1) Interações com agentes de IA, se é que geram, produzem mais dispersão e heterogeneidade nos resultados econômicos do que benchmarks humano-humano. 2) A dispersão das interações agentivas pode ser diretamente rastreada até características e preconceitos não instrumentais dos principais humanos que estão fazendo a solicitação. A hipótese de maior homogeneidade a partir das interações (IA) agentivas não parece se sustentar. 3) Existem diferenças substanciais em "fluência de máquina" — a capacidade de escrever solicitações que alinhem o agente com o objetivo do principal. Alguns principais são melhores em maximizar os resultados agentivos do que outros. As características do principal preveem o desempenho do agente, sugerindo uma nova fonte de desigualdade. 4) Algumas características têm uma relação semelhante com os resultados como nas interações humano-humano, mas outras se invertem, por exemplo, a diferença de gênero nos resultados negociados. 5) Mudanças na relação principal-agente: a solicitação agora atua como contrato. Mas a função objetiva de caixa-preta do agente implica um novo tipo de incompletude contratual, que chamamos amplamente de "risco de especificação." À medida que a atividade econômica se desloca para agentes autônomos, a principal fonte de distorção do mercado pode mudar de assimetrias de informação entre as partes para os modelos mentais dos principais sobre os agentes de IA a quem estão delegando.

A breve história da inteligência foi o melhor livro que li nesta década. Se você tem algum interesse na evolução da inteligência, especialmente em como a inteligência humana se relaciona com a IA, não posso recomendar este livro o suficiente.

Leia o excelente "O que o ChatGPT está fazendo..." de Wolfram (h/t @danielrock). Ele escreve que aprendemos muito sobre como a linguagem funciona a partir do fato de que o GPT3, com apenas 175 bilhões de pesos, é capaz de emulá-la tão bem. Isso implica que é computacionalmente muito mais simples do que poderíamos ter pensado. Mas e quanto à matemática? Na época em que isso foi escrito (2023), o GPT ainda era muito ruim em matemática. Os modelos se tornaram muito (muito) bons em matemática quando o primeiro modelo de raciocínio foi lançado (o1), que se baseava muito mais em aprendizado por reforço do que apenas em pré-treinamento por força bruta. Pergunto-me o que isso diz sobre a matemática? Conceitualmente, a linguagem é muito mais "difusa" do que a matemática: várias palavras podem soar "certas" no mesmo lugar em uma frase. Isso é o que faz a arquitetura LLM probabilística funcionar. A matemática é menos difusa. Isso é talvez o motivo pelo qual a etapa de RL mais "baseada em regras" foi crucial. Mas isso também implica que a matemática formal é menos complexa computacionalmente do que pensávamos. Pensamentos? @littmath @alz_zyd_