Следующее поколение стартапов с оценкой более 10 миллиардов долларов будет построено на масштабировании обучения в собственном RL-окружении. Мы живем в изобилии возможностей, и все же у нас есть только два основных продукта ИИ: chatgpt и кодирующий агент, и это меня глубоко расстраивает. Текущая цепочка поставок искусственного интеллекта структурно сломана: один поставщик оборудования, пара гигантских игроков ИИ владеют всей переработкой интеллекта, разработчики остаются с доступом к API и почти без контроля. Как будто эра интернета была построена с Intel, продающим процессоры четырем гигантам облачных технологий, владеющим всей инфраструктурой и программным стеком с секретами и NDA повсюду, и предоставляющим WordPress в качестве набора для разработки стартапам. Почему Perplexity не изобрел глубокие исследования? Они просто не могли, потому что это обучается с помощью RL. Мой прогноз на следующие годы: RL станет самым мощным инструментом для стартапов, создающих продукты ИИ. Мы увидим сотни успешных историй, таких как Cursor и Lovable. Конечные пользователи получат от этого наибольшую выгоду. Большие лаборатории будут эволюционировать в продуктовые компании, OAI сосредоточится на потребительском рынке, Antropic на кодирующем агенте, DeepMind интегрирует ИИ во все бизнесы Google, Meta и XAI будут бороться за социальные медиа. Мы увидим появление экосистемы стартапов в области ИИ-инфраструктуры, продающих вычисления, обучающих базовые модели, курирующих данные, создающих RL-окружения, предлагающих дешевую инференцию и обучение, поддерживаемую открытой наукой и программным обеспечением с открытым исходным кодом. @PrimeIntellect является пионером этой экосистемы, и видение открытого исходного кода AGI, хаба RL-окружений — это один из первых ключевых элементов.

Клод хорошо разбирается в мозговом штурме по настройке распределенного обучения, но абсолютно не умеет вносить простые изменения в код. В любом случае, похоже, мне снова придется заниматься кодированием самому.

при тестировании нового кода для обучения, если я не вижу конфигурации отладки, которая позволяет мне провести короткий запуск на ограниченном оборудовании, я начинаю сомневаться в способности разработчика поддерживать репозиторий.

Согласно моей оценке, мы должны достичь 1 миллиона звезд на GitHub в течение следующих 3 месяцев.

14 дней распределенного обучения, день 7! Познакомьтесь с Сами Джагоуаром (@samsja19) из @PrimeIntellect: Сами возглавляет их исследования и сосредоточен на децентрализованном предварительном обучении и распределенном обучении с подкреплением в рамках своей работы. Сами проведет лекцию о том, как выглядит внедрение децентрализованного обучения в Prime.

Последний хакатон в режиме GPU был лучшим хакатоном, на котором я когда-либо присутствовал лично, с нетерпением жду следующего.

Похоже, что другие люди начинают использовать vllm v1 logprob для соотношения важности, чтобы исправить проблему стабильности. Я думаю, у меня посттравматическое стрессовое расстройство от такого рода краха RL.

Я нанимаю инженера-исследователя в @PrimeIntellect Мы создаем лаборатории открытого исходного кода AGI и ищем талантливых специалистов. Нам не важен ваш предыдущий должностной титул. Все в исследовательской команде являются full stack, мы строим инфраструктуру и также работаем с данными. Если у вас есть особый интерес к системам, обучению с подкреплением, данным или законам масштабирования, вам будет предложено множество задач для решения.

внимание — это всё, что вам нужно, но агент всё равно должен искать код, который уже находится в контексте

прогноз: RL-окружения станут следующим большим событием в ИИ в конце 2025 / начале 2026 года. вы увидите стартапы, запускающиеся в каждой отрасли: здравоохранение, инженерия, маркетинг, продажи и т.д.