Začátkem tohoto měsíce jsem měl přednášku o některých technologiích, které v Thrive budujeme, a o filozofii, která za nimi stojí. Jedním z našich cílů jsou interní nástroje, které rozšiřují práci našeho týmu, včetně Pucku, interního výzkumného systému, který běží na chatu a v prostředí na pozadí.

Během posledního roku jsme díky úzké integraci napříč naším datovým stackem, LLM infra a našimi vlastními pracovními postupy dokázali přenést Puckovy schopnosti na několik povrchů napříč týmem ve smysluplném měřítku. V říjnu jsme odvodili kolem 10B tokenů přes 1000 úkolů.

Zjistil jsem, že je užitečné převzít dobré nápady na design z "běžného softwaru" a aplikovat je na systémy umělé inteligence. V přednášce se budu zabývat některými z těchto principů, které řídí architekturu Pucku, včetně způsobu, jakým organizujeme výzvy a úkoly, a našeho interního rámce a nástrojů pro protokolování.