Bu ayın başlarında, Thrive'da inşa ettiğimiz bazı teknolojiler ve arkasındaki felsefe hakkında bir konuşma yaptım. Bizim için odak noktalarından biri, ekibimizin çalışmasını artıran iç araçlar olmuştur, bunlar arasında sohbette ve arka planda çalışan bir iç araştırma sistemi olan Puck da bulunmaktadır.

Geçen yıl boyunca, veri yığınımız, LLM altyapımız ve kendi iş akışlarımız arasında sıkı bir şekilde entegre olarak, Puck'ın yeteneklerini ekip genelinde anlamlı bir ölçekte bir avuç yüzeye getirmeyi başardık. Ekim ayında 1000'lerce görevde yaklaşık 10 milyar token çıkarımı yaptık.

"Sıradan yazılımlardan" iyi tasarım fikirlerini benimsemeyi ve bunları yapay zeka sistemlerine uygulamayı değerli buldum. Konuşmada, istemleri ve görevleri düzenleme şeklimiz, dahili çerçevemiz ve günlük tutma araçlarımız da dahil olmak üzere Puck'ın mimarisini yönlendiren bu ilkelerden bazılarını ele alacağım.