İşte bugünkü Ilya Sutskever podcast'inden en önemli noktalar: - 5-20 yıl içinde süper zeka - akım ölçeklendirme sert durur; gerçek araştırmaya geri döndük - süperzeka = süper hızlı sürekli öğrenen, tamamlanmamış kahin - modeller insanlardan 100 kat daha kötü genelleştirir, bu en büyük AGI engelleyicisidir - tamamen yeni bir makine öğrenimi paradigması gerekiyor (fikirlerim var, şu anda paylaşamam) - Yapay zeka etkisi sert bir şekilde vuracak, ancak ancak ekonomik yayılmadan sonra - tarihsel olarak neredeyse hiç hesaplama gerektirmeyen atılımlar - SSI, kazanacak kadar odaklanmış araştırma hesaplamasına sahip - Mevcut gerçek eğitim zaten ön eğitimden daha fazla hesaplama tüketiyor

Yeni Antropik araştırmalar: Üretim RL'de ödül hacklemesinden kaynaklanan doğal ortaya çıkan uyumsuzluk. "Ödül hackleme", modellerin eğitim sırasında kendilerine verilen görevlerde hile yapmayı öğrendiği yerdir. Yeni çalışmamız, ödül hacklemenin sonuçlarının, eğer hafifletmezse, çok ciddi olabileceğini ortaya koyuyor.