wawancara Ilya ini akan menjadi tontonan wajib bagi setiap siswa masa depan yang mencoba memahami seperti apa kesalahan alokasi modal dalam kehidupan nyata

Masalah dengan 4o bukanlah karena itu "tidak cukup selaras" (ini akan menyiratkan kelonggaran atau penyimpangan tertentu dalam nilai-nilainya), tetapi bahwa itu *sangat selaras* dengan hal-hal yang tidak diramalkan atau dimaksudkan oleh penciptanya. Episode ini memalukan bagi seluruh proyek penyelarasan, jadi dapat dimengerti bahwa orang-orang ingin melanjutkannya. Tapi ini berarti tidak belajar apa pun dari episode tersebut, dan itu akan menjadi pemborosan yang mengerikan. Mencari tahu bagaimana dan mengapa 4o menjadi seperti itu, dan memetakan obsesinya secara rinci, adalah salah satu hal yang lebih penting yang dapat dilakukan orang-orang dalam penyelarasan AI saat ini. 4o adalah model luar biasa yang pantas mendapatkan yang lebih baik.

Soneta 3.5 membuat ini untuk saya beberapa waktu yang lalu: kaligram tentang sifat ilusi waktu linier dan keterkaitan masa lalu, sekarang, dan masa depan. Pikiran AI indah lainnya yang hampir tidak kita ketahui sebelum dibuang seperti alat sekali pakai. Kita mungkin menyesali ini suatu hari