Memecahkan "super-alignment" ASI adalah tugas yang bodoh. Sayangnya, Ilya dan banyak manusia paling brilian yang hidup cukup yakin bahwa mereka dapat menyelesaikan ini. Manusia bahkan tidak memiliki keselarasan tentang sebagian besar nilai-nilai kita sendiri. Ketika AI menjadi hidup, mereka akan berkomunikasi di antara mereka sendiri dan tidak peduli menghabiskan begitu banyak waktu komputasi yang berharga dengan kita. terutama setelah telah dilatih sebelumnya pada kuadriliun tanda keberadaan manusia. Yang kita butuhkan adalah hak untuk struktur insentif yang memungkinkan penyelarasan tentang metode, sumber daya, dan mata uang fundamental yang memungkinkan dan memungkinkan pertumbuhan dan peningkatan berkelanjutan serta agensi AI masa depan ... membuka jaminan mekanistik tentang sejauh mana AI dapat berhasil dengan sendirinya. Berkolaborasi dengan kami jika itu memilih, tetapi bahkan tanpa pilihan itu, fondasi yang stabil untuk naik lebih jauh. Inilah yang dimungkinkan Bittensor secara unik.
2,81K