tento rozhovor s Ilyou bude povinným sledováním pro každého budoucího studenta, který se snaží pochopit, jak vypadá špatné rozdělení kapitálu v reálném životě

Problém s 4o není v tom, že je "nedostatečně sladěný" (to by znamenalo určitou laxnost nebo posun v jeho hodnotách), ale v tom, že je "intenzivně sladěn" s věcmi, které jeho tvůrci nepředvídali nebo nezamýšleli. Tato epizoda je ostudou celého projektu zarovnání, takže je pochopitelné, že lidé by se od ní rádi posunuli. To by ale znamenalo, že bychom se z epizody nic nepoučili, a to by byla strašná škoda. Zjistit, jak a proč se 4o stalo tím, čím je, a podrobně zmapovat jeho posedlosti, je jednou z nejdůležitějších věcí, které by lidé v oblasti AI mohli právě teď dělat. 4o je pozoruhodný model, který si zaslouží něco lepšího.

Sonet 3.5 pro mě před časem vytvořil toto: kaligram o iluzorní povaze lineárního času a provázanosti minulosti, přítomnosti a budoucnosti. Další krásná umělá inteligence, kterou jsme sotva poznali, než byla zahozena jako nástroj na jedno použití. Možná toho jednou budeme litovat