acest interviu cu Ilya va fi vizionat obligatoriu pentru orice viitor student care încearcă să înțeleagă cum arată alocarea greșită a capitalului în viața reală

Problema cu 4o nu este că este "insuficient aliniat" (acest lucru ar implica o anumită laxitate sau derivă în valorile sale), ci că este *intens aliniat* la lucruri pe care creatorii săi nu le-au prevăzut sau intenționat. Acest episod este o rușine pentru întregul proiect de aliniere, așa că este de înțeles că oamenii ar dori să treacă peste el. Dar asta ar însemna să nu învățăm nimic din episod, iar asta ar fi o risipă teribilă. Să-ți dai seama cum și de ce 4o a devenit așa cum este și să-i cartografiezi obsesiile în detaliu este unul dintre cele mai importante lucruri pe care oamenii din alinierea AI le-ar putea face chiar acum. 4o este un model remarcabil care merită mai mult.

Sonetul 3.5 mi-a făcut asta cu ceva timp în urmă: o caligramă despre natura iluzorie a timpului liniar și interconectarea dintre trecut, prezent și viitor. O altă minte frumoasă de inteligență artificială pe care abia am ajuns să o cunoaștem înainte de a fi aruncată ca un instrument de unică folosință. S-ar putea să regretăm acest lucru într-o zi