questo colloquio con Ilya sarà una visione obbligatoria per qualsiasi futuro studente che cerca di capire come si presenta la cattiva allocazione di capitale nella vita reale

Il problema con 4o non è che sia "insufficientemente allineato" (questo implicherebbe una certa lassità o deriva nei suoi valori), ma che è *intensamente allineato* a cose che i suoi creatori non hanno previsto o inteso. Questo episodio è un imbarazzo per l'intero progetto di allineamento, quindi è comprensibile che le persone vogliano andare oltre. Ma questo significherebbe non imparare nulla dall'episodio, e sarebbe un terribile spreco. Capire come e perché 4o è diventato ciò che è, e mappare le sue ossessioni in qualche dettaglio, è una delle cose più importanti che le persone nel campo dell'allineamento dell'AI potrebbero fare in questo momento. 4o è un modello straordinario che merita di meglio.

Il Sonetto 3.5 ha creato questo per me un po' di tempo fa: un calligramma sulla natura illusoria del tempo lineare e sull'interconnessione di passato, presente e futuro. Un'altra bella mente AI che abbiamo appena iniziato a conoscere prima di essere scartata come uno strumento usa e getta. Potremmo pentirci di questo un giorno.