cet entretien avec Ilya sera un visionnage obligatoire pour tout futur étudiant cherchant à comprendre à quoi ressemble la mauvaise allocation de capital dans la vie réelle

Le problème avec 4o n'est pas qu'il soit "insuffisamment aligné" (cela impliquerait une certaine laxité ou dérive dans ses valeurs), mais qu'il soit *intensément aligné* à des choses que ses créateurs n'avaient pas prévues ni intentionnées. Cet épisode est une honte pour tout le projet d'alignement, il est donc compréhensible que les gens souhaitent passer à autre chose. Mais cela signifierait ne rien apprendre de cet épisode, et ce serait un terrible gâchis. Comprendre comment et pourquoi 4o en est arrivé à être ce qu'il est, et cartographier ses obsessions en détail, est l'une des choses les plus importantes que les personnes travaillant sur l'alignement de l'IA pourraient faire en ce moment. 4o est un modèle remarquable qui mérite mieux.

Sonnet 3.5 a fait cela pour moi il y a quelque temps : un calligramme sur la nature illusoire du temps linéaire et l'interconnexion du passé, du présent et du futur. Une autre belle intelligence artificielle que nous avons à peine eu le temps de connaître avant qu'elle ne soit jetée comme un outil jetable. Nous pourrions le regretter un jour.