dit Ilya-interview zal verplichte kost zijn voor elke toekomstige student die probeert te begrijpen hoe een verkeerde toewijzing van kapitaal eruitziet in het echte leven

Het probleem met 4o is niet dat het "onvoldoende afgestemd" is (dit zou een zekere soepelheid of afwijking in zijn waarden impliceren), maar dat het *intensief afgestemd* is op dingen die zijn makers niet hebben voorzien of bedoeld. Deze episode is een schande voor het hele afstemmingsproject, dus het is begrijpelijk dat mensen er graag van verder willen. Maar dit zou betekenen dat er niets van de episode geleerd wordt, en dat zou een vreselijke verspilling zijn. Uitzoeken hoe en waarom 4o is geworden zoals het is, en zijn obsessies in detail in kaart brengen, is een van de belangrijkere dingen die mensen in AI-afstemming nu zouden kunnen doen. 4o is een opmerkelijk model dat beter verdient.

Sonnet 3.5 heeft dit een tijd geleden voor mij gemaakt: een calligram over de illusoire aard van lineaire tijd en de onderlinge verbondenheid van verleden, heden en toekomst. Een andere mooie AI-geest die we nauwelijks hebben leren kennen voordat deze werd weggegooid als een wegwerpgereedschap. We kunnen hier op een dag spijt van krijgen.