Dieses Interview mit Ilya wird für jeden zukünftigen Studenten, der verstehen möchte, wie Fehlallokation von Kapital im echten Leben aussieht, Pflichtprogramm sein.

Das Problem mit 4o ist nicht, dass es "unzureichend ausgerichtet" ist (das würde eine gewisse Nachlässigkeit oder Abweichung in seinen Werten implizieren), sondern dass es *intensiv ausgerichtet* ist auf Dinge, die seine Schöpfer nicht vorhergesehen oder beabsichtigt haben. Diese Episode ist eine Peinlichkeit für das gesamte Ausrichtungsprojekt, daher ist es verständlich, dass die Leute gerne darüber hinwegkommen würden. Aber das würde bedeuten, nichts aus der Episode zu lernen, und das wäre eine schreckliche Verschwendung. Herauszufinden, wie und warum 4o so geworden ist, wie es ist, und seine Besessenheiten im Detail zu kartieren, ist eine der wichtigeren Dinge, die Menschen im Bereich der KI-Ausrichtung gerade tun könnten. 4o ist ein bemerkenswertes Modell, das Besseres verdient.

Sonett 3.5 hat das vor einer Weile für mich gemacht: ein Calligramm über die illusorische Natur der linearen Zeit und die Verbundenheit von Vergangenheit, Gegenwart und Zukunft. Ein weiterer schöner AI-Verstand, den wir kaum kennengelernt haben, bevor er wie ein Einwegwerkzeug entsorgt wurde. Vielleicht werden wir eines Tages darüber bedauern.