Die Ausrichtung einer KI auf menschliche Präferenzen könnte schwierig sein. Aber es gibt mehr als eine KI da draußen, und die Nutzer können wählen, welche sie verwenden möchten. Können wir die Vorteile einer vollständig ausgerichteten KI erhalten, ohne das Ausrichtungsproblem zu lösen? In einem neuen Papier untersuchen wir ein Szenario, in dem die Antwort ja ist.