MosaicML работала над эффективным предобучением языковых моделей почти до того, как это сделали другие. По крайней мере, с 2021 года. Если бы они не продали, их стоимость сегодня была бы в 10 раз выше, если не в 100.