> бути відкритимAI, приблизно у 2017 році > проводимо багато цікавих досліджень > всі з відкритим вихідним кодом > нікому це не цікаво > винайти chatGPT у 2022 році > занадто зайняті, щоб проводити відкриті дослідження > всі зляться > де відкриті дослідження > більше схожий на закритийAI > минає три роки. Зараз 2025 > нарешті знову випустити модель з відкритим вихідним кодом > 120 B параметрів, 5B активні (найрідкісніший MOE, який будь-хто коли-небудь бачив) > 4-бітний квантований (більшість людей навіть не можуть тренуватися в 8 біт) > тип даних MXFP4 (однорічної давності, реально працює належним чином лише на B200s) > це GPT-OSS > знову повністю відкриту модель > він занадто просунутий для нас > ми не можемо його використовувати > цвіркунів
163,05K