Вы не можете создать ИИ, ищущий истину, если вы не можете отследить, откуда пришла правда. Смещение модели — это задача обучения, настройки и поиска в реальном времени. Для моделей, агентов и систем RAG провенанс является обязательным. Отсутствие отслеживания источников означает отсутствие доверия. Отсутствие родословной означает отсутствие доверия.
Chaos Labs
Chaos Labs17 июл. 2025 г.
Модели ИИ узнают о том, что повторяется чаще всего, а не о том, что является правдой. @NEARProtocol соучредитель @ilblackdragon и наш генеральный директор @omeragoldberg объясняют, почему происхождение данных, репутация источника и курирование сообщества имеют решающее значение для создания надежного ИИ.
4,82K