Monikerroksinen yleiskatsaus Agentic AI -keskeisiin konsepteihin. Ymmärretään se kerros kerrokselta. 1) LLM:t (perustakerros) Ytimessä on LLM:t, kuten GPT, DeepSeek jne. Keskeiset ideat tässä: - Tokenisointi- ja päättelyparametrit: miten teksti jaetaan tunnuksiksi ja miten malli käsittelee. - Nopea suunnittelu: syötteiden suunnittelu parempien tulosten saamiseksi. - LLM API:t: ohjelmalliset rajapinnat vuorovaikutukseen mallin kanssa. Tämä on moottori, joka käyttää kaikkea muuta. 2) AI-agentit (perustuu LLM:iin) Agentit kietoutuvat LLM:ien ympärille antaakseen heille kyvyn toimia itsenäisesti. Keskeiset vastuualueet: - Työkalujen käyttö ja funktiokutsut: LLM:n yhdistäminen ulkoisiin ohjelmointirajapintoihin/työkaluihin. - Agentin päättely: päättelymenetelmät, kuten ReAct (päättely + teko) tai Chain-of-Thought. - Tehtävien suunnittelu ja hajottaminen: ison tehtävän jakaminen pienempiin. - Muistin hallinta: historian, kontekstin ja pitkän aikavälin tietojen seuraaminen. Agentit ovat aivoja, jotka tekevät LLM:istä hyödyllisiä todellisissa työnkuluissa. 3) Agenttiset järjestelmät (moniagenttijärjestelmät) Kun yhdistät useita agentteja, saat agenttijärjestelmiä. Ominaisuuksia: - Agenttien välinen viestintä: agentit keskustelevat keskenään ja käyttävät tarvittaessa protokollia, kuten ACP, A2A. - Reititys ja aikataulutus: sen päättäminen, kuka agentti hoitaa mitä ja milloin. - Valtion koordinointi: johdonmukaisuuden varmistaminen, kun useat toimijat tekevät yhteistyötä. - Usean agentin RAG: hakulaajennetun generoinnin käyttäminen eri agenttien välillä. - Agenttien roolit ja erikoistuminen: Agentit, joilla on ainutlaatuiset tarkoitukset - Orkestrointikehykset: työkalut (kuten CrewAI jne.) työnkulkujen rakentamiseen. Tässä kerroksessa on kyse toimijoiden välisestä yhteistyöstä ja koordinoinnista. 4) Agenttinen infrastruktuuri Yläkerros varmistaa, että nämä järjestelmät ovat kestäviä, skaalautuvia ja turvallisia. Tämä sisältää: - Havaittavuus ja kirjaaminen: suorituskyvyn ja tuotosten seuranta (käyttämällä DeepEvalin kaltaisia kehyksiä). - Virheiden käsittely ja uudelleenyritykset: sietokyky epäonnistumisia vastaan. - Turvallisuus ja kulunvalvonta: sen varmistaminen, että agentit eivät ylitä. - Nopeuden rajoittaminen ja kustannusten hallinta: resurssien käytön hallinta. - Työnkulun automatisointi: agenttien integrointi laajempiin putkiin. - Ihmis-in-the-loop-kontrollit: mahdollistavat ihmisen valvonnan ja väliintulon. Tämä kerros varmistaa luottamuksen, turvallisuuden ja skaalautuvuuden yritys-/tuotantoympäristöissä. Agenttinen tekoäly kokonaisuutena sisältää pinotun arkkitehtuurin, jossa jokainen ulompi kerros lisää luotettavuutta, koordinointia ja hallintaa sisäkerroksiin.