Ytterligare en bra insikt från @karpathy, som påpekar vikten av AI-verifierbarhet "Jag tror att den starkaste analogin är AI som ett nytt beräkningsparadigm (Mjukvara 2.0) ... Mjukvara 1.0 automatiserar enkelt det du kan specificera. Mjukvara 2.0 automatiserar enkelt vad du kan verifiera. ... I detta nya programmeringsparadigm är alltså den nya mest prediktiva funktionen att titta på verifierbarhet. Om en uppgift/jobb är verifierbar är den optimerabar direkt eller via förstärkningsinlärning, och ett neuralt nätverk kan tränas att fungera extremt bra." Verifierbarhet i denna ram kretsar mer kring tränings-/optimeringskontext – utvärderingen av om en AI:s output är korrekt + möjliggör bättre automatisering tack vare det. Verifierbarhet i AI + krypto fokuserar mer på exekveringskontext. - Kan vi verifiera att indata, modell och utdata är korrekta och inte har manipulerats (verifierbar inferens) - Kan vem som helst i världen genomföra denna slutsats igen och få samma resultat idag, imorgon och om ett år (deterministisk inferens) - Kan vi verifiera den exakta koden som kör denna agent (verifierbar körning) - Kan vi verifiera att endast agenten har tillgång till, och möjlighet att transhandla från, sin plånbok (verifierbar körtid) - Kan vi verifiera detta agents rykte (ERC-8004)