Trendaavat aiheet
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.

nader dabit
🇵🇸 // devrel + DX @eigencloud @eigen_da @eigen_labs // AI & onchain // edellinen @aave @awscloud @celestia // 🫂 @developer_dao
Toinen erinomainen oivallus @karpathy:lta, joka korostaa tekoälyn todennettavuuden merkitystä
"Mielestäni vahvin vertaus on tekoälyn uusi laskentaparadigma (Software 2.0)
... Software 1.0 automatisoi helposti sen, mitä voit määrittää. Software 2.0 automatisoi helposti sen, mitä voit varmistaa.
... Tässä uudessa ohjelmointiparadigmassa uusi ennustavin ominaisuus on todennettavuus.
Jos tehtävä/työ on todennettavissa, se on optimoitavissa suoraan tai vahvistusoppimisen avulla, ja neuroverkko voidaan kouluttaa toimimaan erittäin hyvin."
Todennettavuus tässä kehyksessä liittyy enemmän koulutus- ja optimointikontekstiin – arviointiin siitä, onko tekoälyn tulos oikea + mahdollistaa parempi automaatio sen ansiosta.
Todennettavuus tekoälyssä + kryptossa keskittyy enemmän toteutuskontekstiin.
- Voimmeko varmistaa, että syöte, malli ja tulos ovat oikein eivätkä ole manipuloitu (todennettavissa oleva päättely)?
- Voiko kukaan maailmassa suorittaa tämän päättelyn uudelleen ja saada saman tuloksen tänään, huomenna ja vuoden kuluttua (deterministinen päättely)
- Voimmeko varmistaa tarkan koodin, joka ajaa tätä agenttia (varmennettava ajonaika)
- Voimmeko varmistaa, että vain agentilla on pääsy lompakkoon ja mahdollisuus tehdä asioita siitä (todennettavissa ajonaikaisesti)?
- Voimmeko varmistaa tämän agentin (ERC-8004) maineen?

Andrej Karpathy17.11. klo 01.56
Mielenkiintoisen viimeaikaisen keskustelun jakaminen tekoälyn vaikutuksesta talouteen.
Tekoälyä on verrattu useisiin historiallisiin ennakkotapauksiin: sähkö, teollinen vallankumous jne., mielestäni vahvin analogia on tekoäly uutena tietojenkäsittelyn paradigmana (Software 2.0), koska molemmissa on pohjimmiltaan kyse digitaalisen tietojenkäsittelyn automatisoinnista.
Jos ennustaisit tietojenkäsittelyn vaikutusta työmarkkinoihin ~1980-luvulla, tehtävän/työn ennustavin piirre on se, missä määrin sen algoritmi on kiinteä, eli muunnatko vain mekaanisesti tietoa helposti määriteltävien sääntöjen mukaan (esim. kirjoittaminen, kirjanpito, ihmislaskimet jne.)? Tuolloin tämä oli se ohjelmaluokka, jonka tuon aikakauden laskentakyky salli meidän kirjoittaa (käsin, manuaalisesti).
Tekoälyn avulla pystymme nyt kirjoittamaan uusia ohjelmia, joita emme koskaan aiemmin voineet toivoa kirjoittavamme käsin. Teemme sen määrittämällä tavoitteita (esim. luokittelutarkkuus, palkitsemisfunktiot) ja etsimme ohjelma-avaruudesta gradienttilaskun avulla löytääksemme neuroverkkoja, jotka toimivat hyvin kyseistä tavoitetta vastaan. Tämä on Software 2.0 -blogikirjoitukseni jonkin aikaa sitten. Tässä uudessa ohjelmointiparadigmassa uusi ennakoivin ominaisuus on todennettavuus. Jos tehtävä/työ on todennettavissa, se on optimoitavissa suoraan tai vahvistusoppimisen avulla, ja neuroverkko voidaan kouluttaa toimimaan erittäin hyvin. Kyse on siitä, missä määrin tekoäly voi "harjoitella" jotain. Ympäristön on oltava nollattavissa (voit aloittaa uuden yrityksen), tehokas (paljon yrityksiä voidaan tehdä) ja palkittava (on olemassa jokin automaattinen prosessi, joka palkitsee minkä tahansa tietyn yrityksen).
Mitä enemmän tehtävä/työ on todennettavissa, sitä helpompi se on automatisoitavaa uudessa ohjelmointiparadigmassa. Jos se ei ole todennettavissa, sen on putosin yleistämisen hermoverkon magiasta, sormet ristissä, tai heikommilla keinoilla, kuten jäljittelyllä. Tämä on se, mikä ajaa LLM-tutkinnon edistymisen "rosoista" rajaa. Tehtävät, jotka ovat todennettavissa, etenevät nopeasti, mukaan lukien mahdollisesti huippuasiantuntijoiden kykyjen ulkopuolella (esim. matematiikka, koodi, videoiden katseluun käytetty aika, kaikki mikä näyttää palapeleiltä, joissa on oikeat vastaukset), kun taas monet muut ovat jäljessä verrattuna (luovat, strategiset, tehtävät, joissa yhdistyvät reaalimaailman tieto, tila, konteksti ja terve järki).
Ohjelmisto 1.0 automatisoi helposti määritettävissä olevat tiedot.
Ohjelmisto 2.0 automatisoi helposti sen, mitä voit tarkistaa.
8,76K
Johtavat
Rankkaus
Suosikit



