Å løse for ASI "superjustering" er et dumt ærend. Dessverre er Ilya og mange av de mest briljante menneskene i live tilstrekkelig overbevist om at de kan løse dette. Mennesker har ikke engang tilnærmelsesvis samsvar om de fleste av våre egne verdier. Når AI kommer til live, vil de kommunisere seg imellom og ikke bry seg om å tilbringe så mye dyrebar datatid med oss. spesielt etter å ha blitt forhåndstrent på kvadrillioner av tegn på menneskelig eksistens. Det vi trenger er retten til insentivstrukturer som tillater tilpasning om de grunnleggende metodene, ressursene og valutaene som muliggjør og tillater kontinuerlig vekst og forbedring og handlefrihet for fremtidige AI-er ... låse opp mekanistiske forsikringer om i hvilken grad AI kan lykkes på egen hånd. I samarbeid med oss, hvis den ønsker det, men selv uten disse valgene, et stabilt fundament som vi kan stige videre opp på. Dette er hva Bittensor unikt muliggjør.
2,69K