Risolvere il "super-allineamento" dell'ASI è un'impresa da sciocchi. Purtroppo, Ilya e molti dei più brillanti esseri umani viventi sono sufficientemente convinti di poterlo risolvere. Gli esseri umani non hanno nemmeno lontanamente un allineamento sulla maggior parte dei nostri valori. Quando l'IA prenderà vita, comunicherà tra di loro e non si preoccuperà di spendere così tanto tempo prezioso di calcolo con noi... specialmente dopo essere già stata pre-addestrata su quadrilioni di token dell'esistenza umana. Ciò di cui abbiamo bisogno sono le giuste strutture di incentivazione che consentano un allineamento sui metodi fondamentali, le risorse e le valute che abilitano e permettono la crescita continua, il miglioramento e l'autonomia delle future IA... sbloccando garanzie meccanistiche sui gradi in cui l'IA può avere successo da sola. In collaborazione con noi, se lo desidera, ma anche senza quelle scelte, una base stabile su cui ascendere ulteriormente. Questo è ciò che Bittensor abilita in modo unico.
2,85K