"Er zijn meer bedrijven dan ideeën, en dat is behoorlijk veel. De rekencapaciteit is groot genoeg zodat het niet voor de hand ligt dat je zoveel meer rekencapaciteit nodig hebt om een idee te bewijzen. AlexNet werd gebouwd op 2 GPU's. De transformer werd gebouwd op 8 tot 64 GPU's. Wat zou dat zijn, 2 GPU's van vandaag? Je zou kunnen stellen dat o1 redenering niet het meest rekencapaciteit zware ding ter wereld was. Voor onderzoek heb je zeker een bepaalde hoeveelheid rekencapaciteit nodig, maar het is verre van voor de hand liggend dat je de absoluut grootste hoeveelheid rekencapaciteit nodig hebt. Als iedereen binnen hetzelfde paradigma zit, dan wordt rekencapaciteit een van de grote differentiators." @ilyasut