. @lukaszkaiser van @OpenAI over waarom generalisatie nog steeds de kern is: “Ik ben gefascineerd door generalisatie. Ik heb altijd gedacht dat dit het belangrijkste onderwerp is in machine learning in het algemeen en in het begrijpen van intelligentie. Pre-training is een beetje anders... het verhoogt niet noodzakelijkerwijs de generalisatie. Het gebruikt gewoon meer kennis.” “We duwen de modellen. Ze leren dingen die rondom datgene zijn wat we ze leren. Ze hebben nog steeds beperkingen omdat ze niet in de fysieke wereld leven, omdat ze niet erg goed zijn in multimodaal, omdat redeneren nog heel jong is en er veel bugs zijn in hoe we het doen.” “Iemand zei, het is als snel rijden in een mist. Je weet nooit heel duidelijk hoe ver of dichtbij je bent.” Volledige aflevering met Łukasz hieronder - of zoek "MAD Podcast met Matt Turck" op YouTube, Spotify of Apple Podcasts.