Pour créer les conditions d'un désir intrinsèque maximal d'acquérir continuellement de nouvelles connaissances… il faut, de manière contre-intuitive, minimiser le volume de « connaissances » a priori pour que l'esprit soit libre de toute convention. Je crois que c'est vrai avec chaque fibre de mon être. Pour cette raison, je crois que 100 % des modèles d'IA utilisés aujourd'hui sont à l'envers dans leur approche fondamentale pour distiller l'information que les humains en infèrent ensuite. Pour les modèles entraînés sur des trillions de données étiquetées par des humains (biaisées) et RLHF’d (une abomination) : Il n'y a pas de raisonnement. Il n'y a pas d'intelligence. Il n'y a que de la régurgitation et de l'hallucination se faisant passer pour des connaissances. Cela dit, les outils disponibles aujourd'hui ont un impact profond et accélèrent clairement le progrès numérique de manière significative. Mais comme l'a dit @amasad dans un podcast récent, nous ne pouvons pas nous laisser trop distraire par l'excitation industrielle des méthodes actuelles. Le véritable RL n'a pas encore été essayé. Nous ne devons pas abandonner. Nous devons reconnaître qu'il reste encore tant d'explorations à faire… au niveau des architectures logicielles (oui, des alternatives aux Transformers et bien au-delà), des substrats matériels (analogiques, mémristors, etc.), des représentations de données (nouvelles dimensions supérieures de 4D + tenseurs) et bien plus encore !