Fukushiman video (1986) näyttää CNN:n, joka tunnistaa käsin kirjoitetut numerot [3], kolme vuotta ennen LeCunin videota (1989). CNN:n aikajana on otettu [5]: ★ 1969: Kunihiko Fukushima julkaisi rektioituja lineaarisia yksiköitä eli ReLU:ita [1], joita käytetään nykyään laajasti CNN:ssä. ★ 1979: Fukushima julkaisi CNN:n perusarkkitehtuurin, jossa on konvoluutiokerroksia ja alasnäytteenottokerroksia [2]. Hän kutsui sitä neokognitriksi. Sitä koulutettiin valvomattomien oppimissääntöjen mukaan. Laskenta oli sata kertaa kalliimpi kuin vuonna 1989 ja miljardi kertaa kalliimpi kuin nykyään. ★ 1986: Fukushiman video käsin kirjoitettujen numeroiden tunnistamisesta [3]. ★ 1988: Wei Zhang ym. kehittivät ensimmäisen "modernin" kaksiulotteisen CNN:n, joka oli koulutettu takaisinpropagaatiolla, ja sovelsivat sitä myös merkkien tunnistukseen [4]. Laskenta oli noin 10 miljoonaa kertaa kalliimpaa kuin nykyään. ★ 1989–: myöhempi muiden työ [5]. LÄHTEET (lisää kohdassa [5]) [1] K. Fukushima (1969). Visuaalinen ominaisuuksien poimiminen monikerroksisella analogisten kynnyselementtien verkostolla. IEEE Transactions on Systems Science and Cybernetics. 5 (4): 322-333. Tämä työ esitteli suorasuuntaisia lineaarisia yksiköitä eli ReLU:ita, joita nykyään käytetään laajasti CNN:issä ja muissa neuroverkoissa. [2] K. Fukushima (1979). Neuroverkkomalli kuvioiden tunnistamisen mekanismille, johon asennon muutos ei vaikuta – neokognitroni. Käännös IECE, vol. J62-A, nro 10, s. 658-665, 1979. Ensimmäinen syvä konvoluutiohermoverkkoarkkitehtuuri, jossa vuorottelevat konvoluutiokerrokset ja alasnäytteenottokerrokset. Japaniksi. Englanninkielinen versio: 1980. [3] Elokuva, jonka tuottivat K. Fukushima, S. Miyake ja T. Ito (NHK Science and Technical Research Laboratories), vuonna 1986. YouTube: [4] W. Zhang, J. Tanida, K. Itoh, Y. Ichioka. Siirtymäinvariantti kuviontunnistus neuroverkko ja sen optinen arkkitehtuuri. Japanin sovelletun fysiikan seuran vuosikonferenssi, 1988. Ensimmäinen "moderni" takaisinpropagaatioon koulutettu kaksiulotteinen CNN, jota sovellettiin merkkien tunnistukseen. [5] J. Schmidhuber (AI Blog, 2025). Kuka keksi konvoluutioneuroverkot?