Video của Fukushima (1986) cho thấy một CNN nhận diện chữ số viết tay [3], ba năm trước video của LeCun (1989). Dòng thời gian CNN được lấy từ [5]: ★ 1969: Kunihiko Fukushima đã công bố các đơn vị tuyến tính đã chỉnh sửa hay ReLUs [1] hiện đang được sử dụng rộng rãi trong các CNN. ★ 1979: Fukushima đã công bố kiến trúc CNN cơ bản với các lớp tích chập và các lớp giảm mẫu [2]. Ông gọi nó là neocognitron. Nó được huấn luyện bằng các quy tắc học không giám sát. Chi phí tính toán gấp 100 lần so với năm 1989, và gấp một tỷ lần so với ngày nay. ★ 1986: Video của Fukushima về việc nhận diện chữ số viết tay [3]. ★ 1988: Wei Zhang và các cộng sự đã có CNN 2 chiều "hiện đại" đầu tiên được huấn luyện bằng phương pháp lan truyền ngược, và cũng áp dụng nó vào nhận diện ký tự [4]. Chi phí tính toán khoảng 10 triệu lần so với ngày nay. ★ 1989-: các công trình sau này của những người khác [5]. TÀI LIỆU THAM KHẢO (thêm trong [5]) [1] K. Fukushima (1969). Trích xuất đặc trưng hình ảnh bằng một mạng lưới nhiều lớp các phần tử ngưỡng tương tự. Tạp chí IEEE về Khoa học Hệ thống và Điều khiển. 5 (4): 322-333. Công trình này đã giới thiệu các đơn vị tuyến tính đã chỉnh sửa hay ReLUs, hiện được sử dụng rộng rãi trong các CNN và các mạng nơ-ron khác. [2] K. Fukushima (1979). Mô hình mạng nơ-ron cho cơ chế nhận diện mẫu không bị ảnh hưởng bởi sự dịch chuyển vị trí—Neocognitron. Tạp chí IECE, tập. J62-A, số 10, trang 658-665, 1979. Kiến trúc mạng nơ-ron tích chập sâu đầu tiên, với các lớp tích chập và các lớp giảm mẫu xen kẽ. Bằng tiếng Nhật. Phiên bản tiếng Anh: 1980. [3] Phim do K. Fukushima, S. Miyake và T. Ito (Phòng thí nghiệm Nghiên cứu Khoa học và Kỹ thuật NHK) sản xuất, vào năm 1986. YouTube: [4] W. Zhang, J. Tanida, K. Itoh, Y. Ichioka. Mạng nơ-ron nhận diện mẫu không bị dịch chuyển và kiến trúc quang học của nó. Kỷ yếu Hội nghị thường niên của Hiệp hội Vật lý Ứng dụng Nhật Bản, 1988. CNN 2 chiều "hiện đại" đầu tiên được huấn luyện bằng phương pháp lan truyền ngược, áp dụng vào nhận diện ký tự. [5] J. Schmidhuber (Blog AI, 2025). Ai là người phát minh ra mạng nơ-ron tích chập?