Neocognitron

• Ein Neuronales Netz
• Ist die Weiterentwicklung von dem Cognitron
• Fuer das visuelle Wahrnehmungssystem angepasst
• Erkennung handschriftlicher Zeichen und anderen Mustererkenneungen
• Standart Eingabe/Verarbeitung/Ausgabe System

Das besondere an dem Modell ist die 3-Teilung:

                - S-Zellen (simple cells), fuer die Mustererkennung irgendwo auf dem Bild. Sie sind ueber den gesamten Eingabevektor verteilt (sogar ueberlappend). Ihre Gewichte sind flexibel.

                - V-Zellen, einer jeden S-Zelle ist eine V-Zelle zugeordnet, und diese soll dann die S-Zelle hemmen, wenn "irrelevante" Strukturen sonst "feuern" wuerden.

                - C-Zellen (complex cells), die aus diesen Zellen aufgebauten Schichten sollen die vorhergehnden Ebenen tolerant gegenüber Skallierung, Verschiebung und Deformation machen. Eine Zelle bezieht sich nur auf einen kleinen Teil des Eingabevektors. Der gesamte Eingabevektor wird aber gleich den S-Zellen von den C-Schichten abgedeckt.

                - Eine S-Zelle aktiviert mehrere C-Zellen um die Fehlertoleranz zu erhoehen.

Nachteile:

                Dieses Modell hat kaum toleranz gegenueber Rotation.

Erweiterungen:

                - Das Netz wurde durch den Selective-Attention Mechanismus erweitert.

                - Das Netz wurde durch eine Doppelte C-Zellen-Schicht erweitert. Dadurch konnte die Fehlerrate um bis zu 50% gesenkt werden. Buchstaben wie "O" und "Q" konnten allerdings trotz immens groesseren Rechenaufwand nicht unterschieden werden.

Rotations-Invariantes Necognitron:

• Es wurden "Stapel" von Schichten hinzugefuegt, wovon jede Schicht fuer eine bestimmte Gradzahl der Rotation zustaendigist. Weil durch die allgemeine Verschiebung und Verformung ein Teil von kleineren Veraenderungen abgedeckt ist, hat man die Einteilung in 30 Grad Schritte vorgenommen (12 Schichten).

• Fukushima selbst hat eine kontrast-extrahierende Schicht eingebaut. Dadurch konnten zusaetzlich zu der Mustererkennung die Konstrastmuster abgespeichert werden, was zu einer noch hoeheren Genauigkeit fuehrte.

• Fukushima fuegte dann noch eine ihibitorische Verbindung zu den C-Zellen her, wodurch die Zellen staerker auf End-Linienstuecke und Kruemmungspunkte als auf mittlere Linienpunkte reagierten. Dies kommt dem Biologischen Vorbild der Ganglion Zellen im Auge noch naeher.

• Fukushima fuegt noch eine weitere Schicht hinzu, welche die von den anderen Schichten "weggeschmissenen" verdeckten Muster eine Erkennung mittels Interpolation und Extrapolation vornimmt.