Künstliche Intelligenz wird häufig durch größere Modelle, mehr Daten und höhere Rechenleistung weiterentwickelt. Forschende der Universität Osnabrück verfolgen nun einen anderen Ansatz. Sie orientieren das Training künstlicher Sehsysteme an der Entwicklung des menschlichen Sehens. Die Ergebnisse zeigen, dass auch vergleichsweise kleine Modelle eine hohe Robustheit erreichen können.
Künstliche Intelligenz gilt als einer der größten Treiber technologischer Innovation. In vielen Bereichen der Bildverarbeitung und Objekterkennung dominieren dabei immer größere Modelle, die mit enormen Datenmengen und hoher Rechenleistung trainiert werden. Ein Forschungsteam der Universität Osnabrück stellt diesen Ansatz nun teilweise infrage. Die Wissenschaftler zeigen, dass die Robustheit künstlicher Sehsysteme nicht allein von ihrer Größe abhängt, sondern auch von der Art des Lernprozesses.
Die Ergebnisse wurden in der Fachzeitschrift „Nature Machine Intelligence“ veröffentlicht und sind zugleich Titelthema der aktuellen Ausgabe. Das Team um Prof. Dr. Tim C. Kietzmann vom Institut für Kognitionswissenschaft entwickelte dafür einen Trainingsansatz, der sich an der Entwicklung des menschlichen Sehens orientiert.
Künstliche Sehsysteme erreichen heute zwar häufig beeindruckende Erkennungsleistungen, reagieren jedoch oft empfindlich auf Veränderungen im Bildmaterial. Bereits geringfügige Störungen, veränderte Texturen oder gezielte Manipulationen können dazu führen, dass Objekte falsch klassifiziert werden. Menschen hingegen erkennen Gegenstände in vielen Situationen zuverlässig anhand ihrer Form und weniger aufgrund von Oberflächenmustern.
KI durchläuft eine „visuelle Kindheit“
Um diese Schwäche zu adressieren, übertrugen die Forschenden Erkenntnisse aus der menschlichen Entwicklung auf das Training künstlicher Intelligenz. Ausgangspunkt ist die Beobachtung, dass Säuglinge nicht mit vollständig ausgereiftem Sehvermögen geboren werden. So entwickelt sich auch das visuelle System schrittweise von unscharfer und kontrastarmer Wahrnehmung hin zu einer differenzierten Sicht auf die Umwelt.
Dieses Prinzip wurde in ein spezielles Trainingsprogramm für KI-Systeme übersetzt, das die Forschenden als „Developmental Visual Diet“ bezeichnen. Dabei werden die Modelle zunächst mit eingeschränkten visuellen Informationen trainiert und erst später mit Bildern in voller Qualität konfrontiert.
„Unsere Ergebnisse zeigen, dass robuste KI nicht nur eine Frage von mehr Daten, größeren Modellen und höherer Rechenleistung ist“, sagt Kietzmann. „Entscheidend ist auch, wie ein Modell lernt. Wenn künstliche Sehsysteme eine visuelle Entwicklung durchlaufen, die stärker an menschliches Lernen angelehnt ist, nähern sie sich auch dem menschlichen Sehen an.“
Verbesserte Robustheit in mehreren Testbereichen
In den Untersuchungen zeigte sich, dass die nach diesem Prinzip trainierten Modelle stärker auf die Form von Objekten achten als auf deren Textur. Dadurch konnten sie Bilder auch unter schwierigen Bedingungen zuverlässiger verarbeiten.
Die Systeme erwiesen sich unter anderem als robuster gegenüber:
- Bildrauschen
- Unschärfen
- schlechter Bildqualität
- gezielten Angriffen auf KI-Systeme
Nach Angaben des Forschungsteams konnte die Robustheit in einzelnen Szenarien um das Fünffache gesteigert werden.
Quelle: Robert GeirhosEin Beispiel liefert ein Bild, das aus zahlreichen Flaschen zusammengesetzt ist und für Menschen dennoch klar die Form eines Bären erkennen lässt. Herkömmliche KI-Systeme fokussieren sich häufig auf die einzelnen Flaschen und verfehlen dadurch die Gesamtstruktur des Motivs.
„Der hier gezeigte Stimulus ist ein Beispiel, in dem traditionelle KI anders als der Mensch entscheidet. KI erkennt Flaschen, Menschen sehen einen Bären“, erläutert Zejin Lu, Erstautor der Studie und Doktorand bei Professor Kietzmann.
Alternative zur Skalierung von Modellen
Die Ergebnisse zeigen nach Ansicht der Forschenden, dass Fortschritte in der KI-Entwicklung nicht zwangsläufig mit immer größeren Modellen verbunden sein müssen. Stattdessen könne die Gestaltung des Lernprozesses eine ebenso wichtige Rolle spielen.
Der Ansatz aus Osnabrück verdeutlicht, dass auch vergleichsweise kleine und effizient trainierte Systeme leistungsfähige Ergebnisse erzielen können. Für die Forschung eröffnet dies eine mögliche Alternative zur bisherigen Strategie, die vor allem auf die Skalierung von Datenmengen und Modellgrößen setzt.
Hier finden Sie weitere Informationen zur Universität Osnabrück sowie deren Forschungszentrum Data Science.