Flickr-Benutzer beschweren sich, dass das System Fotos automatisch falsche und anstößige Tags zuweist

Eine bekannte Site zum Speichern und Veröffentlichen von Fotos ist mit dem charakteristischen Problem aller automatischen Tools konfrontiert , die versuchen, eine Person bei der Analyse nicht standardmäßiger Informationen zu ersetzen. Benutzer haben festgestellt, dass die automatische Tagging-Funktion Objekte in Fotos häufig nicht nur falsch erkennt, sondern auch viele Tags einfach anstößig sind. Beispielsweise sollten Fotos eines schwarzen Mannes laut Flickr unter anderem die Tags „Tier“ (Tier) und „Affe“ (Menschenaffe) zugeordnet werden.

Sie machten die Algorithmen des Flickr-Mustererkennungssystems nicht für Rassendiskriminierung verantwortlich, da sie auf Fotografien von Menschen des europäischen Typs stießen , die jedoch auch unangenehme Tags erhielten, die besagten, dass es sich um ein „Tier“ und höchstwahrscheinlich um einen „Affen“ handelt. Andererseits sind laut Flickr dieses Fotos der berüchtigten Tore des nationalsozialistischen Konzentrationslagers Dachau die Tags „Klettergerüst“ und „Sport“ zusätzlich zu den richtigen geeignet.

Flickr erkannte das Problem aufgrund der großen Anzahl negativer Benutzerkommentare an. Von den Tags, denen das System automatisch Fotos zuweisen kann, versuchten sie, den „Affen“ zu entfernen, und versprachen, die Verwendung des Tags „Sport“ zu regeln, insbesondere um ihn aus der Beschreibung der Konzentrationslagerfotos zu entfernen. Der Sprecher des Unternehmens sagt, dass er im Allgemeinen stolz auf die neue Funktion ist, stimmte jedoch zu, dass er noch an Erkennungsfehlern arbeiten muss. Das System berücksichtigt, wie Benutzer Tags bearbeiten, und hat wahrscheinlich noch nicht „gelernt“, ihre Meinung bei der Erkennung des Inhalts eines Fotos zu berücksichtigen.

Im vergangenen Jahr haben Mitarbeiter von Google Research bekannt gegebeneigener Bilderkennungsalgorithmus basierend auf neuronalen Netzen. Er versucht, die auf dem Foto vorhandenen Objekte nicht nur zu benennen, sondern auch in „menschlicher Sprache“ zu beschreiben. Fast das gleiche Ergebnis wurde unabhängig von Google an der Stanford University erzielt. Zum Beispiel glaubt ihr Algorithmus unmissverständlich, dass auf diesem Foto „ein kleines Mädchen ein Stück Kuchen isst“: