फ़्लिकर उपयोगकर्ताओं की शिकायत है कि सिस्टम स्वचालित रूप से फ़ोटो को गलत और आक्रामक टैग प्रदान करता है

फ़ोटो संग्रहीत करने और प्रकाशित करने के लिए एक प्रसिद्ध साइट का सामना किसी भी स्वचालित उपकरण की विशेषता समस्या से होता है जो गैर-मानक जानकारी का विश्लेषण करते समय किसी व्यक्ति को बदलने की कोशिश करता है। उपयोगकर्ताओं ने देखा कि स्वचालित टैगिंग फ़ंक्शन अक्सर तस्वीरों में वस्तुओं को न केवल गलत तरीके से पहचानता है, बल्कि कई टैग भी आक्रामक होते हैं। उदाहरण के लिए, फ़्लिकर के अनुसार, एक काले आदमी की तस्वीरें , दूसरों के बीच, टैग "पशु" (जानवर) और "एप" (एन्थ्रोपॉइड एप) को असाइन किया जाना चाहिए।

उन्होंने नस्लीय भेदभाव के लिए फ़्लिकर पैटर्न मान्यता प्रणाली के एल्गोरिदम को दोष नहीं दिया, क्योंकि वे यूरोपीय प्रकार के लोगों की तस्वीरों के पार आते हैं , जो हालांकि, यह कहते हुए अप्रिय टैग भी प्राप्त करते हैं कि यह एक "जानवर" और सबसे अधिक संभावना है, एक "बंदर"। दूसरी ओर, नाजी एकाग्रता शिविर Dachau के कुख्यात फाटकों की इस तस्वीर के फ़्लिकर के अनुसार , टैग "जंगल जिम" और "खेल" सही लोगों के अलावा उपयुक्त हैं।

फ़्लिकर ने बड़ी संख्या में नकारात्मक उपयोगकर्ता टिप्पणियों के कारण समस्या को स्वीकार किया। उन टैगों में से, जो सिस्टम स्वचालित रूप से तस्वीरों को असाइन कर सकते हैं, उन्होंने "बंदर" को हटाने की कोशिश की और "खेल" टैग के उपयोग को विनियमित करने का वादा किया, विशेष रूप से, इसे एकाग्रता शिविर तस्वीरों के विवरण से हटाने के लिए। कंपनी के स्पीकर का कहना है कि उन्हें आमतौर पर नई सुविधा पर गर्व है, लेकिन इस बात से सहमत हैं कि उन्हें अभी भी मान्यता त्रुटियों पर काम करने की आवश्यकता है। सिस्टम इस बात को ध्यान में रखता है कि उपयोगकर्ता किसी टैग को कैसे संपादित करते हैं, और शायद किसी फोटो की सामग्री को पहचानते समय उनकी राय लेने के लिए "सीखा" नहीं गया है।

पिछले साल, Google अनुसंधान कर्मचारियों ने खुलासा कियातंत्रिका नेटवर्क पर आधारित अपनी छवि पहचान एल्गोरिथ्म। वह न केवल फोटोग्राफ में मौजूद वस्तुओं का नाम रखने की कोशिश कर रहा है, बल्कि "मानव भाषा" में भी इसका वर्णन करने की कोशिश कर रहा है। लगभग ऐसा ही परिणाम स्टैनफोर्ड विश्वविद्यालय में Google से स्वतंत्र रूप से प्राप्त किया गया था । उदाहरण के लिए, उनके एल्गोरिथ्म का मानना ​​है कि इस तस्वीर में "एक छोटी लड़की केक का एक टुकड़ा खा रही है":