يشكو مستخدمو Flickr من أن النظام يقوم تلقائيًا بتعيين علامات غير صحيحة ومسيئة للصور

واجه موقع معروف لتخزين ونشر الصور مشكلة مميزة في أي أدوات تلقائية تحاول استبدال شخص في تحليل المعلومات غير القياسية. لاحظ المستخدمون أن وظيفة وضع العلامات التلقائي غالبًا ما تتعرف على الأشياء في الصور الفوتوغرافية ليس فقط بشكل غير صحيح ، ولكن أيضًا العديد من العلامات تكون مسيئة. على سبيل المثال ، يجب تخصيص صور لرجل أسود ، وفقًا لـ Flickr ، من بين علامات أخرى ، علامتي "الحيوان" (الحيوان) و "القرد" (قرد قرد).

لم يلوموا خوارزميات نظام التعرف على الأنماط فليكر للتمييز العنصري ، لأنها تأتي عبر صور لأشخاص من النوع الأوروبي ، الذين ، مع ذلك ، تلقوا أيضًا علامات غير سارة تقول إنه يصور "حيوان" ، وعلى الأرجح ، "قرد". من ناحية أخرى ، وفقًا لفليكر من هذه الصورة للبوابات سيئة السمعة لمعسكر الاعتقال النازي داخاو ، فإن العلامات "صالة الغابة" و "الرياضة" مناسبة بالإضافة إلى تلك الصحيحة.

اعترف فليكر بالمشكلة بسبب العدد الكبير من تعليقات المستخدم السلبية. من العلامات التي يمكن للنظام أن يعينها تلقائيًا للصور ، حاولوا إزالة "القرد" ووعدوا بتنظيم استخدام علامة "الرياضة" ، على وجه الخصوص ، لإزالتها من وصف صور معسكر الاعتقال. يقول المتحدث باسم الشركة أنه فخور بشكل عام بالميزة الجديدة ، لكنه وافق على أنه لا يزال بحاجة إلى العمل على أخطاء التعرف. يأخذ النظام في الاعتبار كيفية تحرير المستخدمين للعلامات ، وربما لم "يتعلموا" بعد لأخذ رأيهم في الاعتبار عند التعرف على محتويات الصورة. كشف

موظفو أبحاث Google العام الماضيخوارزمية التعرف على الصور الخاصة على أساس الشبكات العصبية. إنه لا يحاول فقط تسمية الأشياء الموجودة في الصورة ، بل يحاول أيضًا وصفها بـ "لغة بشرية". تم الحصول على نفس النتيجة تقريبًا بشكل مستقل عن Google في جامعة ستانفورد. على سبيل المثال ، تعتقد خوارزميتهم بشكل لا لبس فيه أنه في هذه الصورة "فتاة صغيرة تأكل قطعة من الكعكة":