Les utilisateurs de Flickr se plaignent que le système attribue automatiquement des balises incorrectes et offensantes aux photos

Un site bien connu pour stocker et publier des photos a rencontré un problème caractéristique de tous les outils automatiques qui tentent de remplacer une personne dans l'analyse d'informations non standard. Les utilisateurs ont remarqué que la fonction de marquage automatique reconnaît souvent les objets sur les photos non seulement de manière incorrecte, mais que de nombreux tags sont tout simplement offensants. Par exemple, des photos d'un homme noir, selon Flickr, devraient être attribuées, entre autres, aux étiquettes «animal» (animal) et «singe» (singe anthropoïde).

Ils n'ont pas blâmé les algorithmes du système de reconnaissance de formes Flickr pour la discrimination raciale, car ils rencontrent des photographies de personnes de type européen, qui, cependant, ont également reçu des étiquettes désagréables disant qu'il représente un "animal" et, très probablement, un "singe". En revanche, selon Flickr de cette photo des fameuses portes du camp de concentration nazi de Dachau, les balises «jungle gym» et «sport» conviennent en plus des bonnes.

Flickr a reconnu le problème en raison du grand nombre de commentaires négatifs des utilisateurs. Parmi les étiquettes que le système peut attribuer automatiquement des photographies, ils ont tenté de supprimer le «singe» et ont promis de réglementer l'utilisation de l'étiquette «sport», en particulier, pour la retirer de la description des photos des camps de concentration. Le conférencier de la société se dit généralement fier de la nouvelle fonctionnalité, mais convient qu'il doit encore travailler sur les erreurs de reconnaissance. Le système prend en compte la manière dont les utilisateurs modifient les tags et n'ont probablement pas encore «appris» à prendre en compte leur opinion lors de la reconnaissance du contenu d'une photo.

L'année dernière, les employés de Google Research ont révélépropre algorithme de reconnaissance d'image basé sur des réseaux de neurones. Il essaie non seulement de nommer les objets présents sur la photographie, mais aussi de la décrire en «langage humain». Presque le même résultat a été obtenu indépendamment de Google à l'Université de Stanford. Par exemple, leur algorithme croit incontestablement que sur cette photo «une petite fille mange un morceau de gâteau»: