Os usuários do Flickr reclamam que o sistema atribui automaticamente tags incorretas e ofensivas às fotos

Um site conhecido para armazenar e publicar fotos enfrenta o problema característico de qualquer ferramenta automática que tenta substituir uma pessoa ao analisar informações fora do padrão. Os usuários notaram que a função de marcação automática geralmente reconhece objetos nas fotografias não apenas incorretamente, mas também muitas tags são simplesmente ofensivas. Por exemplo, as fotos de um homem negro, de acordo com o Flickr, devem receber, entre outras, as tags “animal” (animal) e “macaco” (macaco antropóide).

Eles não culparam os algoritmos do sistema de reconhecimento de padrões do Flickr por discriminação racial, pois se deparam com fotografias de pessoas do tipo europeu, que, no entanto, também receberam tags desagradáveis ​​dizendo que retratam um "animal" e, provavelmente, um "macaco". Por outro lado, de acordo com o Flickr desta fotografia dos notórios portões do campo de concentração nazista de Dachau, as etiquetas “trepa-trepa” e “esporte” são adequadas além das corretas.

O Flickr reconheceu o problema devido ao grande número de comentários negativos do usuário. Das etiquetas que o sistema pode atribuir automaticamente às fotografias, eles tentaram remover o "macaco" e prometeram regular o uso da etiqueta "esporte", em particular, removê-la da descrição das fotos dos campos de concentração. O palestrante da empresa diz que geralmente se orgulha do novo recurso, mas concordou que ainda precisa trabalhar com erros de reconhecimento. O sistema leva em consideração como os usuários editam tags e provavelmente ainda não "aprendeu" a levar em consideração suas opiniões ao reconhecer o conteúdo de uma foto.

No ano passado, funcionários da Pesquisa Google revelarampróprio algoritmo de reconhecimento de imagem baseado em redes neurais. Ele está tentando não apenas nomear os objetos presentes na fotografia, mas também tenta descrevê-lo em "linguagem humana". Quase o mesmo resultado foi obtido independentemente do Google na Universidade de Stanford. Por exemplo, o algoritmo deles inconfundivelmente acredita que nesta foto “uma garotinha está comendo um pedaço de bolo”: