Pengguna Flickr mengeluh bahwa sistem secara otomatis memberikan tag yang salah dan ofensif ke foto

Situs terkenal untuk menyimpan dan menerbitkan foto dihadapkan pada masalah karakteristik alat otomatis yang mencoba menggantikan seseorang ketika menganalisis informasi yang tidak standar. Pengguna memperhatikan bahwa fungsi penandaan otomatis sering mengenali objek dalam foto tidak hanya salah, tetapi juga banyak tag yang hanya ofensif. Sebagai contoh, foto seorang pria kulit hitam, menurut Flickr, harus ditetapkan, antara lain, tag "hewan" (hewan) dan "kera" (kera antropoid).

Mereka tidak menyalahkan algoritma sistem pengenalan pola Flickr untuk diskriminasi ras, karena mereka menemukan foto - foto orang - orang dari tipe Eropa, yang, bagaimanapun, juga menerima tag yang tidak menyenangkan yang mengatakan bahwa itu menggambarkan "binatang" dan, kemungkinan besar, "monyet". Di sisi lain, menurut Flickr dari ini foto dari gerbang terkenal dari Nazi kamp konsentrasi Dachau, tag “panjatan” dan “olahraga” cocok selain yang benar.

Flickr mengakui masalah tersebut karena banyaknya komentar negatif dari pengguna. Dari tag yang sistem dapat secara otomatis menetapkan foto, mereka mencoba untuk menghapus "monyet" dan berjanji untuk mengatur penggunaan tag "olahraga", khususnya, untuk menghapusnya dari deskripsi foto kamp konsentrasi. Pembicara perusahaan mengatakan bahwa ia umumnya bangga dengan fitur baru, tetapi setuju bahwa ia masih perlu bekerja pada kesalahan pengakuan. Sistem memperhitungkan cara pengguna mengedit tag, dan mungkin belum "belajar" untuk mempertimbangkan pendapat mereka saat mengenali konten foto.

Tahun lalu, karyawan Google Research mengungkapkanalgoritma pengenalan gambar sendiri berdasarkan jaringan saraf. Dia berusaha tidak hanya untuk memberi nama objek yang ada dalam foto, tetapi juga mencoba menggambarkannya dalam "bahasa manusia". Hasil yang hampir sama diperoleh secara independen dari Google di Universitas Stanford. Sebagai contoh, algoritme mereka jelas percaya bahwa dalam foto ini "seorang gadis kecil sedang makan sepotong kue":