Aplikacija Google Photos dela gromozansko in rasistično napako

Storitev Google Photos je od svoje uvedbe pritegnila pozornost specializiranih medijev in uporabnikov v enakih delih. In zdi se, da je zagotovil dokončno rešitev za problem pametnih telefonov in fotografije trenutno: oblak z neomejenim prostorom in brezplačno Seveda ob upoštevanju nekaterih omejitev ki zaenkrat ne pomenijo nobene vizualne razlike med stisnjenimi fotografijami in tistimi, ki to niso, da ne bi premagali teh ovir.Vse to spremlja nekaj zelo zanimivih funkcij, kot je samodejno ustvarjanje animacij ali kolažev ali inteligentna organizacija fotografij. Toda ravno pri tej zadnji funkciji se je storitev zajebala na najslabši možni način

In do sedaj so bile skoraj vse pohvale za storitev, dokler se ni uporabnik na družbenem omrežju Twitter pritožil zaradi večje napake : je označil fotografijo dva črnca (uporabnik sam in njegovo dekle) v kategoriji Gorile , znotraj živaliblaženostki ima lahko veliko rasistične konotacije in ki je dvignila nekaj žuljev tako na družbenih omrežjih kot znotraj Google

Po mladeničevi pritožbi na Twitter, ki neposredno omenja Google zaprositi za pojasnila v zvezi s tem, eden od inženirjev, odgovornih za storitev, ni dolgo odgovarjal se opravičuje in sprejema napako, poskuša ne vstopati v razprave o kako ali zakaj zadeve.

Po besedah ​​Google obžalujejo ta dogodek in že delajo na izboljšanju sistema označevanja Google Photos Do danes storitev analizira slike, naložene v ta oblak, da ugotovi, kaj se pojavi na fotografijah. Doslej dokaj uspešna funkcija, ki je sposobna zaznati nebotičnike, jezera, razlikovati med živalmi, identificirati fotografije hrane, fotografije pokrajine in zelo dolgo itd. Res je, da ima še napake kako včasih zamenjati pse s konji ali ne pravilno identificira nekatere elemente, ki se zdijo jasni, presenetljivi na drugih fotografijah zaradi svojega odstotka uspešnosti.Toda Nikoli nisem zamenjal ljudi z opicami In še manj, ko gre za raso in barvo kože.

Očitno storitev potrebuje še nekaj izboljšav, zato je Google odstranil oznako Gorillas , da preprečite, da bi se ta težava ponovila. Poleg tega trdijo, da izboljšujejo svoj algoritem, tako da sta razčlenjevanje in označevanje natančnejša Vendar je njegov sistem pameten in se uči z analiziranjem novih fotografij, zato bo sčasoma boljši, ko ga bo uporabljalo več uporabnikov.

To so običajne težave, ko pustite nadzorni stroj, brez sposobnosti razmišljanja oseba. Trenutno se zdi, da je težava postala grda anekdota, jemanje zdravil ukrepa takoj in poskuša omiliti ton glede problema rasizma.Seveda to ni prva težava te vrste, ki se zgodi. Drugi programi in programska oprema za prepoznavanje so imeli podobne težave, ker niso pravilno prepoznali tena kože uporabnikov ali tako, da napačno prepoznate svetlobo in osvetlitev fotografije.