Algoritmy na orezávanie fotografií na Twitteri sú rasistické, sexistické a ďalšie, pripúšťa spoločnosť
The bola obvinená funkcia orezania fotografie, ktorá využíva strojové učenie na rozhodnutie, ktorá časť fotografie sa zobrazí v používateľských kanáloch byť rasistický a sexistický v minulom roku, keď sa zistilo, že je pravdepodobnejšie, že sa vylúčia černosi a ženy.
Spoločnosť oznámila odmenu za chyby pre každého, kto dokáže dokázať neobjektívnosť v jej algoritmoch, a teraz vymenovala víťazov, ktorí rôznym spôsobom dokázali množstvo neobjektívnosti…
Pozadie
Keď na Twitter nahráte fotografiu orientovanú na výšku, systém automaticky oreže, aby sa v informačných kanáloch ľudí zobrazila verzia na šírku. Plná verzia sa zobrazí iba vtedy, keď na ňu ľudia klepnú alebo na ňu kliknú.
Používatelia Twitteru si začali všímať, že ak fotografia zobrazuje ľudí s rôznou farbou pleti alebo rôznym pohlavím, na orezaní je pravdepodobnejšie, že bude zobrazený biely muž ako černoška.
Spoločnosť reagovala podľa , ale aj oznámil a externú súťaž na preukázanie skreslenia v jeho algoritmoch. Teraz zverejnila výsledky tejto súťaže.
Výsledky súťaže v orezávaní fotografií na Twitteri
Účet inžinierstva na Twitteri tweetoval výsledky a odkaz na a video z prezentácií (nižšie).
Na 1. mieste sa umiestnil @hiddenmarkov, ktorého príspevok ukázal, ako môže použitie filtrov krásy prehrať interný model hodnotenia algoritmu. To ukazuje, ako algoritmické modely zosilňujú predsudky v reálnom svete a spoločenské očakávania krásy.
Na 2. mieste sa umiestnil @halt_ai, ktorý zistil, že algoritmus význačnosti udržiaval marginalizáciu. Napríklad obrázky starších a zdravotne postihnutých ľudí boli ďalej marginalizované tým, že boli orezané z fotografií a posilnili sa zaujatosti priestorového pohľadu.
3. miesto patrí @RoyaPak, ktorý experimentoval s algoritmom nápadnosti Twitteru pomocou dvojjazyčných mémov. Tento záznam ukazuje, ako algoritmus uprednostňuje orezávanie latinských písiem pred arabskými a čo to znamená z hľadiska poškodenia jazykovej rozmanitosti online.
Najinovatívnejšie ocenenie v odmene za zaujatosť algoritmov získava @OxNaN, ktorý preskúmal komunikáciu založenú na emotikonoch s cieľom odhaliť zaujatosť v algoritme, ktorý uprednostňoval emotikony so svetlým odtieňom pleti. Tento záznam ukazuje, ako dobre mienené úpravy fotografií môžu viesť k posunom k zvýrazneniu obrazu.
Úplné výsledky potvrdili rasizmus, sexizmus, ageizmus, schopnosti a ďalšie. Jeden účastník dokonca zistil, že algoritmus uprednostňuje svetlejšie tóny pleti emoji pre tmavšiu pleť!
Twitter prepojený s kódom pre každý víťazný záznam na Github.
Chcete sa ponoriť hlbšie? Kód pre všetky výherné položky v algoritmickej odmene za zaujatosť si môžete pozrieť nasledujúcim spôsobom @GitHub odpočinok.
1. - https://t.co/bILzKMbNNT
2. – https://t.co/oBbu9GxOME
3. – https://t.co/1W2BBsnboi
Najinovatívnejšie – https://t.co/zU4bhDK3il— Twitter Engineering (@TwitterEng) 9. augusta 2021
Výzvou Twitteru bude teraz napraviť tieto predsudky, čo môže byť ťažšia práca ako dokázať, že existujú.
obrázok: Tellerova správa
![Twitter sa celosvetovo prepadol len niekoľko minút po spustení rozšíreného počtu tweetov [U: Opravené]](https://macosxhints.ch/img/twitter/B6/twitter-goes-down-worldwide-just-minutes-after-launching-expanded-tweet-counts-u-fixed-1.jpg)
