Kahit Kapag Pagtuklas ng Kasarian, Ang Kasalukuyang Mukha Pagkilala Tech ay Mas mahusay para sa White Dudes

Sidney Fussell 06/04/2018. 12 comments
Face Recognition AI/Ethics

Ang isang bagong pagsusuri ng software sa pagkilala ng mukha ay natagpuan na, kapag kinikilala ang kasarian, ang software ay mas tumpak para sa mga lalaking may liwanag na balat at hindi bababa sa tumpak para sa mga kababaihan na may madilim na balat. Si Joy Buolamwini, isang mananaliksik ng MIT Media Lab at siyentipiko ng computer, ay sumubok ng tatlong komersyal na klasipikasyon ng kasarian na inaalok bilang bahagi ng mga serbisyo sa pagkilala sa mukha. Bilang siya ay natagpuan, ang software ay hindi nakilala ang kasarian ng mga itim na balat na babae 35 porsiyento ng oras. Sa kabaligtaran, ang rate ng error rate para sa maliliit na balat ng lalaki ay mas mababa sa isang porsyento.

"Sa pangkalahatan, ang mga lalaking paksa ay mas tumpak na naiuri kaysa sa mga babaeng paksa na nagpoproliko ng mga nakaraang natuklasan (Ngan et al., 2015), at ang mas magaan na mga paksa ay mas tumpak na naiuri kaysa sa mga mas matingkad na indibidwal," sumulat Buolamwini at co-akda Timnit Gebru sa papel . "Ang isang intersectional breakdown ay nagpapakita na ang lahat ng mga classifier ay nagtagumpay sa mas matingkad na babae na mga paksa."

Ang mga resulta ay nakalarawan sa mga nakaraang natuklasan tungkol sa mga pagkabigo ng software ng pagkilala sa mukha kapag tinutukoy ang mga babae at indibidwal na may mas madidilim na balat. Tulad ng nabanggit sa Sentro ng Pagkapribado at Teknolohiya ng Georgetown University, ang mga pagkakaibang ito ng kasarian at panlahi ay maaaring, sa konteksto ng mga pag-scan sa facial ng airport , gawing mas targeted ang mga kababaihan at mga minoridad para sa mas maraming invasive processing tulad ng manual fingerprinting.

Ang lahat ng software sa pagkilala sa mukha ay sinanay sa pamamagitan ng pag-scan ng libu-libong mga imahe sa isang dataset, pag-aayos ng kakayahan nito upang kunin ang mga mahalagang datapoints at huwag pansinin ang hindi kapaki-pakinabang. Tulad ng sinabi ni Buolamwini, marami sa mga dataset na ito ay pinapanigang ang kanilang sarili. Ang Adience, isang benchmark ng klasipikasyon ng kasarian, ay gumagamit ng mga paksa na 86 porsyento na pinahiran ng balat. Ang isa pang dataset, IJB-A, ay gumagamit ng mga paksa na 79 porsyento na ang balat ng balat.

Sa iba pang mga problema sa mga skewed dataset, pinapayagan nila ang mga kumpanya na tawagan ang kanilang pagkilala sa mukha ng software na "tumpak," kapag talagang tumpak lamang ang mga ito para sa mga taong katulad sa mga nasa dataset: karamihan sa mga lalaki, kadalasang mas magaan. Ang mga madilim na kababaihan ay hindi bababa sa kinakatawan sa mga hanay ng data na ito. 7.4 porsiyento ng dataset ng Adity ay mga madilim na balat na babae, habang ang IJB-A ay 4.4 porsiyento. Ito ay nagiging isang problema kapag umaasa ang mga kumpanya sa kanila.

Sinubukan ni Buolamwini ang tatlong komersyal na software APIs: Microsoft's Cognitive Services Face API, Watson Visual Recognition API ng IBM, at Face ++, isang kumpanya sa computer na paningin ng Tsina na nagbibigay ng tech para sa Lenovo. Sinubok ni Buolamwini upang makita kung ang bawat isa ay mapagkakatiwalaan pag-uri-uriin ang kasarian ng tao sa bawat larawan.

Bilang siya ay natagpuan, ang lahat ng mga klasipikasyon ay mas mahusay na ginagampanan sa mga mukha ng lalaki kaysa sa mga babae na mukha at ang lahat ng mga klasipikasyon ay hindi bababa sa tumpak kapag tinutukoy ang kasarian ng mga itim na balat na babae. Ang Face ++ at IBM ay mayroong isang pagkakamali na rate ng pagkakalibrate ng 34.5 at 34.7 percent, ayon sa pagkakabanggit, sa mga madilim na balat ng mga kababaihan. Parehong may mga rate ng error ng lalaki na may balat na mas mababa sa isang porsyento. Ang madilim na skinned female error rate ng Microsoft ay 20.8 porsiyento at epektibong zero para sa mga light-skinned male.

Inaasahan ng Buolamwini na magkapantay sa pagkilala sa pagkilala ng mukha, lalo na ang software sa pagkilala ng mukha ay naging pamantayan sa pagpapatupad ng batas at counterterrorism. Ang mga pasahero ay na-scan sa mga paliparan, ang mga tagapanood ay na-scan sa arenas, at, sa edad ng iPhone X, lahat ay maaaring ma-scan sa lalong madaling panahon sa pamamagitan ng kanilang mga telepono. Buolamwini binanggit ang pag-aaral ng Georgetown , na babala na ang pagkilala sa mukha ay magiging standard sa mga paliparan, at ang mga "mabigo" sa pagsubok ay makakatanggap ng dagdag na pagsusuri, ang isang potensyal na loop ng bias ay maaaring bumuo. Sa papel, umaasa siya na ang patlang ay tatanggap ng mas maraming intersectional na pag-audit na tumitingin sa di-pantay na epekto, lalo na kung ang AI ay handa na maging pangunahing bahagi ng ating lipunan.

[ NYT ]

HighResolutionMusic.com - Download Hi-Res Songs

1 Thomas Rhett

Look What God Gave Her flac

Thomas Rhett. 2019. Writer: Thomas Rhett;Rhett Akins;Julian Bunetta;John Ryan;Jacob Kasher;Ammar Malik.
2 Little Big Town

Don't Threaten Me With A Good Time flac

Little Big Town. 2019. Writer: Thomas Rhett;Karen Fairchild;The Stereotypes;Jesse Frasure;Ashley Gorley.
3 Iselin Solheim

Anyone Out There flac

Iselin Solheim. 2019. Writer: Iselin Solheim;Max Grahn.
4 Kim Petras

Heart To Break flac

Kim Petras. 2018. Writer: Cirkut;Aaron Joseph;Dr. Luke;Jacob Kasher;Kim Petras.
5 Florian Picasso

Midnight Sun (Extended Version) flac

Florian Picasso. 2019.
6 Florian Picasso

Midnight Sun flac

Florian Picasso. 2019.
7 21 Savage

Enzo flac

21 Savage. 2019. Writer: YungLunchBox;Sheck Wes;Offset;Gucci Mane;21 Savage;DJ Snake.
8 Pescro

SUKA flac

Pescro. 2019.
9 Julie Bergan

Don't Give Up On Me Now flac

Julie Bergan. 2019. Writer: R3hab;Ferruccio Tebaldi;Iselin;Maria Jane Smith;Mateusz Dziewulski;Victor Thell.
10 Half An Orange

Buzz Lightyear (WRLD Remix) flac

Half An Orange. 2019.
11 Rachael Yamagata

Is It You flac

Rachael Yamagata. 2019.
12 Lewis Capaldi

Hold Me While You Wait flac

Lewis Capaldi. 2019. Writer: Jamie N Commons;Jamie Hartman;Lewis Capaldi.
13 Christina Perri

Tiny Victories flac

Christina Perri. 2019. Writer: Christina Perri.
14 Of Monsters And Men

Alligator flac

Of Monsters And Men. 2019. Writer: Nanna Bryndís Hilmarsdóttir.
15 Ashley Tisdale

True Romance flac

Ashley Tisdale. 2019. Writer: Scot Stewart;Dylan Mclean;Rachel West;John Feldmann;Ashley Tisdale.
16 Ashley Tisdale

Voices In My Head flac

Ashley Tisdale. 2019. Writer: Whitney Phillips;Scott Stewart;Dylan Mclean;John Feldmann;Ashley Tisdale.
17 Ashley Tisdale

Feeling So Good flac

Ashley Tisdale. 2019. Writer: Ashley Tisdale.
18 Ashley Tisdale

Under Pressure flac

Ashley Tisdale. 2019. Writer: John Feldmann;Ashley Tisdale.
19 Ashley Tisdale

Vibrations flac

Ashley Tisdale. 2019. Writer: Dylan Mclean;Scot Stewart;Rachel West;John Feldmann;Ashley Tisdale.
20 Ashley Tisdale

Looking Glass flac

Ashley Tisdale. 2019. Writer: Dylan Mclean;Scot Stewart;Rachel West;John Feldmann;Ashley Tisdale.

12 Comments

cj01
yaboihotkarl
smmy15643
Nick
RumpleDickSkin

Suggested posts

Other Sidney Fussell's posts

Language