Kahit Kapag Pagtuklas ng Kasarian, Ang Kasalukuyang Mukha Pagkilala Tech ay Mas mahusay para sa White Dudes

Sidney Fussell 06/04/2018. 12 comments
Face Recognition AI/Ethics

Ang isang bagong pagsusuri ng software sa pagkilala ng mukha ay natagpuan na, kapag kinikilala ang kasarian, ang software ay mas tumpak para sa mga lalaking may liwanag na balat at hindi bababa sa tumpak para sa mga kababaihan na may madilim na balat. Si Joy Buolamwini, isang mananaliksik ng MIT Media Lab at siyentipiko ng computer, ay sumubok ng tatlong komersyal na klasipikasyon ng kasarian na inaalok bilang bahagi ng mga serbisyo sa pagkilala sa mukha. Bilang siya ay natagpuan, ang software ay hindi nakilala ang kasarian ng mga itim na balat na babae 35 porsiyento ng oras. Sa kabaligtaran, ang rate ng error rate para sa maliliit na balat ng lalaki ay mas mababa sa isang porsyento.

"Sa pangkalahatan, ang mga lalaking paksa ay mas tumpak na naiuri kaysa sa mga babaeng paksa na nagpoproliko ng mga nakaraang natuklasan (Ngan et al., 2015), at ang mas magaan na mga paksa ay mas tumpak na naiuri kaysa sa mga mas matingkad na indibidwal," sumulat Buolamwini at co-akda Timnit Gebru sa papel . "Ang isang intersectional breakdown ay nagpapakita na ang lahat ng mga classifier ay nagtagumpay sa mas matingkad na babae na mga paksa."

Ang mga resulta ay nakalarawan sa mga nakaraang natuklasan tungkol sa mga pagkabigo ng software ng pagkilala sa mukha kapag tinutukoy ang mga babae at indibidwal na may mas madidilim na balat. Tulad ng nabanggit sa Sentro ng Pagkapribado at Teknolohiya ng Georgetown University, ang mga pagkakaibang ito ng kasarian at panlahi ay maaaring, sa konteksto ng mga pag-scan sa facial ng airport , gawing mas targeted ang mga kababaihan at mga minoridad para sa mas maraming invasive processing tulad ng manual fingerprinting.

Ang lahat ng software sa pagkilala sa mukha ay sinanay sa pamamagitan ng pag-scan ng libu-libong mga imahe sa isang dataset, pag-aayos ng kakayahan nito upang kunin ang mga mahalagang datapoints at huwag pansinin ang hindi kapaki-pakinabang. Tulad ng sinabi ni Buolamwini, marami sa mga dataset na ito ay pinapanigang ang kanilang sarili. Ang Adience, isang benchmark ng klasipikasyon ng kasarian, ay gumagamit ng mga paksa na 86 porsyento na pinahiran ng balat. Ang isa pang dataset, IJB-A, ay gumagamit ng mga paksa na 79 porsyento na ang balat ng balat.

Sa iba pang mga problema sa mga skewed dataset, pinapayagan nila ang mga kumpanya na tawagan ang kanilang pagkilala sa mukha ng software na "tumpak," kapag talagang tumpak lamang ang mga ito para sa mga taong katulad sa mga nasa dataset: karamihan sa mga lalaki, kadalasang mas magaan. Ang mga madilim na kababaihan ay hindi bababa sa kinakatawan sa mga hanay ng data na ito. 7.4 porsiyento ng dataset ng Adity ay mga madilim na balat na babae, habang ang IJB-A ay 4.4 porsiyento. Ito ay nagiging isang problema kapag umaasa ang mga kumpanya sa kanila.

Sinubukan ni Buolamwini ang tatlong komersyal na software APIs: Microsoft's Cognitive Services Face API, Watson Visual Recognition API ng IBM, at Face ++, isang kumpanya sa computer na paningin ng Tsina na nagbibigay ng tech para sa Lenovo. Sinubok ni Buolamwini upang makita kung ang bawat isa ay mapagkakatiwalaan pag-uri-uriin ang kasarian ng tao sa bawat larawan.

Bilang siya ay natagpuan, ang lahat ng mga klasipikasyon ay mas mahusay na ginagampanan sa mga mukha ng lalaki kaysa sa mga babae na mukha at ang lahat ng mga klasipikasyon ay hindi bababa sa tumpak kapag tinutukoy ang kasarian ng mga itim na balat na babae. Ang Face ++ at IBM ay mayroong isang pagkakamali na rate ng pagkakalibrate ng 34.5 at 34.7 percent, ayon sa pagkakabanggit, sa mga madilim na balat ng mga kababaihan. Parehong may mga rate ng error ng lalaki na may balat na mas mababa sa isang porsyento. Ang madilim na skinned female error rate ng Microsoft ay 20.8 porsiyento at epektibong zero para sa mga light-skinned male.

Inaasahan ng Buolamwini na magkapantay sa pagkilala sa pagkilala ng mukha, lalo na ang software sa pagkilala ng mukha ay naging pamantayan sa pagpapatupad ng batas at counterterrorism. Ang mga pasahero ay na-scan sa mga paliparan, ang mga tagapanood ay na-scan sa arenas, at, sa edad ng iPhone X, lahat ay maaaring ma-scan sa lalong madaling panahon sa pamamagitan ng kanilang mga telepono. Buolamwini binanggit ang pag-aaral ng Georgetown , na babala na ang pagkilala sa mukha ay magiging standard sa mga paliparan, at ang mga "mabigo" sa pagsubok ay makakatanggap ng dagdag na pagsusuri, ang isang potensyal na loop ng bias ay maaaring bumuo. Sa papel, umaasa siya na ang patlang ay tatanggap ng mas maraming intersectional na pag-audit na tumitingin sa di-pantay na epekto, lalo na kung ang AI ay handa na maging pangunahing bahagi ng ating lipunan.

[ NYT ]

HighResolutionMusic.com - Download Hi-Res Songs

1 Ariana Grande

7 Rings flac

Ariana Grande. 2019. Writer: Tayla Parx;Kimberly Krysiuk;Njomza Vitia;Scootie;Tommy Brown;Richard Rogers;Oscar Hammerstein II;Crazy Mike;Victoria Monét;Ariana Grande.
2 Alan Walker

Lily flac

Alan Walker. 2018. Writer: Alan Walker;Lars Kristian Rosness;Magnus Bertelsen;K-391;Didrik Handlykken;Marcus Arnbekk.
3 Alec Benjamin

Let Me Down Slowly flac

Alec Benjamin. 2019. Writer: Alec Benjamin;Sir Nolan;Michael Pollack.
4 Alan Walker

Lost Control flac

Alan Walker. 2018. Writer: Alan Walker;Thomas Troelsen;Mood Melodies;Sorana;Fredrik Borch Olsen;Magnus "Magnify" Martinsen.
5 Skylar Grey

Everything I Need flac

Skylar Grey. 2018. Writer: Elliott Taylor;Rupert Gregson-Williams;Skylar Grey.
6 Westlife

Hello My Love flac

Westlife. 2019. Writer: Steve Mac;Ed Sheeran.
7 Conor Maynard

Way Back Home (Sam Feldt Edit) flac

Conor Maynard. 2018. Writer: Ji Hye Lee;Shaun.
8 Post Malone

Sunflower flac

Post Malone. 2018. Writer: Carl Rosen;Louis Bell;Billy Walsh;Carter Lang;Swae Lee;Post Malone.
9 Alan Walker

Different World flac

Alan Walker. 2018. Writer: Shy Nodi;Alan Walker;Fredrik Borch Olsen;James Njie;Marcus Arnbekk;Gunnar Greve Pettersen;K-391;Corsak;Shy Martin;Magnus Bertelsen.
10 Sam Smith

Fire On Fire flac

Sam Smith. 2018. Writer: Steve Mac;Sam Smith.
11 The Chainsmokers

Hope flac

The Chainsmokers. 2018. Writer: Kate Morgan;Chris Lyon;Alex Pall;Andrew Taggart.
12 Normani

Dancing With A Stranger flac

Normani. 2019. Writer: Mikkel S. Eriksen;Tor Hermansen;Jimmy Napes;Normani;Sam Smith.
13 Slushii

Never Let You Go flac

Slushii. 2019. Writer: Sofía Reyes;Slushii;Aviella Winder.
14 Imagine Dragons

Believer flac

Imagine Dragons. 2019. Writer: Dan Reynolds;Lil Wayne;Wayne Sermon;Ben McKee;Daniel Platzman;Robin Fredriksson;Mattias Larsson;Justin Tranter.
15 Skrillex

Face My Fears flac

Skrillex. 2019. Writer: Poo Bear;Skrillex;Utada Hikaru.
16 Mike Perry

Runaway flac

Mike Perry. 2019. Writer: Andreas Wiman;Dimitri Vangelis;Richard Müller;Sasha Rangas;Stefan Van Leijsen;Mike Perry.
17 Alan Walker

I Don't Wanna Go flac

Alan Walker. 2018.
18 Gesaffelstein

Lost In The Fire flac

Gesaffelstein. 2019. Writer: Ahmad Balshe;Nate Donmoyer;Gesaffelstein;DaHeala;The Weeknd.
19 Hozier

Almost (Sweet Music) flac

Hozier. 2019. Writer: Hozier.
20 Matt Wertz

Fences flac

Matt Wertz. 2019.

12 Comments

cj01
yaboihotkarl
smmy15643
Nick
RumpleDickSkin

Suggested posts

Other Sidney Fussell's posts

Language