Ang Microsoft 'Nagpapabuti' ng Software sa Pagkilala sa Racist Facial

Patrick Lucas Austin 01/13/2019. 9 comments
Microsoft AI Facial Recognition

Sa isang self-congratulatory move, inihayag ng Microsoft ang ilang mga pangunahing pagpapabuti ngayon sa nito sa panimula biased facial recognition software . Ang Azure-based Face API ay sinaway sa isang research paper mas maaga sa taong ito dahil sa error rate nito-hanggang 20.8 porsiyento-kapag sinusubukang kilalanin ang kasarian ng mga taong kulay, lalo na ang mga kababaihan na may mas matingkad na kulay ng balat. Sa kaibahan, ang Microsoft's AI ay nakilala ang kasarian ng mga larawan ng "mas magaan na mga mukha ng lalaki" na may error rate na zero percent, ang pag-aaral ay napagpasyahan.

Tulad ng ibang mga kumpanya na bumubuo ng tech sa pagkilala ng mukha, ang Microsoft ay walang sapat na mga imahe ng mga itim at kayumanggi na tao, at nagpakita ito sa mga resulta ng pagsubok sa pagkilala nito. Ang blog post ng Microsoft ngayon ay naglalagay ng pansin sa pangunahing data na ginamit nito sa pagtatayo ng facial recognition software, na nagpapahiwatig na ang mga ganitong teknolohiya ay "lamang kasing dami ng data na ginagamit upang sanayin ang mga ito." Isinasaalang-alang ang mabigat na suliranin, ang pinaka-halata ayusin ay isang bagong dataset na naglalaman ng higit pang mga larawan ng mga taong kayumanggi, na ginagamit ng Microsoft.

"Ang team Face ng API ay gumawa ng tatlong malaking pagbabago. Sila ay pinalawak at binagong pagsasanay at mga benchmark dataset, naglunsad ng mga bagong pagsisikap sa pagkolekta ng data upang mapabuti ang data ng pagsasanay sa pamamagitan ng pagtutuon ng pansin sa tono ng balat, kasarian at edad, at pinabuti ang klasipikasyon upang makabuo ng mas mataas na mga resulta ng katumpakan. "Sa pinakabagong batch ng mga pagpapabuti, ang Microsoft sinabi nito na mabawasan ang mga rate ng error para sa mga kalalakihan at kababaihan na may mas matingkad na balat sa pamamagitan ng hanggang 20 beses. Para sa lahat ng mga kababaihan, sinabi ng kumpanya na ang mga error rate ay nabawasan ng siyam na beses.

Ang isang mabilis na sulyap sa pahina ng Microsoft's Face API ay nagbibigay sa iyo ng isang pahiwatig kung bakit ang software ng pagkilala ng Microsoft ay maaaring hindi napakahusay sa pagtukoy ng mas madidilim na mga mukha:

Sa post na blog, ang mahuhusay na manunulat ng Microsoft na si Hanna Wallach ay humipo sa isa sa mas malawak na mga pagkakamali ng industriya, na napapansin kung paano ang data na nabuo ng isang biased na lipunan ay humahantong sa mga resulta ng kampi kapag ito ay dumating sa mga sistema ng pagsasanay sa pag-aaral ng machine. "Nagkaroon kami ng mga pag-uusap tungkol sa iba't ibang paraan upang makita ang mga bias at pagpapatakbo ng pagiging patas," sabi ni Wallach. "Usapan namin ang mga pagsisikap sa pagkolekta ng data upang pag-iba-ibahin ang data ng pagsasanay. Nag-usapan kami tungkol sa iba't ibang mga estratehiya para sa panloob na pagsubok sa aming mga system bago namin ilaan ang mga ito. "

Ang kabiguan dito ay hindi lamang na ang tech ay hindi gumagana ng maayos para sa sinuman na hindi puti at lalaki. Gayundin, ang mga problema ay hindi nagtatapos sa Microsoft na nakakakuha ng tunay mabuti sa pagtukoy at gendering mga itim at kayumanggi mga tao.

Noong Enero, sinabi ng Microsoft na ang ICE ay magiging gamit ang Azure Government Cloud service nito , sa bahagi sa "proseso ng data sa mga aparatong gilid o gumamit ng malalim na kakayahan sa pag-aaral upang mapabilis ang pangmukha na pagkilala at pagkakakilanlan." Ang patalastas ay nakatuon sa ngayon sa mga empleyado na humihiling sa kumpanya upang ikansela ang kontrata nito sa ahensiya ng gobyerno.

Kahit na ang mukha ng pagkilala sa tech ay nagiging mas pinaliit, maaari pa rin itong weaponized laban sa mga tao ng kulay. Noong Lunes, ang CEO ng face start recognition si Kairos, si Brian Brackeen, ay nagsulat ng op-ed na nagpapaliwanag kung paano mapanganib ang teknolohiya ay maaaring nasa mga kamay ng gobyerno at pulisya.

HighResolutionMusic.com - Download Hi-Res Songs

1 Alan Walker

On My Way flac

Alan Walker. 2019. Writer: Alan Walker;Sabrina Carpenter;Farruko.
2 CHVRCHES

Here With Me flac

CHVRCHES. 2019. Writer: Steve Mac;Martin Doherty;Marshmello;Lauren Mayberry;Iain Cook.
3 5 Seconds Of Summer

Who Do You Love flac

5 Seconds Of Summer. 2019. Writer: Andrew Taggart;Talay Riley;Oak;Sean Douglas;Luke Hemmings;Calum Hood;Ashton Irwin;Michael Clifford;Trevorious;Zaire Koalo.
4 Bonn

No Sleep flac

Bonn. 2019. Writer: Albin Nedler;Bonn;Martin Garrix.
5 Katy Perry

365 flac

Katy Perry. 2019. Writer: Zedd;Katy Perry;Caroline Ailin;Corey Sanders;Daniel Davidsen;Cutfather;Peter Wallevik.
6 Avril Lavigne

Crush flac

Avril Lavigne. 2019. Writer: Johan Carlsson;Avril Lavigne;Zane Carney.
7 Alan Walker

Are You Lonely flac

Alan Walker. 2019.
8 Brooks

Better When You're Gone flac

Brooks. 2019. Writer: David Guetta;Emma Lov Block;Ido Zmishlany;Jackson Foote;Jeremy Dussolliet;Brooks.
9 Jonas Brothers

Sucker flac

Jonas Brothers. 2019. Writer: Kevin Jonas;Joe Jonas;Nick Jonas;Ryan Tedder;Louis Bell;Frank Dukes.
10 DEAMN

Happy flac

DEAMN. 2019.
11 Ariana Grande

Bloodline flac

Ariana Grande. 2019. Writer: ILYA;Max Martin;Savan Kotecha;Ariana Grande.
12 Ariana Grande

Imagine flac

Ariana Grande. 2019. Writer: JProof;Priscilla Renea;Happy Perez;Andrew "Pop" Wansel;Ariana Grande.
13 Ariana Grande

NASA flac

Ariana Grande. 2019. Writer: Ariana Grande;Scootie;Tayla Parx;TBHits;Victoria Monét.
14 IZ*ONE

Rise flac

IZ*ONE. 2019.
15 Dzeko

Halfway There flac

Dzeko. 2019.
16 Ellie Goulding

Flux flac

Ellie Goulding. 2019. Writer: Joe Kearns;Jim Eliot;Ellie Goulding.
17 Tiffany Young

Born Again flac

Tiffany Young. 2019. Writer: Fiction;Satica;Tiffany Young.
18 Ava Max

So Am I flac

Ava Max. 2019. Writer: Cirkut;Ava Max.
19 P!nk

Walk Me Home flac

P!nk. 2019. Writer: P!nk;Scott Harris;Nate Ruess.
20 Dido

Hurricanes flac

Dido. 2019. Writer: Dido;Rick Nowels;Rollo Armstrong.

9 Comments

UrbanAmazon
burnerstein
SinceGranTurismo
EricADJ
Maxima Speed: Wants a Kona Blue F-150

Suggested posts

Other Patrick Lucas Austin's posts

Language