Ang Microsoft 'Nagpapabuti' ng Software sa Pagkilala sa Racist Facial

Patrick Lucas Austin 01/13/2019. 9 comments
Microsoft AI Facial Recognition

Sa isang self-congratulatory move, inihayag ng Microsoft ang ilang mga pangunahing pagpapabuti ngayon sa nito sa panimula biased facial recognition software . Ang Azure-based Face API ay sinaway sa isang research paper mas maaga sa taong ito dahil sa error rate nito-hanggang 20.8 porsiyento-kapag sinusubukang kilalanin ang kasarian ng mga taong kulay, lalo na ang mga kababaihan na may mas matingkad na kulay ng balat. Sa kaibahan, ang Microsoft's AI ay nakilala ang kasarian ng mga larawan ng "mas magaan na mga mukha ng lalaki" na may error rate na zero percent, ang pag-aaral ay napagpasyahan.

Tulad ng ibang mga kumpanya na bumubuo ng tech sa pagkilala ng mukha, ang Microsoft ay walang sapat na mga imahe ng mga itim at kayumanggi na tao, at nagpakita ito sa mga resulta ng pagsubok sa pagkilala nito. Ang blog post ng Microsoft ngayon ay naglalagay ng pansin sa pangunahing data na ginamit nito sa pagtatayo ng facial recognition software, na nagpapahiwatig na ang mga ganitong teknolohiya ay "lamang kasing dami ng data na ginagamit upang sanayin ang mga ito." Isinasaalang-alang ang mabigat na suliranin, ang pinaka-halata ayusin ay isang bagong dataset na naglalaman ng higit pang mga larawan ng mga taong kayumanggi, na ginagamit ng Microsoft.

"Ang team Face ng API ay gumawa ng tatlong malaking pagbabago. Sila ay pinalawak at binagong pagsasanay at mga benchmark dataset, naglunsad ng mga bagong pagsisikap sa pagkolekta ng data upang mapabuti ang data ng pagsasanay sa pamamagitan ng pagtutuon ng pansin sa tono ng balat, kasarian at edad, at pinabuti ang klasipikasyon upang makabuo ng mas mataas na mga resulta ng katumpakan. "Sa pinakabagong batch ng mga pagpapabuti, ang Microsoft sinabi nito na mabawasan ang mga rate ng error para sa mga kalalakihan at kababaihan na may mas matingkad na balat sa pamamagitan ng hanggang 20 beses. Para sa lahat ng mga kababaihan, sinabi ng kumpanya na ang mga error rate ay nabawasan ng siyam na beses.

Ang isang mabilis na sulyap sa pahina ng Microsoft's Face API ay nagbibigay sa iyo ng isang pahiwatig kung bakit ang software ng pagkilala ng Microsoft ay maaaring hindi napakahusay sa pagtukoy ng mas madidilim na mga mukha:

Sa post na blog, ang mahuhusay na manunulat ng Microsoft na si Hanna Wallach ay humipo sa isa sa mas malawak na mga pagkakamali ng industriya, na napapansin kung paano ang data na nabuo ng isang biased na lipunan ay humahantong sa mga resulta ng kampi kapag ito ay dumating sa mga sistema ng pagsasanay sa pag-aaral ng machine. "Nagkaroon kami ng mga pag-uusap tungkol sa iba't ibang paraan upang makita ang mga bias at pagpapatakbo ng pagiging patas," sabi ni Wallach. "Usapan namin ang mga pagsisikap sa pagkolekta ng data upang pag-iba-ibahin ang data ng pagsasanay. Nag-usapan kami tungkol sa iba't ibang mga estratehiya para sa panloob na pagsubok sa aming mga system bago namin ilaan ang mga ito. "

Ang kabiguan dito ay hindi lamang na ang tech ay hindi gumagana ng maayos para sa sinuman na hindi puti at lalaki. Gayundin, ang mga problema ay hindi nagtatapos sa Microsoft na nakakakuha ng tunay mabuti sa pagtukoy at gendering mga itim at kayumanggi mga tao.

Noong Enero, sinabi ng Microsoft na ang ICE ay magiging gamit ang Azure Government Cloud service nito , sa bahagi sa "proseso ng data sa mga aparatong gilid o gumamit ng malalim na kakayahan sa pag-aaral upang mapabilis ang pangmukha na pagkilala at pagkakakilanlan." Ang patalastas ay nakatuon sa ngayon sa mga empleyado na humihiling sa kumpanya upang ikansela ang kontrata nito sa ahensiya ng gobyerno.

Kahit na ang mukha ng pagkilala sa tech ay nagiging mas pinaliit, maaari pa rin itong weaponized laban sa mga tao ng kulay. Noong Lunes, ang CEO ng face start recognition si Kairos, si Brian Brackeen, ay nagsulat ng op-ed na nagpapaliwanag kung paano mapanganib ang teknolohiya ay maaaring nasa mga kamay ng gobyerno at pulisya.

HighResolutionMusic.com - Download Hi-Res Songs

1 Thomas Rhett

Look What God Gave Her flac

Thomas Rhett. 2019. Writer: Thomas Rhett;Rhett Akins;Julian Bunetta;John Ryan;Jacob Kasher;Ammar Malik.
2 Little Big Town

Don't Threaten Me With A Good Time flac

Little Big Town. 2019. Writer: Thomas Rhett;Karen Fairchild;The Stereotypes;Jesse Frasure;Ashley Gorley.
3 Iselin Solheim

Anyone Out There flac

Iselin Solheim. 2019. Writer: Iselin Solheim;Max Grahn.
4 Kim Petras

Heart To Break flac

Kim Petras. 2018. Writer: Cirkut;Aaron Joseph;Dr. Luke;Jacob Kasher;Kim Petras.
5 Florian Picasso

Midnight Sun (Extended Version) flac

Florian Picasso. 2019.
6 Florian Picasso

Midnight Sun flac

Florian Picasso. 2019.
7 21 Savage

Enzo flac

21 Savage. 2019. Writer: YungLunchBox;Sheck Wes;Offset;Gucci Mane;21 Savage;DJ Snake.
8 Pescro

SUKA flac

Pescro. 2019.
9 Julie Bergan

Don't Give Up On Me Now flac

Julie Bergan. 2019. Writer: R3hab;Ferruccio Tebaldi;Iselin;Maria Jane Smith;Mateusz Dziewulski;Victor Thell.
10 Half An Orange

Buzz Lightyear (WRLD Remix) flac

Half An Orange. 2019.
11 Rachael Yamagata

Is It You flac

Rachael Yamagata. 2019.
12 Lewis Capaldi

Hold Me While You Wait flac

Lewis Capaldi. 2019. Writer: Jamie N Commons;Jamie Hartman;Lewis Capaldi.
13 Christina Perri

Tiny Victories flac

Christina Perri. 2019. Writer: Christina Perri.
14 Of Monsters And Men

Alligator flac

Of Monsters And Men. 2019. Writer: Nanna Bryndís Hilmarsdóttir.
15 Ashley Tisdale

True Romance flac

Ashley Tisdale. 2019. Writer: Scot Stewart;Dylan Mclean;Rachel West;John Feldmann;Ashley Tisdale.
16 Ashley Tisdale

Voices In My Head flac

Ashley Tisdale. 2019. Writer: Whitney Phillips;Scott Stewart;Dylan Mclean;John Feldmann;Ashley Tisdale.
17 Ashley Tisdale

Feeling So Good flac

Ashley Tisdale. 2019. Writer: Ashley Tisdale.
18 Ashley Tisdale

Under Pressure flac

Ashley Tisdale. 2019. Writer: John Feldmann;Ashley Tisdale.
19 Ashley Tisdale

Vibrations flac

Ashley Tisdale. 2019. Writer: Dylan Mclean;Scot Stewart;Rachel West;John Feldmann;Ashley Tisdale.
20 Ashley Tisdale

Looking Glass flac

Ashley Tisdale. 2019. Writer: Dylan Mclean;Scot Stewart;Rachel West;John Feldmann;Ashley Tisdale.

9 Comments

UrbanAmazon
burnerstein
SinceGranTurismo
EricADJ
Maxima Speed: Wants a Kona Blue F-150

Suggested posts

Other Patrick Lucas Austin's posts

Language