Ang Microsoft 'Nagpapabuti' ng Software sa Pagkilala sa Racist Facial

Patrick Lucas Austin 01/13/2019. 9 comments
Microsoft AI Facial Recognition

Sa isang self-congratulatory move, inihayag ng Microsoft ang ilang mga pangunahing pagpapabuti ngayon sa nito sa panimula biased facial recognition software . Ang Azure-based Face API ay sinaway sa isang research paper mas maaga sa taong ito dahil sa error rate nito-hanggang 20.8 porsiyento-kapag sinusubukang kilalanin ang kasarian ng mga taong kulay, lalo na ang mga kababaihan na may mas matingkad na kulay ng balat. Sa kaibahan, ang Microsoft's AI ay nakilala ang kasarian ng mga larawan ng "mas magaan na mga mukha ng lalaki" na may error rate na zero percent, ang pag-aaral ay napagpasyahan.

Tulad ng ibang mga kumpanya na bumubuo ng tech sa pagkilala ng mukha, ang Microsoft ay walang sapat na mga imahe ng mga itim at kayumanggi na tao, at nagpakita ito sa mga resulta ng pagsubok sa pagkilala nito. Ang blog post ng Microsoft ngayon ay naglalagay ng pansin sa pangunahing data na ginamit nito sa pagtatayo ng facial recognition software, na nagpapahiwatig na ang mga ganitong teknolohiya ay "lamang kasing dami ng data na ginagamit upang sanayin ang mga ito." Isinasaalang-alang ang mabigat na suliranin, ang pinaka-halata ayusin ay isang bagong dataset na naglalaman ng higit pang mga larawan ng mga taong kayumanggi, na ginagamit ng Microsoft.

"Ang team Face ng API ay gumawa ng tatlong malaking pagbabago. Sila ay pinalawak at binagong pagsasanay at mga benchmark dataset, naglunsad ng mga bagong pagsisikap sa pagkolekta ng data upang mapabuti ang data ng pagsasanay sa pamamagitan ng pagtutuon ng pansin sa tono ng balat, kasarian at edad, at pinabuti ang klasipikasyon upang makabuo ng mas mataas na mga resulta ng katumpakan. "Sa pinakabagong batch ng mga pagpapabuti, ang Microsoft sinabi nito na mabawasan ang mga rate ng error para sa mga kalalakihan at kababaihan na may mas matingkad na balat sa pamamagitan ng hanggang 20 beses. Para sa lahat ng mga kababaihan, sinabi ng kumpanya na ang mga error rate ay nabawasan ng siyam na beses.

Ang isang mabilis na sulyap sa pahina ng Microsoft's Face API ay nagbibigay sa iyo ng isang pahiwatig kung bakit ang software ng pagkilala ng Microsoft ay maaaring hindi napakahusay sa pagtukoy ng mas madidilim na mga mukha:

Sa post na blog, ang mahuhusay na manunulat ng Microsoft na si Hanna Wallach ay humipo sa isa sa mas malawak na mga pagkakamali ng industriya, na napapansin kung paano ang data na nabuo ng isang biased na lipunan ay humahantong sa mga resulta ng kampi kapag ito ay dumating sa mga sistema ng pagsasanay sa pag-aaral ng machine. "Nagkaroon kami ng mga pag-uusap tungkol sa iba't ibang paraan upang makita ang mga bias at pagpapatakbo ng pagiging patas," sabi ni Wallach. "Usapan namin ang mga pagsisikap sa pagkolekta ng data upang pag-iba-ibahin ang data ng pagsasanay. Nag-usapan kami tungkol sa iba't ibang mga estratehiya para sa panloob na pagsubok sa aming mga system bago namin ilaan ang mga ito. "

Ang kabiguan dito ay hindi lamang na ang tech ay hindi gumagana ng maayos para sa sinuman na hindi puti at lalaki. Gayundin, ang mga problema ay hindi nagtatapos sa Microsoft na nakakakuha ng tunay mabuti sa pagtukoy at gendering mga itim at kayumanggi mga tao.

Noong Enero, sinabi ng Microsoft na ang ICE ay magiging gamit ang Azure Government Cloud service nito , sa bahagi sa "proseso ng data sa mga aparatong gilid o gumamit ng malalim na kakayahan sa pag-aaral upang mapabilis ang pangmukha na pagkilala at pagkakakilanlan." Ang patalastas ay nakatuon sa ngayon sa mga empleyado na humihiling sa kumpanya upang ikansela ang kontrata nito sa ahensiya ng gobyerno.

Kahit na ang mukha ng pagkilala sa tech ay nagiging mas pinaliit, maaari pa rin itong weaponized laban sa mga tao ng kulay. Noong Lunes, ang CEO ng face start recognition si Kairos, si Brian Brackeen, ay nagsulat ng op-ed na nagpapaliwanag kung paano mapanganib ang teknolohiya ay maaaring nasa mga kamay ng gobyerno at pulisya.

HighResolutionMusic.com - Download Hi-Res Songs

1 Ariana Grande

7 Rings flac

Ariana Grande. 2019. Writer: Tayla Parx;Kimberly Krysiuk;Njomza Vitia;Scootie;Tommy Brown;Richard Rogers;Oscar Hammerstein II;Crazy Mike;Victoria Monét;Ariana Grande.
2 Alan Walker

Lily flac

Alan Walker. 2018. Writer: Alan Walker;Lars Kristian Rosness;Magnus Bertelsen;K-391;Didrik Handlykken;Marcus Arnbekk.
3 Alec Benjamin

Let Me Down Slowly flac

Alec Benjamin. 2019. Writer: Alec Benjamin;Sir Nolan;Michael Pollack.
4 Alan Walker

Lost Control flac

Alan Walker. 2018. Writer: Alan Walker;Thomas Troelsen;Mood Melodies;Sorana;Fredrik Borch Olsen;Magnus "Magnify" Martinsen.
5 Skylar Grey

Everything I Need flac

Skylar Grey. 2018. Writer: Elliott Taylor;Rupert Gregson-Williams;Skylar Grey.
6 Westlife

Hello My Love flac

Westlife. 2019. Writer: Steve Mac;Ed Sheeran.
7 Conor Maynard

Way Back Home (Sam Feldt Edit) flac

Conor Maynard. 2018. Writer: Ji Hye Lee;Shaun.
8 Post Malone

Sunflower flac

Post Malone. 2018. Writer: Carl Rosen;Louis Bell;Billy Walsh;Carter Lang;Swae Lee;Post Malone.
9 Alan Walker

Different World flac

Alan Walker. 2018. Writer: Shy Nodi;Alan Walker;Fredrik Borch Olsen;James Njie;Marcus Arnbekk;Gunnar Greve Pettersen;K-391;Corsak;Shy Martin;Magnus Bertelsen.
10 Sam Smith

Fire On Fire flac

Sam Smith. 2018. Writer: Steve Mac;Sam Smith.
11 The Chainsmokers

Hope flac

The Chainsmokers. 2018. Writer: Kate Morgan;Chris Lyon;Alex Pall;Andrew Taggart.
12 Normani

Dancing With A Stranger flac

Normani. 2019. Writer: Mikkel S. Eriksen;Tor Hermansen;Jimmy Napes;Normani;Sam Smith.
13 Slushii

Never Let You Go flac

Slushii. 2019. Writer: Sofía Reyes;Slushii;Aviella Winder.
14 Imagine Dragons

Believer flac

Imagine Dragons. 2019. Writer: Dan Reynolds;Lil Wayne;Wayne Sermon;Ben McKee;Daniel Platzman;Robin Fredriksson;Mattias Larsson;Justin Tranter.
15 Skrillex

Face My Fears flac

Skrillex. 2019. Writer: Poo Bear;Skrillex;Utada Hikaru.
16 Mike Perry

Runaway flac

Mike Perry. 2019. Writer: Andreas Wiman;Dimitri Vangelis;Richard Müller;Sasha Rangas;Stefan Van Leijsen;Mike Perry.
17 Alan Walker

I Don't Wanna Go flac

Alan Walker. 2018.
18 Gesaffelstein

Lost In The Fire flac

Gesaffelstein. 2019. Writer: Ahmad Balshe;Nate Donmoyer;Gesaffelstein;DaHeala;The Weeknd.
19 Hozier

Almost (Sweet Music) flac

Hozier. 2019. Writer: Hozier.
20 Matt Wertz

Fences flac

Matt Wertz. 2019.

9 Comments

UrbanAmazon
burnerstein
SinceGranTurismo
EricADJ
Maxima Speed: Wants a Kona Blue F-150

Suggested posts

Other Patrick Lucas Austin's posts

Language