Mobilné Správy, Gadgety, Blogy's Secenziami

Systémy rozpoznávania hlasu majú rasovú zaujatosť

io9.gizmodo

V posledných rokoch sa technologické spoločnosti zamerali na vývoj inteligentných asistentov, ktorí konajú prostredníctvom rozpoznávania hlasu. Alexa de AmazonSiri od spoločnosti Apple sa okrem iného často používa aj dnes, ale súčasné štúdie ukazujú, že tieto systémy nie sú celkom efektívne, pretože vykazujú zaujatosť, najmä na rozlíšenie hlasov. od bielych ľudí z čiernych.

Štúdia má pravdu „Rasové rozdiely v automatickom rozpoznávaní reči“, Vedenie Stanfordskej univerzity naznačuje, že tieto systémy rozpoznávania hlasu majú významné rasové schopnosti, pričom rozdiely medzi hlasmi bielych a afrických amerických obyvateľov sú rozdielne.

Naše výsledky poukazujú na prekážky, ktorým africkí Američania čelia pri používaní komplexnejších nástrojov využívajúcich technológiu rozpoznávania hlasu.

systém Amazon, Apple, Google, IBM a Microsoft

Zdá sa, že všetky technológie, systémy strojového učenia a zložité algoritmy používané technologickými gigantmi nestačia na nápravu zničenia rasy nájdeného v systémoch rozpoznávania hlasu, pretože vedci ich testovali bezvýsledne. povzbudivé.

Štúdie sa uskutočnili na skupine čiernych a bielych ľudí, pričom výsledky naznačujú pozoruhodné rozdiely od 19% chýb pri rozpoznávaní hlasov bielych ľudí až po 35% chýb pri uznávaní afrických amerických obyvateľov:

Tu skúmame kapacitu piatich systémov ASR novej generácie – vyvinutých spoločnosťou Amazon, Apple, Google, IBM a Microsoft – prepis štruktúrovaných rozhovorov s 42 bielymi a 73 čiernymi rečníkmi.

Zistili sme, že všetkých päť systémov ASR vykázalo významné rasové rozdiely s priemernou chybou slov (WER) 0, 35 pre čierne reproduktory v porovnaní s 0, 19 pre biele reproduktory.

Systémy rozpoznávania hlasu majú rasovú zaujatosť 1 Zdroj: pnas.org

Rušivá chovateľská schopnosť rôznych technológií

Hoci technologickí giganti vyvinuli dobré techniky, aby sa pokúsili uľahčiť každodenný život, napríklad systémy rozpoznávania tváre, virtuálnych asistentov a tieto systémy rozpoznávania hlasu, je znepokojujúce, že africkí Američania sú v súčasnosti postihnutí nízkou presnosťou týchto nástrojov nielen na rozpoznávanie fyzických funkcií, ale tiež ich hlasy.

„Sledovali sme tieto rozdiely k základným akustickým modelom používaným v systémoch ASR, pretože rasový rozdiel bol rovnaký v podskupine identických fráz, ktoré v našom korpuse hovorili čiernobiele osoby.“

V štúdii vedci vyjadrili obavy, že „systémy rozpoznávania reči trpia rasovou zaujatosťou“, ktorá sa objavila v iných aplikáciách strojového učenia.

Žiadajú tiež rozšírenie zdroja údajov pre systémy rozpoznávania hlasu, „Ako rozmanitejšia sada vzdelávacích údajov, ktorá zahŕňa domorodú americkú angličtinu“ zaručiť a „Inkluzívna technológia“.

Štúdia ukazuje ďalšiu prekážku, s ktorou sa občania Afroameričania stretávajú pri používaní alebo vystavení tejto technológii, keď s nimi nie je manipulované alebo vyškolení na rozpoznávanie údajov od černochov.

Vedci požadovali túto potrebu "Audit Machine Learning System" zabezpečiť, aby tieto zahŕňali komplexný počítačový systém vrátane.