Ako inteligentné reproduktory, ako sú Alexa a Siri, posilňujú rodovú zaujatosť
UNESCO vyzýva technologické firmy, aby ponúkali rodovo neutrálne verzie svojich hlasových asistentov
HomePod od Apple poháňa hlasová asistentka Siri
Justin Sullivan/Getty Images
Inteligentné reproduktory poháňané hlasovými asistentmi umelej inteligencie (AI), ktoré znejú ako ženy, podľa novej správy OSN posilňujú rodovú zaujatosť.
Výskum UNESCO (Organizácia OSN pre vzdelávanie, vedu a kultúru) zistil, že asistenti umelej inteligencie ako Alexa od Amazonu a Siri od Apple udržiavajú myšlienku, že ženy by mali byť podriadené a tolerantné voči zlému zaobchádzaniu, pretože systémy sú ochotné a dychtivé potešiť, The Daily Telegraph správy.
Správa nazvaná Sčervenal by som sa, keby som mohol, v odkaze na frázu, ktorú vyslovil Siri po sexuálnom komentári – uvádza, že technologické spoločnosti, ktoré štandardne robia svojich hlasových asistentov ženami, naznačujú, že ženy sú poslušné pomocníčky, ktoré môžu byť dostupné na dotyk. gombíka, dodávajú noviny.
Agentúra tiež obviňuje technologické spoločnosti, že nedokázali vybudovať náležité záruky proti nepriateľskému, urážlivému a rodovo podmienenému jazyku. The Verge .
Namiesto toho väčšina AI reaguje na agresívne komentáre prefíkaným vtipom, poznamenáva stránka s technickými správami. Keď vás Siri požiada, aby urobil napríklad sendvič, povie: Nemôžem. nemám žiadne koreniny.
Spoločnosti ako Apple a Amazon, v ktorých pracujú prevažne mužské inžinierske tímy, vytvorili systémy umelej inteligencie, ktoré spôsobujú, že ich feminizované digitálne asistentky vítajú slovné napádanie flirtovaním typu „chyť ma, ak to dokážeš“, uvádza správa UNESCO.
Čo zistil iný výskum?
Správa UNESCO cituje množstvo štúdií vrátane výskumu americkej technologickej firmy Robin Labs, ktorá naznačuje, že najmenej 5 % interakcií s hlasovými asistentmi je jednoznačne sexuálne explicitných.
A spoločnosť, ktorá vyvíja digitálnych asistentov, verí, že toto číslo bude pravdepodobne oveľa vyššie v dôsledku ťažkostí s detekciou sexuálne sugestívnej reči, The Guardian správy.
Agentúra OSN poukazuje aj na štúdiu výskumnej spoločnosti Gartner, ktorá predpovedá, že ľudia budú mať do roku 2020 viac konverzácií s hlasovým asistentom vo svojom inteligentnom reproduktore ako ich manželia.
Hlasoví asistenti už spravujú odhadom jednu miliardu úloh mesačne, od prehrávania skladieb až po kontaktovanie pohotovostných služieb.
Hoci niektoré systémy umožňujú používateľom zmeniť pohlavie svojho hlasového asistenta, väčšina z nich štandardne aktivuje zjavne ženské hlasy BBC správy.
Správa UNESCO dospela k záveru, že táto zjavná rodová zaujatosť si vyžaduje naliehavú pozornosť.
Ako by mohli technologické spoločnosti tento problém riešiť?
UNESCO tvrdí, že firmy by mali byť povinné prinútiť svojich hlasových asistentov oznámiť, že nie sú ľudia, keď komunikujú s ľuďmi. The Sunday Times .
Agentúra tiež navrhuje, aby používatelia mali možnosť vybrať si pohlavie svojho hlasového asistenta, keď dostanú nové zariadenie, a že by mala byť k dispozícii rodovo neutrálna možnosť, dodávajú noviny.
Okrem toho by technické firmy mali naprogramovať hlasových asistentov, aby odsúdili verbálne obťažovanie alebo sexuálne obťažovanie odpoveďami typu nie alebo to nie je vhodné, hovorí UNESCO.
Technologické spoločnosti zatiaľ na štúdiu nereagovali.
