Sobota, 25 května, 2024

Rasističtí roboti se špatné chování učí od lidí z internetu, ukázala studie

Mohlo by vás zajímat

Nová studie varuje, že rasističtí roboti si osvojují bigotní postoje tím, že se učí špatnému chování na internetu.

- Reklama -

Tým vědců z Georgijského technologického institutu a Washingtonské univerzity tvrdí, že jejich studie je první, která ukazuje, že roboti používající program CLIP pro umělé inteligence mohou mít stejné společenské předsudky jako lidé na internetu.

Vědci se oprávněně obávali, co by podobné zkreslení mohlo v budoucnu znamenat pro autonomní stroje, které se fyzicky rozhodují bez lidského vedení. Tým postdoktoranda Andrewa Hundta otestoval veřejně stažitelný model umělé inteligence pro roboty, který byl vytvořen pomocí neuronové sítě CLIP jako způsob, jak pomoci stroji „vidět“ a identifikovat objekty podle jména.

Robot, co má radši bělochy

Android vyzbrojený umělou inteligencí od CLIPu vykazoval v průběhu studie znepokojivé předsudky týkající se pohlaví a barvy pleti – dával přednost mužům před ženám a bělochům před černochy!

Hlavní autor studie Andrew Hundt upozorňuje, že výzkumníci, kteří trénují modely umělé inteligence k rozpoznávání lidských vlastností, často k jejich učení používají volně dostupná a nefiltrovaná data z internetu – která jsou ale plná neobjektivního obsahu.

„Robot se díky těmto chybným modelům neuronových sítí naučil toxické stereotypy, které vykazují lidé na internetu,“ vysvětluje Hundt. „Hrozí, že vytvoříme generaci rasistických a sexistických robotů. A bohužel to zatím vypadá, žee lidé a organizace se rozhodli, že je v pořádku vytvářet tyto produkty, aniž by se těmito problémy zabývali.“

Budou roboti hrozbou pro menšiny?

Tým konstatuje, že znepokojivá zjištění – která přicházejí po odhalení jednoho inženýra z Googlu, že počítačová síť společnosti Google je živá – „bohužel už nikoho nepřekvapí“. Podle vědců je proto třeba co nejdříve provést systematické změny ve výzkumu a praxi při studiu a tvorbě samostatně myslících androidů!

„Mělo by se předpokládat, že každý takový robotický systém bude pro marginalizované skupiny nebezpečný, dokud se neprokáže opak,“ varuje spoluautor William Agnew z Washingtonské univerzity.

Zdroj:

studyfinds.org, Metro.co.uk, sciencedaily.com

- Reklama -

Podobné články

- Reklama -

Také jsme psali

Britská firma vyvíjí umělý alkohol, který by neměl negativní účinky toho opravdového

Londýnská firma GABA Labs pracuje na vývoji syntetického alkoholu nazvaného 'Alcarelle', který prý poskytne blahodárné účinky alkoholu bez kocoviny, ztráty rovnováhy nebo jiných nepříjemných projevů po pití.

Adrian Carton de Wiart: Voják, o kterém se říkalo, že ho nejde zabít

Při pohledu na válku by člověk řekl, že neponechá člověka beze změny. U kapitána Adriana Carton de Wiarta, muže, jenž se účastnil tří významných válek, zanechala válka nesmazatelnou stopu. Postřelili ho do obličeje, hlavy, břicha, kotníku, nohy, boku a ucha. Kvůli zraněním přišel o zrak na jednom oku a o levou ruku.

Meta používá vaše fotky z Instagramu a Facebooku k tréninku umělé inteligence

Meta, mateřská společnost Facebooku a Instagramu, ohlásila, že použila veřejné obrázky a příspěvky z těchto sociálních médií k tréninku svého nové umělé inteligence.

Největší nákupní centrum světa je v Íránu a vypadá jako malé město

Českému srdci jsou blízké tradiční obchodní domy a krámky, kde se člověk může nechat unést vůní čerstvě upečeného pečiva či dobové atmosféry, ačkoli i my jsme už v posledních letech podlehli lásce k supermarketům. Co když vám povíme o jednom obchodním domě, vedle kterého vypadají i naše největší obchodní centra jako skromné krámečky.

Tálibán představil první afghánské supersportovní auto

Nedávno se afghánská vláda vedená hnutím Tálibán dostala do pozornosti médií, když představila zcela mimořádný výtvor – první afghánský supersportovní vůz s názvem Mada 9.

Sokolík bornejský se pyšní titulem nejmenší pták světa, přes svou roztomilost je to nebezpečný dravec

Ve světě ptactva se většina lidí zajímá o obrovské dravce typu orla, ale my se dnes vydáme na cestu za tajemstvím, kterého ptáčka příroda stvořila jako toho nejmenšího. Je jím Sokolík bornejský.

Kanadská robotická firma představila nejrychlejší boty světa

Z Pittsburghu dorazila zpráva o revolučním vynálezu. Místní na robotiku zaměřená firma se pyšní nejrychlejšími botami na světě, kterým říká Moonwalkers. A slibuje, že jejich užíváním se zvýší rychlost naší chůze až o 250 %.

Slepá japonská vědkyně vymyslela AI kufr pro zrakově postižené

Obyvatelé proslulé říše vědy a techniky, známé jako Japonsko, jsou svědky vznešeného pokroku, jenž nezřídka vyráží dech a otevírá nové obzory v lidském snažení. V nedávné době se na scéně zjevil výtvor, jenž neslouží pouze jako praktický společník, nýbrž rovněž jako význačný symbol lidského ducha a jeho nezlomné touhy překonávat překážky osudu. Jedná se o "AI kufr," technologický úspěch, jenž nese pečeť vynikající slepé vědkyně Chieko Asakawa.

Jaký vliv má testosteron na velikost penisu

Oceňme duchaplnou vědu, která zkoumá tajemství testosteronu, hormonu známého svou neodmyslitelnou spojitostí s mužstvím. Jeho vliv na tělo muže nelze přecenit. Dostatečné množství přirozeného testosteronu v těle může mít pozitivní vliv na různé aspekty zdraví, včetně sexuální touhy a počtu spermií. Má ale i vliv na velikost penisu?

Značky Puma a Adidas stvořila sourozenecká nenávist, co trvala i po smrti

Bavorské město Herzogenaurach je domovem dvou sportovních gigantů – značek Puma a Adidas. Historie obou těchto značek je natolik složitá a plná konfliktů, že se někdy zdá, jako by spíš vycházela přímo z dramatického filmu než z reálného života.
- Reklama -