Pondělí, 7 října, 2024

Rasističtí roboti se špatné chování učí od lidí z internetu, ukázala studie

Mohlo by vás zajímat

Nová studie varuje, že rasističtí roboti si osvojují bigotní postoje tím, že se učí špatnému chování na internetu.

- Reklama -

Tým vědců z Georgijského technologického institutu a Washingtonské univerzity tvrdí, že jejich studie je první, která ukazuje, že roboti používající program CLIP pro umělé inteligence mohou mít stejné společenské předsudky jako lidé na internetu.

Vědci se oprávněně obávali, co by podobné zkreslení mohlo v budoucnu znamenat pro autonomní stroje, které se fyzicky rozhodují bez lidského vedení. Tým postdoktoranda Andrewa Hundta otestoval veřejně stažitelný model umělé inteligence pro roboty, který byl vytvořen pomocí neuronové sítě CLIP jako způsob, jak pomoci stroji „vidět“ a identifikovat objekty podle jména.

Robot, co má radši bělochy

Android vyzbrojený umělou inteligencí od CLIPu vykazoval v průběhu studie znepokojivé předsudky týkající se pohlaví a barvy pleti – dával přednost mužům před ženám a bělochům před černochy!

Hlavní autor studie Andrew Hundt upozorňuje, že výzkumníci, kteří trénují modely umělé inteligence k rozpoznávání lidských vlastností, často k jejich učení používají volně dostupná a nefiltrovaná data z internetu – která jsou ale plná neobjektivního obsahu.

„Robot se díky těmto chybným modelům neuronových sítí naučil toxické stereotypy, které vykazují lidé na internetu,“ vysvětluje Hundt. „Hrozí, že vytvoříme generaci rasistických a sexistických robotů. A bohužel to zatím vypadá, žee lidé a organizace se rozhodli, že je v pořádku vytvářet tyto produkty, aniž by se těmito problémy zabývali.“

Budou roboti hrozbou pro menšiny?

Tým konstatuje, že znepokojivá zjištění – která přicházejí po odhalení jednoho inženýra z Googlu, že počítačová síť společnosti Google je živá – „bohužel už nikoho nepřekvapí“. Podle vědců je proto třeba co nejdříve provést systematické změny ve výzkumu a praxi při studiu a tvorbě samostatně myslících androidů!

„Mělo by se předpokládat, že každý takový robotický systém bude pro marginalizované skupiny nebezpečný, dokud se neprokáže opak,“ varuje spoluautor William Agnew z Washingtonské univerzity.

Zdroj:

studyfinds.org, Metro.co.uk, sciencedaily.com

- Reklama -

Podobné články

- Reklama -

Také jsme psali

Kdo byl legendární Robin Hood? Skutečně existoval hrdina, který bohatým bral a chudým dával, nebo bylo všechno úplně jinak…

V roce 1226 se v soudních dokumentech York Assizes objevil zápis o osobě jménem Robert Hot. Když mu byl zabaven majetek v hodnotě 32...

Chcete luxusní auto zdarma? Dubaj se proměnila v skládku supervozů. Stačí si vybrat, nasednout a odjet

Spojené arabské emiráty jsou díky ropě jedním z nejbohatších států světa a staly se zemí zaslíbenou pro mnoho přistěhovalců hledajících práci. Tisíce lidí zavítaly...

Odvrácená strana Měsíce: Čínský objev, který otřásl vědeckým světem

Čínská mise Chang’e-4 se postarala o pořádný rozruch. Vědci díky ní odhalili, co všechno se skrývá na odvrácené straně Měsíce. A výsledky jsou fascinující.

Glosa: Hráči českého národního týmu bojovali jako lvi, ukázali víc, než si připouštíme

Hráči našeho národní tým v německém Hamburku bojovali jako lvi. Na mistrovství Evropy roku 2024 se postavili tureckým sokům s odhodláním, které lze jen stěží popsat slovy. To, co se odehrálo na trávníku, bylo více než jen sportovní utkání; byla to skutečná bitva ducha a odvahy.

Félicette, kočičí astronautka: Málem zapomenutá hrdinka Země se nakonec dočkala pocty

Na fotografiích nevypadá příliš šťastně. Možná ale její zaskočený výraz způsobila skutečnost, že měla v mozku implantovanou elektrodu. Ovšem takhle se o slavné kočičí...

Jak vyprat kšiltovku: Návod, podle kterého to zvládne i nešikovný chlap

Stačí pár let nošení a z vaší milované čepice se stane potem zasmrádlá ostuda, která je nejspíš na mnoha místech vcelku odpudivá nebo dokonce...

Posilování v Antice: Jak se cvičilo v době kalokagathia

Pro lepší přehled, jak se posilování v antice lišilo od toho dnešního, ho budeme srovnávat se současnými zásadami sportovního tréninku. Ať už jde o...

Jeremy Clarkson: Vyloučili ho před maturitou, ke slávě mu pomohla neuctivost

Jeremy Charles Robert Clarkson se narodil 11. dubna 1960 v Doncasteru v Jižním Yorkshiru Shirley a Eddiemu Clarksonovým. Shirley byla učitelkou na základní škole...

Válka dronů už není sci-fi: V Severní Dakotě poslali bojovat s kriminalitou do ulic ozbrojené stroje

Dle ministerstva obrany je nesmrtící, neboli neletální zbraň je definovaná jako:„Neletální zbraně (Non-Lethal Weapons) jsou takové zbraně, které mají na určitou dobu vyřadit z...

Dopisy starořímského vojáka matce ukázaly armádní zvyklosti ve zcela novém světle

Dopis nese datum února roku 108 n. l. a Apollinarius ho odeslal matce Tasoucharion do egyptské Alexandrie z Bostry v Arábii, kde působil...
- Reklama -