Nová studie varuje, že rasističtí roboti si osvojují bigotní postoje tím, že se učí špatnému chování na internetu.
Tým vědců z Georgijského technologického institutu a Washingtonské univerzity tvrdí, že jejich studie je první, která ukazuje, že roboti používající program CLIP pro umělé inteligence mohou mít stejné společenské předsudky jako lidé na internetu.
Vědci se oprávněně obávali, co by podobné zkreslení mohlo v budoucnu znamenat pro autonomní stroje, které se fyzicky rozhodují bez lidského vedení. Tým postdoktoranda Andrewa Hundta otestoval veřejně stažitelný model umělé inteligence pro roboty, který byl vytvořen pomocí neuronové sítě CLIP jako způsob, jak pomoci stroji „vidět“ a identifikovat objekty podle jména.
Robot, co má radši bělochy
Android vyzbrojený umělou inteligencí od CLIPu vykazoval v průběhu studie znepokojivé předsudky týkající se pohlaví a barvy pleti – dával přednost mužům před ženám a bělochům před černochy!
Hlavní autor studie Andrew Hundt upozorňuje, že výzkumníci, kteří trénují modely umělé inteligence k rozpoznávání lidských vlastností, často k jejich učení používají volně dostupná a nefiltrovaná data z internetu – která jsou ale plná neobjektivního obsahu.
„Robot se díky těmto chybným modelům neuronových sítí naučil toxické stereotypy, které vykazují lidé na internetu,“ vysvětluje Hundt. „Hrozí, že vytvoříme generaci rasistických a sexistických robotů. A bohužel to zatím vypadá, žee lidé a organizace se rozhodli, že je v pořádku vytvářet tyto produkty, aniž by se těmito problémy zabývali.“
Budou roboti hrozbou pro menšiny?
Tým konstatuje, že znepokojivá zjištění – která přicházejí po odhalení jednoho inženýra z Googlu, že počítačová síť společnosti Google je živá – „bohužel už nikoho nepřekvapí“. Podle vědců je proto třeba co nejdříve provést systematické změny ve výzkumu a praxi při studiu a tvorbě samostatně myslících androidů!
„Mělo by se předpokládat, že každý takový robotický systém bude pro marginalizované skupiny nebezpečný, dokud se neprokáže opak,“ varuje spoluautor William Agnew z Washingtonské univerzity.
Zdroj:
studyfinds.org, Metro.co.uk, sciencedaily.com