Pátek, 7 února, 2025

Rasističtí roboti se špatné chování učí od lidí z internetu, ukázala studie

- Reklama -

Mohlo by vás zajímat

Nová studie varuje, že rasističtí roboti si osvojují bigotní postoje tím, že se učí špatnému chování na internetu.

- Reklama -

Tým vědců z Georgijského technologického institutu a Washingtonské univerzity tvrdí, že jejich studie je první, která ukazuje, že roboti používající program CLIP pro umělé inteligence mohou mít stejné společenské předsudky jako lidé na internetu.

Vědci se oprávněně obávali, co by podobné zkreslení mohlo v budoucnu znamenat pro autonomní stroje, které se fyzicky rozhodují bez lidského vedení. Tým postdoktoranda Andrewa Hundta otestoval veřejně stažitelný model umělé inteligence pro roboty, který byl vytvořen pomocí neuronové sítě CLIP jako způsob, jak pomoci stroji „vidět“ a identifikovat objekty podle jména.

Robot, co má radši bělochy

Android vyzbrojený umělou inteligencí od CLIPu vykazoval v průběhu studie znepokojivé předsudky týkající se pohlaví a barvy pleti – dával přednost mužům před ženám a bělochům před černochy!

Hlavní autor studie Andrew Hundt upozorňuje, že výzkumníci, kteří trénují modely umělé inteligence k rozpoznávání lidských vlastností, často k jejich učení používají volně dostupná a nefiltrovaná data z internetu – která jsou ale plná neobjektivního obsahu.

„Robot se díky těmto chybným modelům neuronových sítí naučil toxické stereotypy, které vykazují lidé na internetu,“ vysvětluje Hundt. „Hrozí, že vytvoříme generaci rasistických a sexistických robotů. A bohužel to zatím vypadá, žee lidé a organizace se rozhodli, že je v pořádku vytvářet tyto produkty, aniž by se těmito problémy zabývali.“

Budou roboti hrozbou pro menšiny?

Tým konstatuje, že znepokojivá zjištění – která přicházejí po odhalení jednoho inženýra z Googlu, že počítačová síť společnosti Google je živá – „bohužel už nikoho nepřekvapí“. Podle vědců je proto třeba co nejdříve provést systematické změny ve výzkumu a praxi při studiu a tvorbě samostatně myslících androidů!

„Mělo by se předpokládat, že každý takový robotický systém bude pro marginalizované skupiny nebezpečný, dokud se neprokáže opak,“ varuje spoluautor William Agnew z Washingtonské univerzity.

Zdroj:

studyfinds.org, Metro.co.uk, sciencedaily.com

- Reklama -

Podobné články

- Reklama -

Také jsme psali

Země s největší zlatou rezervou na Zemi 4krát překonala Čínu a Rusko

Zlato. Symbol bohatství, moci a jistoty už po tisíce let. Ani v digitálním věku plném virtuálních měn a algoritmů neztratilo na významu. Tenhle cenný...

Trumpovi s ukončením války Ruska s Ukrajinou pomůže Musk, tvrdí moderátor Piers Morgan

Když se Piers Morgan, známý moderátor a publicista, pustil do předpovědí o budoucnosti konfliktu Ruska s Ukrajinou, znělo to trochu jako příběh ze sci-fi románu. Morgan totiž s neochvějnou jistotou tvrdí, že budoucí americký prezident Donald Trump opravdu okamžitě přinese mír mezi Ruskem a Ukrajinou. Jak to podle něj udělá?

Věda našla neočekávané využití pro zbytky kávy, které běžně vyhazujeme

Věda někdy najde úspěšné použití pro obyčejné věci, které máme denně na dosah ruky. To, co na první pohled vypadá jako pouhá kuriozita, může mít zásadní vliv na naši budoucnost. Přesně takovým objevem je nový druh betonu, při jehož výrobě se využívá kávový lógr.

Robovan: Nový autonomní dopravní prostředek Tesly s kapacitou pro 20 cestujících

Představte si svět, kde lidé nastupují do aut a autobusů bez řidičů. Je už zatraceně blízko. Alespoň to naznačila velkolepá akce v Burbanku, kde společnost Tesla představila vedle očekávaného Robotaxi i něco, co by se dalo nazvat autobusem budoucnosti – Robovan.

Nová zjištění o Etruscích: Překvapivé jídlo pro nejmenší a problémy, kterým museli čelit

Představte si, že jste rodičem v době, kdy svět ještě nepoznal slávu Říma. Vaše dítě pláče hlady, vy ale nemáte dost jídla, abyste mu mohli pomoct. Nebo onemocní – a vy víte, že mu možná nebudete schopni zachránit život. Jaké bylo žít mezi Etrusky, tajemným národem, který položil základy slavné římské civilizace?

Jak vypukla nejkratší válka v dějinách: Konflikt trval pouhých 38 minut, ale způsobil spoušť

Nejkratší válka v dějinách trvala pouhých 38 minut. Začala smrtí sultána a ambicí mladého následníka. Na Zanzibaru se díky tomu na konci 19. století střetla troufalost místního vládce s nekompromisní silou britského impéria. Jak to dopadlo?

Nová funkce WhatsApp: Přepisování hlasových zpráv do textu. Jak ho aktivovat?

Svět moderní komunikace je bohatý na rozmanité způsoby, jak si lidé sdělují své myšlenky a pocity. WhatsApp nyní přichází s funkcí, která může změnit způsob, jakým používáme hlasové zprávy.

Tohle nikdo nečekal: Odborníci varují před hotovostí

Běžné mince a bankovky nejsou jen prostředkem směny – skrývají v sobě i něco, co bychom si nepřáli. Jsou nositelé života.

Globální oteplování promění moře a oceány ve vodní pouště

Ještě nikdy v dějinách naší planety se oceány neoteplovaly tak rychle jako dnes. Studie vědců z Univerzity v Bristolu, publikovaná v časopise Nature, přináší varovný obraz o budoucnosti mořského života.

Co umí (a jak) robotický asistent Elona Muska

Na světě je mnoho podivuhodností, ale snad žádná nebudí tak smíšené pocity jako robot, který vypadá, kráčí a pracuje téměř jako člověk.
- Reklama -