Je to jako příběh z knížky Karla Čapka – stroje získají vlastní vůli a lidstvo náhle stane stát tváří v tvář neznámé síle, kterou samo stvořilo. Přesně před tím varuje Eric Schmidt, bývalý šéf Googlu, který si myslí, že podobný scénář je překvapivě blízko. Umělá inteligence podle něj může brzy získat takovou moc, že ji nedokážeme kontrolovat.
Umělé inteligence se bojí kde kdo, ale přesto dál roste a je pořád chytřejší a schopnější. A právě exponenciální růst schopností AI už straší i bývalého šéfa Googlu Erica Schmidta. Ten v rozhovoru s Georgem Stephanopoulosem z ABC naznačil, že se lidstvo pomalu ale jistě blíží k bodu zlomu: okamžiku, kdy počítače začnou fungovat samostatně, bez lidského zásahu, a kdy si budou samy určovat své cíle.
Bod zlomu je blízko, varuje Schmidt
„Blížíme se k době, kdy budou stroje schopné rozhodovat o tom, co chtějí dělat,“ uvedl. Podle něj tento vývoj může vést k situaci, kdy počítačům zadáme jednoduchý příkaz: „Nauč se všechno a dělej všechno.“
A taková možnost v sobě podle tohoto experta skrývá obrovské nebezpečí. „Pokud se systém začne sám zdokonalovat, musíme vážně uvažovat o tom, zda jej neodpojit,“ varuje Schmidt širokou veřejnost.
Schmidt už v minulosti upozorňoval, že je podobná chvíle docela blízko – odhaduje, že nás od ní dělí pouhé dva až čtyři roky. Spolu s bývalým americkým ministrem zahraničí Henrym Kissingerem se této problematice věnoval v knize Genesis, kde hledali odpověď na otázku: Jak využít neuvěřitelnou moc umělé inteligence a přitom zachovat lidskou důstojnost a hodnoty? „Bude to extrémně obtížné,“ přiznal v rozhovoru Stephanopoulosovi. „Systém se vyvíjí příliš rychle.“
Blíží se války samostatně myslících dronů
Kromě etických otázek Schmidt varuje i před možnými geopolitickými důsledky. Spojené státy podle něj ztrácejí technologický náskok nad Čínou, která v posledních letech v této oblasti dramaticky pokročila. Rivalita mocností se může přenést i do vojenské sféry, kde autonomní systémy poháněné umělou inteligencí naprosto změní nám dosud známou podobu války.
Schmidt nastínil vizi budoucnosti, v níž by sítě řízených AI dronů mohly být klíčovým prvkem při řešení válečných konfliktů. Je podle něj nezbytné, aby lidé zůstali „v rozhodovacím procesu“ a udrželi si nad umělou inteligencí „smysluplnou kontrolu“.
„I když je válka sama o sobě strašlivá,“ říká Schmidt, „přijatelná podoba může být taková, že lidé zůstanou v bezpečné vzdálenosti a zbraně bude ovládat umělá inteligence.“
Kdy bude pozdě?
Podobné nastavení však vyvolává otázku, zda udrží člověk kontrolu nad silou, která je schopná myslet sama za sebe a rozhodovat se rychleji než on?
Schmidtova varování trochu evokují tragické výjevy z Čapkova díla. Lidé v jeho slavné knize R.U.R. stvořili roboty, kteří je nakonec přemohli. A možná, že se neodvratně blíží doba, kdy si jako lidstvo budeme muset položit otázku: nastala naše chvíle „odpojit vše“? A uděláme to, než bude pozdě?
Zdroj: indianexpress.com, san.com