Vyhubí AI lidstvo? ‚Není to jen strašení,‘ bojí se Romportl. ‚Lidé AI řídí, nejsou pasivní,‘ říká Kačmár
Skupina vědců zveřejnila predikci, v níž varuje před hrozbou umělé inteligence, která může ovládnout svět a vyhubit lidstvo. „Ten černý konec vypadal jako scénář sci-fi katastrofického filmu,“ upozorňuje pro Český rozhlas Plus ředitel pro technologie a bezpečnost Microsoftu Česko a Slovensko Dalibor Kačmář. „Nevidím to jen jako strašen,“ varuje odborník na AI Jan Romportl.
Je varianta, že AI přestane sloužit lidem a obrátí se proti nim, kterou zmiňuje tato predikce, realistickou možností? Nebo je to pouhé strašení?
Dalibor Kačmář: Já jsem si tu zprávu samozřejmě četl. Na počátku to vypadalo jako reflexe na aktuální stav technologie AI, ale pak se to začalo rozvíjet jako scénář katastrofického filmu.
Dokážeme zkrotit AI? Nebo hrozí, že technologie vyhubí lidstvo? Debatují Dalibor Kačmář z Microsoftu a odborník na umělou inteligenci Jan Romportl
Podle vás příliš černý scénář?
Kačmář: Podle mě velmi černý scénář, byť na konci byla jakási volba zeleného, nebo černého tlačítka, která ho dovedla do opravdu špatného konce, anebo naopak do relativně pozitivního konce.
Ten černý konec podle mě vypadal jako scénář typického sci-fi katastrofického filmu. Protože tam, řekněme, chyběly brzdy a akce nebo reakce firem, států a dalších aktérů, kteří dnes s umělou inteligenci pracují.
Pane Romportle, je to podle vás černý scénář, anebo opravdu realistická možnost, že se AI zcela vymkne kontrole?
Jan Romportl: Myslím, že je to velmi dobře udělané v tom smyslu, jak metodologicky k tomu tvůrci přistupovali. To není, že by si pět lidí jen tak sedlo a řeklo: My si myslíme, že se to bude dít takhle a takhle.
Na tom se skutečně podílely stovky expertů, kteří hráli několik desítek simulovaných budoucností, říká se tomu wargaming, za různé hráče, to znamená za firmy, vlády, Čínu, Ameriku.
Rizika AI si uvědomujeme, tvrdí novinář. Černý scénář o konci lidstva považuje za sci-fi
Číst článek
To, že oba scénáře, které tam jsou nastíněné, jsou do určité míry temné, je teď bohužel danost umělé inteligence.
Jeden scénář je v podstatě úplný zánik lidstva ze strany AI. Druhý scénář vypadá tak trochu pozitivně, ale vlastně je v něm lidstvo úplně zbaveno kontroly nad sebou samým a nad svým osudem.
Oba scénáře jsou víceméně plauzibilní. Studie má hlavní problém v tom, že se snaží dělat něco, co je strašně těžké – a to předvídat budoucnost. To je opravdu extrémně těžké, obzvlášť v té fázi, kde se nacházíme teď. To znamená před událostmi typu černých labutí, za které je strašně těžké cokoliv předjímat.
Reálná možnost, nebo strašení?
Ale nevidíte to tedy jenom jako strašení?
Romportl: Nevidím. Určitě to nevidím jako strašení. Je důležité si studii nejdříve přečíst, protože většina lidí se k tomu vyjadřuje, aniž by to opravdu podrobně četla.
V té studii – která je vytvářená formou čtivé prózy, někdy to vypadá, jako byste četl dystopické sci-fi – jsou určité klíčové momenty, kdy se scénáře a větvení dalších událostí láme, a to buď pozitivním, nebo negativním způsobem.
Myslím, že nejdůležitější zpráva pro všechny, kterou studie představuje, je podívat se na tyto klíčové momenty a říct si, co můžeme udělat dobře, abychom zvedli šanci, že se to bude odehrávat směrem k lepšímu.
Chci říct, že šance, že AI způsobí globální katastrofický scénář, je zhruba 15 až 20 procent a akceptují to i sami vlastní tvůrci AI, šéfové velkých AI společností typu OpenAI a podobně.
33:01
Největší riziko AI? Že vytvoří svět, ze kterého se nám nebude chtít vystupovat, míní kybernetik Jiří Matas
Číst článek
Oni jsou naprosto v pořádku s tím, že to možná jedna ku pěti nedopadne dobře. Ale myslím si, že my bychom s tím v souladu být neměli. A ta studie je velmi dobrý i medializovaný bod, který na toto lidi upozorňuje.
Jednoho šéfa velké společnosti máme tady ve studiu. Když jsem se připravoval na tuto diskusi, tak jsem se zeptal přímo umělé inteligence, jestli zahubí lidstvo. ChatGPT mi odpověděl, že záleží na tom, co přesně myslím pod „zahubí“, a že fyzické vyhlazení je „zatím čistě spekulace“. Pane Kačmáři, uklidní vás taková odpověď?
Kačmář: Já bych se možná ještě vrátil k tomu, co říkal pan Romportl. Souhlasím, že ta studie má svou hodnotu v tom, že ukazuje scénáře nebo situace, které by mohly s nějakou pravděpodobností nastat, pokud bychom nekonali a nechali bychom vývoj běžet úplně bez povšimnutí rychlostí a směry, které nikdo neřídí. Kdyby tam chyběla by linka odpovědnosti a dalších procesů.
A mají firmy, jako je třeba Microsoft, nastavená sebeomezující opatření, aby nedošlo k tomu hroznému scénáři?
Kačmář: Než odpovím, tak bych to zkusil postavit do pozitivního světla. Řekl jste, že jste při přípravě použil například ChatGPT.
Který nevyloučil, že nás vyhubí…
Kačmář: Ale použil jste ho. Chci říct, že my už dnes ten svět s umělou inteligencí žijeme a dovedeme v tom velmi dobře vidět pozitivní přínosy, které nám dává.
Situace, kdy jsme schopni předcházet ztrátě zraku obyvatel třetího světa, vyvíjet nové léky na rakovinu, diagnostikovat nemoci, které byly dříve nemyslitelné, v čase, který byl dříve nemyslitelný – to jsou přínosy, které jsou ohromné.
Mají společnosti, které s AI pracují, pod kontrolou její vývoj? A je nutná globální regulace umělé inteligence? Poslechněte si celou diskuzi nahoře v audiozáznamu.
