Může umělá inteligence ohrozit lidstvo a jakou cenu za její rozvoj zaplatí příroda? Filip Dřímalka v pořadu Inside Tech na FocusOn ve speciálu z Cerna.AI Festivalu mluví o rizicích AI i o tom, proč považuje celosvětové zastavení jejího vývoje za nereálné. Upozorňuje přitom na rozdíl, který vzniká už dnes: jedni s AI stavějí vlastní systémy, druzí ji používají jen jako chytřejší vyhledávač.

Debatu o budoucnosti umělé inteligence provázejí obavy z rostoucí spotřeby energie i z možného ohrožení lidstva. Dřímalka krátkodobé negativní dopady připouští, do budoucna ale zůstává optimistický. „Z dlouhodobého hlediska si myslím, že inovace jsou jednou z nejdůležitějších cest, jak zajistit, abychom tady jako lidstvo vydrželi co nejdéle,“ říká.

Regulaci potřebujeme. Zpomalí ale celý svět?

Mnoho lidí včetně vývojářů se obává rychlého vývoje AI a ptá se, zda by nebylo rozumné přibrzdit. Moderátor v rozhovoru zmiňuje i výzkumníka z Anthropicu, který podle jeho slov kvůli obavám z možného ohrožení lidstva podal výpověď.

Modely jsou stále výkonnější a s jejich rostoucími možnostmi přicházejí i otázky, k čemu všemu mohou být využity či zneužity. Dřímalka považuje volání po zpomalení za pochopitelné. „Je to pochopitelný krok, protože nejlepší modely jsou tak výkonné, že mohou pro dobré lidi udělat spoustu dobrého, ale pro lidi, kteří nemají úplně správné úmysly, udělat spoustu škodlivého. Určitá forma regulace je zapotřebí,“ konstatuje. Problém ovšem vidí v tom, jak případná omezení uskutečnit v prostředí, kde spolu soupeří různé firmy a země.

„Představa, že teď najednou všichni zpomalí nebo zastaví vývoj, je podle mě absolutně nerealistická,“ upozorňuje. Debata se proto podle něj musí zabývat také proveditelností navrhovaných opatření. Sám doporučuje vnímat rizika a současně se soustředit na to, co může člověk ovlivnit.

Dva světy vznikají už dnes

Dřímalka připomíná předpověď spoluzakladatele Anthropicu Jacka Clarka, podle něhož se lidé používající špičkové modely AI budou v létě 2026 cítit, jako by oproti ostatním žili v paralelním světě. Podobné rozdělení podle Dřímalky už nastalo. Popisuje ho jako bifurkaci, tedy rozvětvení podobné řece, která se rozdělí do dvou proudů.

„Jsou lidé, kteří dnes pracují s agenty, stavějí systémy a dělají neuvěřitelné věci. Vedle toho jsou lidé, kteří to stále používají jako chytřejší Google,“ říká. Rozdíly vidí při pohovorech i při jednáních s vedením společností. Podle něj budou přibývat také situace, kdy pokročilí uživatelé nebudou chtít spolupracovat s lidmi, kteří AI nepoužívají.

Celý rozhovor si můžete pustit jako video nebo podcast:

• Proč podle Dřímalky evropské AI firmy obtížně dohánějí náskok předních světových hráčů?

• Jaké konkrétní výsledky práce s AI chce při náboru vidět místo životopisu?

• Jak ve firmě oddělit ověřené informace od zastaralých podkladů, ze kterých by AI mohla čerpat?

• Co se změnilo v aktualizovaném vydání jeho knihy a které principy podle něj stále platí?

• Které dvě dovednosti doporučuje dětem a studentům, aby je změny spojené s AI nezaskočily?