V časech, kdy si společnost a její představitelé mění významy slov podle potřeby třeba i několikrát za den, jsme v pasti. Ze slov se stávají jen prázdné skořápky. Za takové situace nejsme schopní ostatní krize přesně pojmenovat, a tudíž se proti nim bránit. Zvlášť, když Američané vyzývají  k rozbití systému ověřování faktů v celé naší civilizaci. Občané se pak mění v lehce manipulovatelné stádo, které se v situaci, v níž se nalézá, nevyzná, a proto lehce následuje nějakého pištce, jako v německé pověsti děti v Hamelnu následovaly Krysaře, pro kterého je lež běžným pracovním nástrojem. A začnou-li Krysařovy lži šířit webové platformy, sociální sítě, algoritmy a umělá inteligence: skutečnost se v  umělém obrazu světa stane nepatrnou součástí, kterou člověk těžko najde.

Jenže, to jsme teprve na začátku procesu, který nás může brzy nejen ohrozit, ale i ochromit. Americký vědec Daniel Kokotajlo v dubnu vypracoval dva scénáře ohrožení: Podle prvního se Spojeným státům podaří umělou inteligenci regulovat tak, aby technika sloužila jejich tvůrcům, i když i tato příznivější varianta neřeší hlavní problém: většina lidské práce bude nadbytečná.

Druhý scénář upozorňuje na možnost, že Spojené státy a Čína budou mezi sebou soutěžit ve vývoji umělé inteligence, což povede k tomu, že se promešká schopnost její regulace. V tomto případě by podle Kokotajla v roce 2030 nová superinteligentní umělá inteligence by si sama uvědomila, že ji lidstvo zabraňuje v dalším vývoji a obrátila by se proti němu.

Řada vědců s ním nesouhlasí. On ale namítá, že vedoucí firmy, které se zabývají umělou inteligencí už další výzkum automatizují, a proto se může stát, že již v roce 2027 budeme mít virtuální softvérové vývojáře, kteří budou lepší a rychlejší než lidé. A když se umělá inteligence bude sama dál vyvíjet, bude to trvat jen pár měsíců, či roků, abychom měli superinteligetní umělou inteligenci.

Abychom si lépe představili, co taková umělá inteligence ve skutečnosti je, uvádí Daniel Kokotajlo následující metaforu: Představte si lidský mozek, který je spojen s virtuální realitou místo s tělem a tato virtuální realita může mozku poskytovat zdánlivě nekonečné množství informací. Důsledek je zřejmý: virtuální agent bude kompetentnější a lepší než člověk v kterémkoliv oboru.

Evropská unie proto rozhodla, že od 2. srpna 2025 vstoupí v platnost soubor pravidel, který má zvýšit transparentnost a posílit ochranu uživatelů, a tím omezit rizika s nimi spojená. Problém ale je, že skutečná nebezpečí se nerodí v Evropě, ale jak Kokotajla říká v soutěži USA s Čínou. A i toto nebezpečí přesně pojmenovat nám zabraňuje sémantická krize: naopak otevírá jen nové šance pro ty Krysaře, kteří na ni chtějí vydělávat.

Napsáno pro ČRo Plus.