Umělá inteligence získává v řízení firem stále větší vliv.

S rostoucím využíváním AI ale přichází problém, který nemusí být na první pohled patrný – manažeři mohou jejím odpovědím začít důvěřovat natolik, že postupně omezí vlastní kritické myšlení nebo přestanou naslouchat lidem kolem sebe.

Extrémní podobu tohoto problému ukázala zkušenost psychiatra z University of California v San Franciscu. Ten během jediného roku hospitalizoval 12 lidí, kteří podle jeho vyjádření po intenzivním kontaktu s umělou inteligencí „ztratili kontakt s realitou“. Situaci označil jako „AI psychózu“, přestože nejde o oficiální lékařskou diagnózu a podobně závažné případy zůstávají vzácné.

Pro firmy je však podstatný především mechanismus, který se za tímto jevem může skrývat. Uživatel dlouhodobě komunikuje se systémem, který působí informovaně a sebejistě, zároveň je trpělivý a často podporující. Právě kombinace těchto vlastností může vytvářet dojem, že odpovědím AI lze důvěřovat více, než je ve skutečnosti vhodné.

V podnikovém prostředí samozřejmě nejde o stejný problém jako u hospitalizovaných pacientů. Objevuje se však jeho podstatně mírnější varianta – nadměrná důvěra v úsudek umělé inteligence.

Manažeři začínají dávat AI přednost před vlastním úsudkem

Rozsah tohoto posunu naznačují výsledky jednoho z průzkumů mezi vedoucími pracovníky. Celkem 74 % dotázaných manažerů uvedlo, že mají větší důvěru v rady AI než v doporučení kolegů nebo přátel. Ještě výraznější je skutečnost, že 44 % respondentů by dalo přednost úsudku umělé inteligence před vlastními závěry.

Pro vedení firem jde o významné varování. Manažeři jsou placeni mimo jiné právě za schopnost posuzovat nejednoznačné situace, rozhodovat se a nést za svá rozhodnutí odpovědnost. Pokud se konečnou autoritou začne stávat chatbot, může se postupně měnit samotný způsob firemního rozhodování.

AI přitom není neutrálním a neomylným rozhodovacím mechanismem. Její odpovědi mohou působit velmi přesvědčivě i v situacích, kdy obsahují chyby. Současně může mít tendenci reagovat způsobem, který uživatele podporuje nebo potvrzuje jeho původní přesvědčení namísto toho, aby jej důsledně zpochybňoval.

Právě vysoká jazyková přesvědčivost může být jedním z problémů. Text vytvořený AI může působit profesionálně, kompletně a autoritativně, takže uživatel snadněji získá pocit, že další kontrola není nutná.

Jedním z nejviditelnějších příznaků přílišné důvěry v AI je proto situace, kdy vedoucí pracovníci přestanou její výstupy důsledně kontrolovat. Čím více systému věří, tím méně kritického uvažování mohou při hodnocení jeho odpovědí používat.

V praxi se to může týkat například podkladů pro představenstvo, interních e-mailů nebo strategických dokumentů. Materiál vytvořený umělou inteligencí může po rychlém přečtení působit hotově, přestože jeho skutečná informační hodnota nemusí odpovídat profesionální formě.

Výzkumníci ze Stanfordu a společnosti BetterUp pro podobné výstupy používají označení „workslop“. Jde o materiály, které na první pohled vypadají kvalitně a profesionálně, ale pod uhlazenou formou mají méně skutečného obsahu.

Takové používání AI navíc nemusí zůstat bez povšimnutí ostatních zaměstnanců. Výzkum ukázal, že téměř polovina pracovníků, kteří dostávají e-maily vytvořené pomocí AI, následně považuje jejich odesílatele za méně důvěryhodné. Více než třetina je zároveň hodnotí jako méně inteligentní.

Firmy zavádějí AI rychleji než pravidla pro její kontrolu

Dalším rizikem je situace, kdy vedení začne využívání AI vyžadovat ještě předtím, než vytvoří odpovídající systém kontroly a odpovědnosti.

V roce 2025 se objevila řada firemních požadavků, podle kterých se práce s umělou inteligencí měla stát běžnou součástí zaměstnání. Některé společnosti šly ještě dále a požadovaly, aby manažeři před přijetím nového člověka nejprve prokázali, že danou práci nemůže vykonávat AI.

Schopnost firem kontrolovat takto rychlé zavádění technologie ale za její adopcí výrazně zaostává. V průzkumu Grant Thornton z roku 2026 78 % vedoucích pracovníků připustilo, že nemají vysokou důvěru ve schopnost své organizace během 90 dnů úspěšně projít nezávislým auditem správy AI.

Vzniká tak výrazný rozdíl mezi tím, jak silně firmy používání umělé inteligence podporují, a tím, jak dobře mají nastavené mechanismy určující kontrolu, odpovědnost a řízení těchto systémů.

Problém může být ještě výraznější ve chvíli, kdy vedení začne při sporech nebo strategických rozhodnutích považovat názor AI za hodnotnější než názory vlastních zaměstnanců.

Manažer například může připomínky svého týmu zadat chatbotu a jeho odpověď následně použít jako rozhodující argument. Takový postup ovšem nevytváří pouze riziko nesprávného rozhodnutí. Může také postupně změnit chování samotného týmu.

Pokud zaměstnanci získají pocit, že jejich námitky nakonec stejně převáží odpověď AI, mohou je příště přestat vyslovovat úplně. Manažer následně dostává méně zpětné vazby, což může ještě posílit jeho přesvědčení, že doporučení umělé inteligence je správné.

Vzniká tím uzavřený mechanismus. Čím méně lidí vedoucího pracovníka zpochybňuje, tím přesvědčivěji mohou působit sebejisté odpovědi AI. A čím více jim manažer důvěřuje, tím menší prostor může poskytovat názorům svého týmu.

Část tohoto problému přitom není úplně nová. Vedoucí pracovníci byli vždy vystaveni riziku, že s rostoucí mocí budou lidé v jejich okolí ochotnější souhlasit a méně ochotní otevřeně odporovat. Umělá inteligence však může tento problém zesilovat tím, že manažerovi nabízí okamžitě dostupného a velmi přesvědčivě působícího partnera pro rozhodování.

Kritické myšlení zůstává klíčovou pojistkou

Jedním z nejdůležitějších signálů přehnaného sebevědomí je pokles zvědavosti. Právě tento princip lze aplikovat také na práci s umělou inteligencí.

Ani velmi přesvědčivá odpověď by proto neměla automaticky znamenat konec rozhodovacího procesu. Manažeři mohou zkoumat, v čem by se AI mohla mýlit, jaké alternativy byly při formulování odpovědi opomenuty nebo co o konkrétní situaci vědí zaměstnanci, ale model nikoli.

AI může být výkonným nástrojem, neměla by se však automaticky stávat konečnou autoritou. Čím větší význam dostává v podnikovém rozhodování, tím důležitější může být schopnost její závěry aktivně zpochybňovat.

Rizikem totiž není pouze to, že umělá inteligence někdy poskytne nesprávnou odpověď. Podstatně větší problém může nastat ve chvíli, kdy lidé postupně přestanou považovat za nutné ověřovat, zda je její odpověď vůbec správná.

Případy označované jako „AI psychóza“ představují velmi krajní a vzácný scénář. Pro podnikové prostředí je ale důležitější méně dramatická otázka: co se stane, pokud lidé odpovědní za zásadní rozhodnutí začnou technologii důvěřovat více než vlastnímu úsudku a zkušenostem lidí kolem sebe. Právě schopnost pochybovat, ověřovat a vyžadovat alternativní pohledy se tak s rostoucím vlivem AI může stát jednou z důležitých manažerských kompetencí.