Nedávné odchody klíčových zaměstnanců ze společnosti OpenAI, jako je technická ředitelka Mira Murati a specialista na bezpečnost AI Miles Brundage, poukazují na zásadní změny v prioritách tohoto významného hráče na poli umělé inteligence.
Zatímco Murati se zaměřovala na využívání technologií pro veřejné blaho, Brundage se věnoval bezpečnostním otázkám. Tito a další odborníci se rozhodli odejít v době, kdy společnost zjevně posunula svůj cíl – od původního poslání neziskového výzkumu pro veřejný prospěch k agresivní komercializaci a honbě za tržním podílem.
Tato změna v kulturních a obchodních prioritách společnosti vyvolává otázky, zda OpenAI dokáže zachovat důvěryhodnost, odpovědnost a lidský dohled, který je při rozvoji AI technologií nezbytný.
Když byla OpenAI založena, její hlavním posláním bylo vytvářet technologie, které budou přínosem pro společnost jako celek, a zaměřovala se na transparentnost, bezpečnost a společenský dopad AI.
Jak se však zvyšuje tlak na komercializaci produktů a získání tržního podílu, některé z těchto cílů jsou postupně odsunuty do pozadí. Rozpuštění týmu „AGI Readiness“, jehož úkolem bylo předvídat a zvládat potenciální rizika obecné umělé inteligence (AGI), je dalším krokem, který naznačuje, že bezpečnostní otázky nejsou pro společnost již takovou prioritou, jakou bývaly.
AGI, tedy systémy, které by jednoho dne mohly fungovat autonomně v různých odvětvích, jsou v současné době stále ve fázi vývoje, ale odborníci varují, že nyní je čas na přípravu a zavedení kontrolních mechanismů. Bez nich bude pozdější zavedení bezpečnostních protokolů obtížné a společnosti hrozí, že se setká s negativní reakcí veřejnosti i regulačních orgánů.
Tento posun v prioritách znepokojuje nejen bývalé zaměstnance OpenAI, ale i širší veřejnost a odbornou komunitu, která se obává, že bez pečlivého dohledu může rozvoj AI přinést vážné společenské a etické problémy.
Umělá inteligence sice disponuje mimořádnými schopnostmi při zpracování dat, ale postrádá empatii, morální úsudek a schopnost pochopení širšího společenského kontextu – dovednosti, které mohou dohlížet pouze lidé.
Historické příklady, jako jsou předsudky v algoritmech pro nábor zaměstnanců nebo chyby ve fungování systémů rozpoznávání obličejů, již prokázaly, jaké problémy může způsobit technologie, která není správně kontrolována a řízena.
Pokud OpenAI nadále oslabuje úlohu odborníků na bezpečnost a ignoruje různé názory, riskuje, že vyvine technologie, které sice technické problémy řeší, ale přinášejí společenské a etické komplikace.
Příklady jiných technologických společností ukazují, že odpovědné řízení není překážkou, ale naopak hnací silou inovací. IBM a Microsoft jsou příkladem firem, které zavedly rámce pro odpovědné řízení AI a zařadily etické zásady do základních procesů vývoje. IBM vytvořila tzv.
„AI FactSheets“, které poskytují přehled o tom, jak jejich algoritmy fungují, a rozhodla se vzdát se technologie rozpoznávání obličeje z obav o zkreslení a nesprávné použití.
Microsoft integroval etiku do svých procesů prostřednictvím výboru AETHER a Kanceláře pro odpovědnou AI, čímž zajistil, že etické zásady jsou respektovány již od počáteční fáze návrhu.
I když tyto společnosti nadále čelí výzvám – například Microsoftu byly vytýkány praktiky nakládání s daty v cloudu a IBM byla kritizována za složitost a omezenou vysvětlitelnost některých algoritmů – tyto příklady ukazují, že odpovědnost a inovace mohou jít ruku v ruce.
Důvěra je pro úspěch AI klíčová. Společnosti jako Meta (dříve Facebook), které čelily veřejné kritice kvůli špatnému zacházení s osobními daty a dezinformacím, ukazují, jak obtížné je obnovit důvěru jednou ztracenou. Evropská unie například zavádí zákon o umělé inteligenci, který má za cíl zvýšit transparentnost a odpovědnost AI, což bude mít dopad na všechny společnosti, které tuto technologii využívají, včetně OpenAI.
Bez důvěry uživatelů bude pro OpenAI obtížné získat širokou podporu a přijetí svých technologií na globálním trhu. Případ OpenAI tak ukazuje, že bez odpovědného vedení a dodržování etických zásad může i technologická společnost s velkým potenciálem čelit vážným problémům a stát se příkladem selhání.
Kromě technologického rozvoje je nutné, aby OpenAI integrovala lidský dohled do své strategie a zajistila, že bezpečnost bude součástí každé fáze vývoje. Zkušenosti jiných firem potvrzují, že správa není jednorázový proces, ale dlouhodobé úsilí, které vyžaduje průběžné přizpůsobování a určování priorit ze strany vedení.
Odpovědnost je v tomto procesu klíčová a OpenAI by měla podobné standardy transparentnosti a vnějšího dohledu přijmout.
Budoucnost AI nebude utvářena jen rychlostí inovací, ale také integritou, odvahou a odpovědností lidí, kteří ji vedou. OpenAI má stále šanci být průkopníkem, pokud přijme řízení jako zásadní součást svého růstu – jako kompas, který zajistí, že technologie slouží lidstvu, a ne naopak.
