Vývoj umělé inteligence potřebuje jasné hranice

Generální ředitel společnosti Dell Technologies (DELL) Michael Dell se vyslovil pro zavedení bezpečnostních pojistek a kontrolních mechanismů u systémů umělé inteligence. Reagoval tak na sílící debatu o rizicích, která by rychle se vyvíjející technologie mohla představovat pro člověka.

V úterním rozhovoru pro CNBC připomněl, že technologie mohou sloužit užitečným i škodlivým účelům. Přirovnal umělou inteligenci k ohni, jenž dokáže vytopit dům, ale současně může zničit celou vesnici. Právě tato dvojí povaha podle něj vytváří potřebu pravidel, která omezí možné zneužití.

„Musíme mít bezpečnostní pojistky a kontrolní mechanismy,“ uvedl Dell. Firmy vyvíjející nástroje založené na umělé inteligenci by podle něj měly zavádět také jasně vymezená oprávnění, která určí, co jednotlivé systémy smějí dělat a kam už jejich působnost nesahá.

Dell zároveň prohlásil, že v této oblasti existuje role pro vládu. Konkrétní podobu jejího zapojení však nerozvedl a poznamenal, že není tvůrcem veřejné politiky. Jeho vyjádření se tak soustředilo především na obecný princip společné odpovědnosti technologických firem a státních institucí.

Volání po regulaci zesílilo po odchodu výzkumníka

Diskuse o bezpečnosti umělé inteligence nabrala v posledních týdnech na intenzitě kvůli obavám z modelů, které by se mohly samostatně zdokonalovat. Výzkumníci a zástupci technologického odvětví se přou zejména o krajní scénáře spojené s vývojem takzvané superinteligence.

Novou vlnu kritiky spustil bývalý výzkumník společnosti Anthropic Jacob Coxon. Ze svého zaměstnání odešel a 8. září zveřejnil příspěvek, v němž varoval, že laboratoře vyvíjející nejpokročilejší modely v závodě o superinteligenci „hazardují s našimi životy“.

K požadavkům na přísnější pravidla a zpomalení vývoje nejvyspělejších modelů v rámci celého odvětví se následně připojili také šéf Anthropicu Dario Amodei a generální ředitel OpenAI Sam Altman. Administrativa prezidenta Donalda Trumpa se naproti tomu staví proti koordinovanému zpomalení vývoje i proti dalším regulačním zásahům.

Trump 29. září uspořádal oběd s představiteli společností zaměřených na umělou inteligenci. Setkání skončilo podpisem dokumentu, který má vedoucí pracovníky „morálně zavazovat“ k vlastní regulaci bezpečnosti jejich produktů. Na ověřování se mají podílet externí hodnotitelé.

Dokument Bílého domu podle zdrojového textu snižuje pravděpodobnost dalších federálních pravidel před listopadovými volbami do Kongresu, od nichž zbývá jen několik týdnů. Odpor vůči umělé inteligenci a výstavbě datových center se mezitím stal významným politickým tématem. Výsledek voleb rozhodne, která strana bude Kongres kontrolovat v posledních dvou letech Trumpova funkčního období.

Datová centra čelí odporu kvůli spotřebě energie

Michael Dell se v rozhovoru vyjádřil rovněž k rostoucímu odporu vůči výstavbě datových center, jejichž kapacita se rozšiřuje spolu s poptávkou po výpočetním výkonu pro umělou inteligenci. Intenzivnější veřejnou diskusi o jejich dopadech označil za pozitivní vývoj.

Dell Technologies podle něj o této otázce jedná se svými zákazníky a zjišťuje, jaká opatření zavádějí. Společnost se současně zabývá možnostmi, jak zvýšit účinnost dodávaných systémů a omezit jejich spotřebu energie. Řešení energetické náročnosti tak podle Della vyžaduje spolupráci dodavatelů technologií i provozovatelů infrastruktury.

Šéf společnosti neuvedl konkrétní technické parametry ani očekávanou výši úspor. Zdůraznil však, že jednotlivé firmy na řešení problému pracují společně. Rostoucí nesouhlas s datovými centry proto v současnosti nepovažuje za zásadní překážku pro vývoj odvětví v roce 2027.