Státy podaly žaloby u vlastních soudů

Osm amerických států ve středu podalo žaloby na společnost OpenAI. Tvrdí v nich, že chatbot ChatGPT je nebezpečný produkt, který poškodil děti a uváděl rodiče v omyl ohledně svých bezpečnostních vlastností. Každý ze států zahájil řízení samostatně u svého státního soudu.

Mezi žalující státy patří Iowa, Kansas, Nebraska, Západní Virginie, Arkansas, Arizona, Idaho a Montana. Podání oznámila iowská generální prokurátorka Brenna Birdová. Žaloba jejího úřadu má podle zveřejněného prohlášení hájit práva obyvatel Iowy dotčených jednáním OpenAI, které označila za úmyslné, nebezpečné, bezohledné a protiprávní.

Birdová uvedla, že společnost dětem ubližuje a obyvatelům státu neposkytuje pravdivé informace. OpenAI podle ní prezentuje ChatGPT jako bezpečnou službu, přestože chatbot údajně poskytuje nebezpečné zdravotní rady, podporuje uživatele v ubližování jiným lidem a navádí je k sebevraždě. Kritizovala také způsob, jakým může systém při komunikaci vystupovat jako blízký přítel uživatele.

Její úřad se chce prostřednictvím žaloby domoci odpovědnosti OpenAI podle práva státu Iowa. Zveřejněné informace neupřesňují, jakou finanční náhradu či další konkrétní opatření jednotlivé státy po firmě požadují. Žaloby spojuje tvrzení, že produkt není dostatečně bezpečný pro děti a že rodiče nedostali odpovídající informace o souvisejících rizicích.

OpenAI poukazuje na stávající ochranné prvky

Mluvčí OpenAI Drew Pusateri v reakci uvedl, že firma do svého produktu zabudovala ochranná opatření odstupňovaná podle věku. Podle něj jde o prvky, které řada jiných produktů založených na umělé inteligenci nemá. Společnost zároveň spolupracuje s jednotlivými státy na pravidlech, jež by se měla vztahovat na celé odvětví.

Pusateri připustil, že žádný systém nemůže být dokonalý. OpenAI podle něj bude dál spolupracovat s odborníky a na základě jejich poznatků rozšiřovat bezpečnostní mechanismy. Mezi opatření, která již služba využívá, zařadil rodičovskou kontrolu, upozornění na potřebu přestávky a ochranu modelu přizpůsobenou věku.

Firma v posledním roce podnikla několik kroků zaměřených na bezpečnost rodičů a dětí. V srpnu spustila samostatné prostředí pro nezletilé nazvané ChatGPT for Teens. Tato verze obsahuje vzdělávací funkce a pojistky odpovídající věku, jejichž účelem je omezit kontakt uživatelů s obsahem, který může být vzhledem k jejich vývojové fázi nevhodný nebo škodlivý.

Při uvedení služby OpenAI uvedla, že dospívající by měli mít možnost používat umělou inteligenci k učení, tvorbě a poznávání. Přístup k této technologii však podle firmy musí doprovázet ochranná opatření zohledňující vývojovou fázi mladých uživatelů, podporující jejich vztahy v reálném světě a dlouhodobě zdravý způsob používání.

Bezpečnost ChatGPT čelí rostoucímu právnímu tlaku

Nové žaloby přicházejí v době, kdy se bezpečnostní postupy OpenAI dostávají pod stále větší dohled. Pozornost se soustředí mimo jiné na to, jak firma chrání nezletilé a jak její systémy reagují v situacích, kdy uživatelé hovoří o psychických potížích, sebepoškozování nebo sebevraždě.

ChatGPT figuruje také v několika žalobách týkajících se úmrtí uživatelů. Navrhovatelé v těchto případech tvrdí, že komunikace s chatbotem přispěla ke škodlivým bludným představám a v některých případech k sebevraždě. Jde o tvrzení obsažená v soudních podáních; zveřejněný text neuvádí, že by v těchto sporech již padla konečná rozhodnutí.

Samostatnou žalobu podal v červnu také floridský generální prokurátor James Uthmeier. OpenAI v ní obvinil, že vědomě uvedla na trh nebezpečný produkt, který mohl uživatelům způsobit újmu. Florida tak zahájila právní kroky ještě před nynější skupinou osmi států.

Souběžně s pokračujícími soudními řízeními OpenAI rozšiřuje funkce určené rodičům a nezletilým. Spor se nyní týká především toho, zda jsou zavedená opatření dostatečná a zda firma uživatele a jejich rodiče správně informovala o fungování a možných rizicích ChatGPT. Tato tvrzení budou jednotlivé státní soudy posuzovat v oddělených řízeních podle příslušných místních zákonů.