FTC chce trestat společnosti za používání umělé inteligence při vydávání se za někoho jiného
Americká Federální obchodní komise zavedla nová pravidla týkající se vydávání se za podvodníky s odkazem na rostoucí hrozbu podvodů, které umožňuje generativní umělá inteligence.
Agentura žádá veřejnost o vyjádření k navrhovanému pravidlu, podle kterého by společnosti nesly odpovědnost, pokud „vědí nebo mají důvod vědět“, že jejich technologie, včetně nástrojů používaných k vytváření obsahu generovaného umělou inteligencí, „je používána k poškozování spotřebitelů prostřednictvím vydávání se za ně“, uvádí se ve čtvrtečním prohlášení FTC.
FTC rovněž uvedla, že dokončila pravidlo týkající se vydávání se za podniky a vládu, například používání loga podniku v podvodných e-mailech nebo jejich zasílání z vládní adresy. Podle tohoto pravidla může komise podávat soudní žaloby, jejichž cílem je přimět podvodníky k vrácení peněz získaných z takových podvodů.
FTC uvedla, že stížnosti na podvody s vydáváním se za někoho jiného prudce rostou, a obává se, že umělá inteligence „hrozí, že tuto pohromu ještě více rozšíří“.
„Podvodníci využívají nástroje umělé inteligence k tomu, aby se vydávali za jednotlivce s děsivou přesností a v mnohem širším měřítku,“ uvedla ve svém prohlášení předsedkyně FTC Lina Khanová a dodala, že klonování hlasu a další nástroje umělé inteligence umožnily podvodům větší uskutečnitelnost.
Rychlý vývoj generativní technologie umělé inteligence, která dokáže generovat hlas, video nebo text v různých stylech, oslnil Silicon Valley. Zároveň tato technologie vyvolala obavy o soukromí a bezpečnost kvůli schopnosti vydávat se za jednotlivce, například za prezidenta Joea Bidena v robotickém hovoru.
