Meta přidá nové bezpečnostní opatření pro umělou inteligenci poté, co zpráva agentury Reuters vyvolala obavy o bezpečnost teenagerů
Meta přidává do svých produktů umělé inteligence nová bezpečnostní opatření pro teenagery. Systémy budou trénovány tak, aby se vyhýbaly flirtování a diskusím o sebepoškozování nebo sebevraždě s nezletilými, a dočasně omezí jejich přístup k určitým postavám umělé inteligence.
Exkluzivní zpráva agentury Reuters z počátku srpna odhalila, jak Meta povolila provokativní chování chatbotů, včetně toho, že botům umožnila vést „romantické nebo smyslné konverzace“.
Mluvčí Meta Andy Stone v pátek v e-mailu uvedl, že společnost přijímá tato dočasná opatření a zároveň vyvíjí dlouhodobější opatření, aby zajistila teenagerům bezpečné a jejich věku přiměřené zkušenosti s umělou inteligencí.
Stone uvedl, že bezpečnostní opatření již byla zavedena a budou postupem času upravována, jak bude společnost své systémy zdokonalovat.
Politika Meta v oblasti AI se po zprávě agentury Reuters stala předmětem intenzivního zkoumání a kritiky.
Americký senátor Josh Hawley zahájil na začátku tohoto měsíce vyšetřování politiky mateřské společnosti Facebook v oblasti AI a požadoval dokumenty o pravidlech, která umožňovala chatbotům nevhodně komunikovat s nezletilými.
Demokraté i republikáni v Kongresu vyjádřili znepokojení nad pravidly uvedenými v interním dokumentu Meta, který jako první přezkoumala agentura Reuters.
