OpenAI zjistilo, že více čínských skupin používá ChatGPT ke škodlivým účelům
OpenAI zaznamenává rostoucí počet čínských skupin, které využívají jeho technologii umělé inteligence k tajným operacím, jak uvedl výrobce ChatGPT ve zprávě zveřejněné ve čtvrtek.
Ačkoli se rozsah a taktika těchto skupin rozšířily, zjištěné operace byly obecně malého rozsahu a zaměřené na omezenou skupinu příjemců, uvedla startupová společnost se sídlem v San Francisku.
Od té doby, co se ChatGPT na konci roku 2022 objevil na scéně, panují obavy z možných důsledků generativní technologie umělé inteligence, která dokáže rychle a snadno vytvářet text, obrázky a zvuk podobné lidským.
OpenAI pravidelně vydává zprávy o škodlivých aktivitách, které na své platformě odhalí, jako je vytváření a ladění malwaru nebo generování falešného obsahu pro webové stránky a sociální média.
V jednom případě OpenAI zakázalo účty ChatGPT, které generovaly příspěvky na sociálních médiích o politických a geopolitických tématech týkajících se Číny, včetně kritiky videohry zaměřené na Tchaj-wan, falešných obvinění proti pákistánskému aktivistovi a obsahu souvisejícího s uzavřením USAID.
Některé obsahy také kritizovaly rozsáhlá cla amerického prezidenta Donalda Trumpa a generovaly X příspěvků, jako například „Cla způsobují, že dovážené zboží je nehorázně drahé, ale vláda utrácí za zahraniční pomoc. Kdo má jíst?“
V jiném případě čínští aktéři využívající AI podporovali různé fáze svých kybernetických operací, včetně výzkumu otevřených zdrojů, úprav skriptů, řešení problémů s konfigurací systému a vývoje nástrojů pro hrubou sílu při prolomení hesel a automatizaci sociálních médií.
