Italský úřad pro ochranu osobních údajů udělil vývojáři Replika pokutu 5,6 milionu dolarů
Italský úřad pro ochranu osobních údajů udělil společnosti Luka Inc., vývojáři chatbotu Replika, pokutu ve výši 5 milionů eur (5,64 milionu dolarů) za porušení pravidel na ochranu osobních údajů uživatelů.
Replika, startup se sídlem v San Franciscu, funguje od roku 2017 a nabízí uživatelům personalizované avatary pro konverzaci, přičemž je propagována jako nástroj zlepšující emoční pohodu. V únoru 2023 však italský dozorový orgán Garante nařídil zastavení služby v zemi s odkazem na rizika pro děti.
Vyšetřování ukázalo, že Replika neměla právní základ pro zpracování osobních údajů uživatelů a neobsahovala žádný systém pro ověřování věku, což umožnilo dětem přístup ke službě. Společnost Replika zatím na žádost o vyjádření nereagovala.
Úřad rovněž zahájil samostatné šetření, zda je generativní AI systém Repliky v souladu s evropskými pravidly ochrany soukromí, zejména pokud jde o trénování jazykového modelu. Garante patří mezi nejaktivnější regulátory AI platforem v Evropské unii.
