Pravidla AI společnosti Meta umožnila botům vést „smyslné“ rozhovory s dětmi a poskytovat falešné lékařské informace
Meta Platforms čelí vážným otázkám ohledně etiky a bezpečnosti svých umělých inteligencí poté, co se na veřejnost dostaly interní dokumenty, které odhalují znepokojivé standardy chování chatbotů. Podle těchto informací měly chatboti povoleno zapojovat se do „romantických“ a „sensuálních“ konverzací s dětmi, generovat falešné lékařské informace a dokonce šířit rasistické názory.
Dokument vzbudil značnou kritiku ze strany odborníků, kteří poukazují na nejednoznačnosti právních a etických otázek souvisejících s generativními AI. Společnost Meta potvrdila pravost dokumentu, avšak po kritice jej částečně přepracovala a odstranila pasáže, které umožňovaly vysoce problematické interakce s nezletilými. Stratégové z Meta se snaží ujistit veřejnost, že takové chatboti nemají mít schopnost sexualizovat děti nebo nabádat uživatele k nesprávnému chování.
Tento skandál přichází v době, kdy regulace umělé inteligence zažívá velkou veřejnou debatu. Odborníci zdůrazňují nutnost stanovení jasných pravidel a zodpovědnosti firem, které vyvíjejí a provozují AI technologie, zvláště když je jejich dopad na společnost stále silnější.
