New York výrazně omezuje umělou inteligenci ve školách. Největší školský obvod ve Spojených státech zavádí roční zákaz používání generativní AI pro žáky až do osmé třídy, který se dotkne téměř 600 000 studentů veřejných škol.

Opatření zasáhne přibližně dvě třetiny všech studentů newyorského veřejného školství a je součástí širší snahy omezit používání technologií během výuky. Město zároveň přestane používat nebo deaktivuje AI funkce ve více než 38 dosud povolených programech, které nesplňují nově nastavené bezpečnostní a kontrolní standardy.

Hlavním cílem je chránit schopnost studentů samostatně přemýšlet a zároveň zachovat význam přímého vztahu mezi žákem a učitelem. New York tím reaguje na rostoucí obavy, že příliš intenzivní používání obrazovek a generativní umělé inteligence může negativně ovlivňovat vzdělávání a vývoj dětí.

Podobnou otázku řeší i další americké školské obvody. Los Angeles letos oznámilo výrazné omezení používání obrazovek během vyučování a následně přistoupilo také k omezení přístupu studentů ke generativním AI platformám, dokud nebudou důkladněji prověřena jejich bezpečnostní opatření.

New York už přitom s omezením moderních technologií ve školách zkušenosti má. Stát v minulém roce zakázal studentům používání osobních telefonů během školního dne. Nová pravidla pro AI ale představují ještě rozsáhlejší zásah do způsobu, jakým mohou studenti technologie při výuce využívat.

ChatGPT a Claude budou zablokovány pro všechny ročníky

Nová pravidla nerozlišují pouze mezi různými věkovými skupinami, ale také mezi jednotlivými typy umělé inteligence.

Žáci do osmé třídy nebudou během ročního moratoria používat generativní AI. Studenti středních škol budou mít přístup pouze k omezenému výběru schválených AI nástrojů a současně absolvují výuku zaměřenou na kritické přemýšlení o umělé inteligenci.

Některé služby budou zablokovány bez ohledu na věk studentů. Platí to pro doprovodné AI chatboty určené k vytváření osobnějšího vztahu s uživatelem i pro běžně dostupné služby, mezi které patří ChatGPT od OpenAI a Claude od společnosti Anthropic.

New York se tím částečně vrací k restriktivnějšímu přístupu, který zvolil už na začátku rozmachu generativní AI. V roce 2023 městský školský systém zakázal ChatGPT na školních zařízeních a sítích. O několik měsíců později však od tohoto zákazu ustoupil.

Tentokrát má být přístup systematičtější. Vznikne nová koalice složená z učitelů, rodičů, studentů a dalších zainteresovaných skupin. Jejím úkolem bude během ročního moratoria vyhodnocovat jeho dopady a následně připravit doporučení pro další školní roky.

Součástí změn jsou také limity individuálního času stráveného před obrazovkou, které se budou lišit podle věku studentů. Pravidla zároveň počítají s výjimkami například pro studenty se zdravotním postižením a pro děti, které se učí angličtinu.

Odlišná pravidla budou platit pro učitele. Ti budou moci umělou inteligenci nadále používat například při přípravě výuky a dalších provozních činnostech. AI však nebude možné využívat k hodnocení studentů nebo jejich školních výsledků.

Nový systém tak není úplným zákazem umělé inteligence ve školství. Snaží se především oddělit situace, kdy může technologie pomoci pedagogům, od případů, kdy by mohla nahrazovat vlastní práci a přemýšlení studentů.

Americké školy stále více omezují obrazovky i umělou inteligenci

Newyorské rozhodnutí přichází v době, kdy se přístup škol k digitálním technologiím postupně mění. Zatímco ještě nedávno se velká část diskuse soustředila na jejich širší začlenění do vzdělávání, nyní se stále častěji řeší také možné negativní dopady.

Obavy se týkají především toho, zda generativní AI neomezuje rozvoj kritického myšlení, pokud studenti začnou technologii používat jako náhradu za vlastní práci. Vedle toho se diskutuje o množství času stráveného před obrazovkou a o bezpečnostních rizicích spojených s používáním chatbotů mladšími uživateli.

Současně se však AI společnosti snaží prosadit své technologie právě ve vzdělávání. Na trh přicházejí nástroje určené pro studium a společnosti podporují programy zaměřené na školení pedagogů v používání umělé inteligence.

Školské instituce se tak dostávají mezi dva protichůdné trendy. Na jedné straně stojí potenciál AI jako vzdělávacího nástroje, na druhé obavy z příliš rychlého nasazení technologie, jejíž dlouhodobé dopady na děti zatím nejsou plně známé.

New York se rozhodl v případě mladších studentů dát přednost opatrnějšímu přístupu. Roční moratorium má poskytnout prostor k vyhodnocení dopadů a vytvoření přesnějších pravidel pro budoucnost.

Podobným směrem se vydává Los Angeles. Tamní školský obvod nejprve výrazně omezil používání obrazovek během výuky a následně přistoupil k omezení generativních AI platforem pro studenty, zatímco prověřuje jejich bezpečnostní mechanismy.

Rozsah newyorského systému ale dává jeho rozhodnutí mimořádný význam. Téměř 600 000 dotčených studentů znamená, že nejde pouze o malý experiment několika škol, ale o rozsáhlou změnu fungování největšího školského obvodu v zemi.

Úplnou kontrolu používání AI mimo školu zajistit nelze

Jedním z největších praktických problémů zůstává používání umělé inteligence mimo školní prostředí. Školský obvod může blokovat konkrétní služby na vlastních zařízeních a sítích nebo zakázat jejich používání při vyučování, nemůže ale jednoduše zabránit studentům, aby stejné nástroje používali doma.

Student může například využít generativní AI při vypracovávání domácího úkolu prostřednictvím vlastního zařízení. Nová politika se proto má zaměřit také na rozšíření znalostí učitelů o tom, jak podobné externí používání AI rozpoznávat a řešit.

Významnou roli mají současně sehrát rodiče, kteří budou vyzváni, aby používání technologií svými dětmi sledovali také mimo školní prostředí.

Další otázkou je způsob schvalování jednotlivých vzdělávacích produktů. Pokud budou školy deaktivovat AI funkce programů, které nesplňují stanovené bezpečnostní standardy, musí být zároveň jasné, podle jakých kritérií se bude jejich vhodnost posuzovat. Jinak mohou školy a učitelé čelit nejistotě ohledně toho, které nástroje jsou skutečně povolené.

Právě proto má během ročního moratoria probíhat další vyhodnocování celé politiky. Současná omezení tak nemusí představovat definitivní podobu pravidel, ale spíše období, během kterého chce město zjistit, jakou roli by generativní AI měla ve vzdělávání dlouhodobě zastávat.

New York tím zároveň odmítá představu, že rozšíření umělé inteligence do základního vzdělávání je nevyhnutelné. Město chce nejprve vyhodnotit, zda technologie skutečně zlepšuje vzdělávání a zda její přínosy převažují nad možnými dopady na samostatné myšlení a vztah studentů s učiteli.

Výsledkem není úplné odmítnutí AI. Starší studenti budou moci využívat vybrané nástroje a získají výuku zaměřenou na jejich kritické používání, zatímco pedagogové budou mít možnost AI zapojovat do přípravy hodin a provozních úkolů.

Hranice je nastavena především tam, kde by umělá inteligence mohla nahrazovat vlastní práci studentů nebo přímo rozhodovat o jejich hodnocení. Roční moratorium nyní ukáže, zda může takto restriktivní přístup fungovat v prostředí, kde jsou generativní AI nástroje mimo školní síť běžně dostupné prakticky každému.