AI Act ve školství: harmonogram, povinnosti škol a soulad Kurikuly

AI Act (nařízení (EU) 2024/1689) je první komplexní právní úprava umělé inteligence na světě. Vstoupil v platnost 1. srpna 2024 a zavádí rizikově odstupňovaný přístup: zakazuje praktiky s nepřijatelným rizikem, klade přísné povinnosti na vysoce rizikové AI systémy, povinnosti v oblasti transparentnosti na systémy se zvláštním rizikem (například generativní AI) a ponechává minimální regulaci pro AI s nízkým rizikem.

Klíčová data účinnosti pro školství:

• 1. srpna 2024 – nařízení vstoupilo v platnost.
• 2. února 2025 – účinnost zákazů (čl. 5) a povinnosti AI gramotnosti (čl. 4).
• 2. srpna 2025 – povinnosti poskytovatelů obecných modelů AI (GPAI), pravidla pro správu a sankční rámec.
• 2. srpna 2026 – plná účinnost povinností pro vysoce rizikové AI systémy z přílohy III a informačních povinností podle čl. 50.
• 2. srpna 2027 – povinnosti pro vysoce rizikové AI systémy zařazené v příloze I (regulované produkty).

Jako poskytovatel služby pro školy se Kurikula řídí harmonogramem AI Act od jeho vstupu v platnost a postupně doplňuje technickou dokumentaci, informační oznámení a procesy řízení rizik tak, aby byla připravena ke 2. srpnu 2026. Vývoj evropské úpravy sledujeme přes EU AI Office a národní úpravu přes MPO ČR.

Příloha III AI Act označuje za vysoce rizikové ty AI systémy ve vzdělávání, které:

• rozhodují o přijetí ke vzdělávání nebo přiřazení uchazečů ke vzdělávacím institucím či programům na všech úrovních,
• hodnotí výsledky učení žáků a studentů, včetně případů, kdy se výsledky používají pro řízení procesu jejich vzdělávání,
• posuzují odpovídající úroveň vzdělání, kterou jednotlivec získá nebo ke které bude mít přístup,
• sledují a detekují zakázané chování studentů během testů.

U těchto systémů musí škola jako provozovatel mimo jiné zajistit lidský dohled, vést záznamy o použití, informovat dotčené osoby a spolupracovat s poskytovatelem na řízení rizik.

AI Act dále zakazuje (čl. 5) některé konkrétní praktiky relevantní pro školství: biometrickou kategorizaci odvozující citlivé charakteristiky (rasa, politické názory, sexuální orientace a další), rozpoznávání emocí na pracovišti a ve vzdělávacích institucích (s výjimkou zdravotních a bezpečnostních důvodů) a sociální scoring osob. Takové funkce Kurikula nepoužívá ani se nechystáme je implementovat.

Pro pedagogy znamená AI Act zejména: povinnost informovat o použití AI tam, kde to nemusí být zřejmé; uchovávat záznamy umožňující dohledat, jak AI ovlivnila výsledný dokument; a aktivně rozhodovat o obsahu, který AI navrhuje, namísto jeho automatického přebírání.

Následující tabulka shrnuje čtyři rizikové kategorie AI Act, příklady jejich projevů ve škole a klasifikaci Kurikuly:

Detailní rozbor klasifikace Kurikuly následuje v sekci 4. Plné znění přílohy III a čl. 5 najdete v českém znění AI Act na EUR-Lex.

Kurikula je AI systém určený k podpoře administrativní práce vzdělávacích institucí — konkrétně ke správě a revizi školního vzdělávacího programu. Tomuto typu systémů se výslovně věnuje recital 56 AI Act, který administrativní úkoly škol vyjímá z kategorie vysoce rizikových AI systémů. Naše posouzení je následující:

• Není zakázanou praktikou podle čl. 5 — Kurikula nepoužívá biometrickou kategorizaci, rozpoznávání emocí, sociální scoring ani manipulativní či podprahové techniky.
• Není vysoce rizikovým systémem podle přílohy III bodu 3 — Kurikula nerozhoduje o přijetí žáků, nehodnotí výsledky učení konkrétních žáků (pracuje s dokumentem na úrovni školy, nikoli s daty jednotlivých žáků), neurčuje úroveň vzdělání jednotlivců a nemonitoruje chování studentů během testů.
• Bude se na ni vztahovat čl. 50 (informační povinnosti) od 2. srpna 2026, protože interaguje s lidmi a generuje syntetický text. Tyto povinnosti — odlišné pro poskytovatele systému (Kurikula) a provozovatele systému (škola) — již nyní dobrovolně naplňujeme: uživatelé jsou srozumitelně informováni, že komunikují s AI a že navrhované úpravy ŠVP jsou strojově generovány.
• Staví na obecném modelu AI (GPAI) — využíváme modely Google Gemini. Povinnosti poskytovatele GPAI nese společnost Google; Kurikula jako navazující poskytovatel AI systému zajišťuje soulad konkrétního použití modelů s naším účelem a kontextem.

Klasifikaci pravidelně přehodnocujeme. Pokud bychom v budoucnu přidali funkci, která by spadala do přílohy III (např. hodnocení výsledků konkrétních žáků), nasadíme režim vysoce rizikového systému předem — včetně registrace v databázi EU a doplňujících dokumentů.

I když Kurikula není vysoce rizikový systém, řadu povinností z čl. 9 až 15 AI Act dobrovolně uplatňujeme jako standard kvality. Konkrétně:

• Lidský dohled (čl. 14): filozofie produktu zní „Učitel nenastavuje, učitel schvaluje“. Žádný návrh AI se neaplikuje automaticky — pedagog jej musí explicitně přijmout, odmítnout nebo upravit. Hromadnou akci „Přijmout vše“ záměrně nenabízíme.
• Transparentnost (čl. 13 a 50): uživatelské rozhraní jasně označuje, který obsah pochází z AI a který z původního dokumentu. U každého návrhu je k dispozici vysvětlení a odkaz na konkrétní RVP standard.
• Přesnost a robustnost (čl. 15): všechny návrhy se opírají o vektorové a grafové vyhledávání ve schválených RVP datech; využíváme strategie pro opakování dotazů a záložní řetězec modelů, aby výpadek jednoho modelu neohrozil výsledek.
• Řízení dat a kvality (čl. 10): RVP zdroje pocházejí z oficiálních dat NPI a MŠMT. ŠVP nahraná školou se nepoužívají k tréninku modelů, neopouštějí prostředí EU mimo rámec uvedený v DPA a podléhají retenčním pravidlům.
• Záznamy a logování (čl. 12): klíčové operace — nahrání dokumentu, generování návrhu, schválení/odmítnutí, export — ukládáme do auditního logu, takže škola dokáže prokázat, jak AI ovlivnila výsledný dokument.
• Řízení rizik (čl. 9): průběžně vyhodnocujeme rizika jako halucinace AI, podjatost vůči určitému typu školy nebo chybnou interpretaci RVP. Riziko snižujeme deduplikací, validací tabulek učebních plánů pravidly bez AI, ruční kontrolou pedagogem a možností znovu vygenerovat návrh s vlastním zadáním.
• Technická dokumentace: vedeme interní popis architektury, datových toků, použitých modelů a verzí, který je v případě dotazu národního dozorového orgánu k dispozici.
• Bezpečnost a ochrana dat: šifrování přenosu (TLS), šifrování dat v klidu, oddělení dat jednotlivých škol, RBAC a postupy pro hlášení incidentů popsané v zpracovatelské smlouvě (DPA).

Pokud Kurikulu používáte, nestáváte se automaticky provozovatelem vysoce rizikového AI systému. Doporučujeme však:

• informovat pedagogy a vedení, že úpravy ŠVP byly připraveny s podporou AI a že rozhodnutí o jejich přijetí leží na škole,
• zaznamenat v interních směrnicích, kdo schvaluje výstupy z Kurikuly (typicky ředitel nebo koordinátor ŠVP),
• zařadit Kurikulu do mapy zpracování osobních údajů (ROPA) a do případného posouzení vlivu na ochranu osobních údajů (DPIA),
• v souladu s čl. 4 AI Act (účinný od 2. února 2025) zajistit, aby pracovníci pověření zacházením s AI měli odpovídající úroveň AI gramotnosti — povinnost dopadá na školu jako provozovatele i na Kurikulu jako poskytovatele. Naše dokumentace, webináře a podpora jsou koncipovány tak, aby školám tuto povinnost ulehčily.

Návrhy úprav, které Kurikula generuje, jsou syntetickým textem vytvořeným modelem AI. V souladu s čl. 50 odst. 2 AI Act:

• uživatelské rozhraní výslovně uvádí, že navrhované změny jsou výstupem AI,
• v exportovaném dokumentu zůstává odpovědnost za finální podobu na škole — Kurikula negeneruje finální dokument bez schválení uživatele,
• nepoužíváme techniky deep fake na osoby ani nezasahujeme do obrazu či hlasu konkrétních osob.

Pokud má škola vlastní pravidla pro značení AI-generovaného obsahu (např. vodoznaky), poskytneme technický popis, jak je do procesu zařadit.

AI Act zavádí třístupňový sankční rámec (čl. 99). Sankce může uložit národní dozorový orgán a její strop záleží na povaze porušení:

• Až 35 000 000 € nebo 7 % celosvětového ročního obratu (podle toho, co je vyšší) – za porušení zákazu praktik podle čl. 5.
• Až 15 000 000 € nebo 3 % celosvětového ročního obratu – za porušení většiny ostatních povinností (povinnosti poskytovatelů a provozovatelů vysoce rizikových systémů, informační povinnosti podle čl. 50, povinnosti GPAI a další).
• Až 7 500 000 € nebo 1 % celosvětového ročního obratu – za poskytnutí nesprávných, neúplných nebo zavádějících informací oznámeným subjektům či dozorovým orgánům.

Pro malé a střední podniky a začínající podniky (start-upy) platí nižší z uvedených stropů. Konkrétní postup ukládání sankcí v ČR stanoví připravovaný český zákon o umělé inteligenci.

AI Act doplňuje práva dotčených osob nad rámec GDPR — zejména v čl. 86 zavádí právo na vysvětlení individuálního rozhodnutí u vysoce rizikových AI systémů z přílohy III. Kurikula sice mezi vysoce rizikové systémy nepatří, principy vysvětlitelnosti však aplikujeme dobrovolně. Pedagog, ředitel nebo jiný uživatel má právo:

• dozvědět se, že komunikuje s AI a jaký účel systém plní,
• získat srozumitelné vysvětlení, proč AI navrhla konkrétní změnu (k tomu slouží panel s odůvodněním a odkazem na RVP standard),
• podat námitku či dotaz na e-mailu info@kurikula.ai,
• uplatnit práva podle GDPR (přístup, oprava, výmaz a další), jak je popsáno v zásadách ochrany osobních údajů.

Pokud zjistíte, že se AI v Kurikule chová způsobem, který může představovat riziko pro zdraví, bezpečnost nebo základní práva — typicky systematicky nesprávné návrhy, výstupy s diskriminačním vyzněním nebo podezření na únik dat — kontaktujte nás co nejdříve:

Webforte Technologies s.r.o.
Korunní 2569/108, Vinohrady, 101 00 Praha 10
IČO: 23364343
E-mail: info@kurikula.ai

Závažné incidenty týkající se AI Act řešíme v součinnosti s národními dozorovými orgány. Český zákon o umělé inteligenci, který je v gesci Ministerstva průmyslu a obchodu, počítá s primární rolí Českého telekomunikačního úřadu (ČTÚ) jako národního dozorového orgánu a jednotného kontaktního místa, doplněného o Úřad pro ochranu osobních údajů (ÚOOÚ) pro oblast základních práv a další specializované úřady. Konkrétní kontakty doplníme po nabytí plné účinnosti dohledových pravomocí.

AI Act je živý regulační rámec — Komise průběžně vydává prováděcí akty, harmonizované normy a pokyny. Tuto stránku aktualizujeme, jakmile se objeví nové skutečnosti relevantní pro provoz Kurikuly nebo pro školy. Aktualizováno 1. května 2026.