1. MI az iskolában: szereplők és alapfogalmak

1. Mit nevezünk MI-rendszernek?

Az uniós mesterségesintelligencia-rendelet, közismert nevén az AI Act, meghatározza az MI-rendszer fogalmát. Pedagógusként a következő jellemzőket érdemes megjegyezned:

• Gépi alapú rendszer, amely különböző szintű önállósággal működhet.
• Kifejezett vagy implicit célok érdekében a kapott bemenetekből következtet arra, hogyan állítson elő kimeneteket.
• Kimenete lehet például előrejelzés, tartalom, ajánlás vagy döntés, amely fizikai vagy virtuális környezetre hat.
• A bevezetése után alkalmazkodóképességet is mutathat. Ez lehetőség, nem minden MI-rendszer kötelező jellemzője.

Egy szövegalkotó chatbotnál a kérésed a bemenet, a létrehozott óravázlat pedig a kimenet. Egy felvételi döntést támogató rendszernél a bemenet jelentkezési adatokat tartalmazhat, a kimenet pedig pontszám vagy rangsorolási javaslat lehet.

A digitális működés önmagában kevés a besoroláshoz. Egy egyszerű adatnyilvántartás vagy előre rögzített képletet végrehajtó táblázat esetében külön meg kell vizsgálni, teljesülnek-e az MI-rendszer fogalmi feltételei. Az „MI-alapú” terméknév mellett ezért a tényleges működést és a dokumentációt is nézd meg.

2. Szolgáltató, alkalmazó és érintett személyek

Szolgáltató: ki áll az MI-rendszer mögött?

Az AI Act szerint szolgáltató lehet természetes vagy jogi személy, közhatalmi szerv vagy más szervezet. A szolgáltató MI-rendszert fejleszt vagy fejlesztet, és azt saját neve vagy védjegye alatt forgalomba hozza vagy üzembe helyezi. A fogalom az általános célú MI-modellek szolgáltatóira is kiterjed.

A szolgáltatás díjazása nem döntő: ingyenesen elérhető eszköznek is van szolgáltatója. Az eszközt ajánló kolléga vagy a hozzáférést közvetítő viszonteladó szerepét külön kell vizsgálni.

Alkalmazó: ki használja a rendszert a saját felügyelete alatt?

Az alkalmazó olyan személy vagy szervezet, amely a saját felügyelete alatt használ MI-rendszert. A fogalom kivételt tesz a személyes, nem szakmai tevékenység keretében történő használattal.

Iskolai bevezetésnél az intézmény tipikusan alkalmazóként jelenhet meg, a pedagógus pedig a rendszerrel dolgozó munkatárs. A konkrét szerepek megállapításához a szervezeti és használati körülményeket is ismerni kell. Ha saját fiókodból készítesz óravázlatot a tanórádhoz, a szakmai cél továbbra is lényeges.

Kiket érint a használat?

Érintettek lehetnek a tanulók, a jelentkezők, a pedagógusok vagy a szülők. Olyan személyre is hatással lehet egy rendszer, aki közvetlenül soha nem használja: például a felvételi rangsorban szereplő jelentkezőre.

A szereplőtérképen az „érintett személy” kifejezést tág értelemben használjuk. A GDPR-ban az érintett pontosabban azt a természetes személyt jelenti, akire a kezelt személyes adatok vonatkoznak.

Fontos különbség: az AI Act szerinti szolgáltató és alkalmazó, valamint a GDPR szerinti adatkezelő és adatfeldolgozó eltérő szempontok alapján meghatározott szerepek. Egy intézmény több szerepet is betölthet, de ezeket külön kell tisztázni.

3. Miért számít az uniós kapcsolat és a használat célja?

Az AI Act hatálya többek között azokra a szolgáltatókra terjed ki, amelyek az Unióban hoznak forgalomba vagy helyeznek üzembe MI-rendszert, illetve általános célú MI-modellt hoznak forgalomba. A szolgáltató székhelye az EU-n kívül is lehet.

A rendelet az Unióban letelepedett vagy található alkalmazókra is kiterjed. Bizonyos EU-n kívüli szolgáltatók és alkalmazók szintén a hatálya alá tartozhatnak, ha az MI-rendszer kimenetét az Unióban használják. A hatály részletes szabályait és kivételeit a 2. cikk tartalmazza.

Egy magyar iskola számára tehát a szolgáltató külföldi székhelye mellett a felhasználás helye és körülményei is lényegesek.

Az iskolai használatot intézményi összefüggésben vizsgáld:

• Milyen oktatási vagy szervezési célt szolgál az eszköz?
• Ki választotta ki, és ki engedélyezte a használatát?
• Ki fér hozzá, és ki ellenőrzi a kimenetét?
• Milyen adatokat kap, és kikre hat az eredménye?

Egy óravázlat készítése és egy felvételi rangsor előállítása eltérő következményekkel járhat. Az oktatási felvételt vagy hozzáférést szolgáló egyes MI-rendszerek magas kockázatúnak minősülhetnek. A pontos besoroláshoz a rendeltetést és a rendeleti feltételeket kell megvizsgálni.

4. Három iskolai példa: készíts szereplőtérképet!

Az alábbi helyzetek szemléltető példák. Mindegyikben feltételezzük, hogy az iskola intézményi keretek között vezette be a kész MI-rendszert, és a fejlesztő vállalkozás saját neve alatt kínálja azt.

A) Óravázlat készítése

Egy pedagógus az iskola által jóváhagyott chatbotot használja egy hetedikes történelemóra megtervezéséhez. A kérésben a témát, az időkeretet és kitalált tanulói jellemzőket ad meg. A vázlatot felhasználás előtt ellenőrzi.

• Szolgáltató: a chatbotot saját neve alatt kínáló vállalkozás.
• Alkalmazó: a példában az iskola; a pedagógus az eszközzel dolgozó munkatárs.
• A használattal érintett személyek: a pedagógus és az órán részt vevő tanulók.
• Vizsgálandó kérdés: megfelelő, pontos és az adott osztályhoz illő-e a generált terv?

B) Felvételi döntés támogatása

Egy középiskola olyan MI-rendszert vezet be, amely a jelentkezők adataiból rangsorolási javaslatot készít. A javaslatot a felvételi eljárásban használják fel.

• Szolgáltató: a rendszert saját neve alatt kínáló vállalkozás.
• Alkalmazó: a középiskola.
• A használattal érintett személyek: elsősorban a jelentkezők, továbbá az eljárásban dolgozó munkatársak.
• Vizsgálandó kérdés: milyen szerepet kap a javaslat a döntésben, és milyen MI-szabályozási, illetve adatvédelmi követelmények vonatkoznak rá?

C) Tanulóknak szánt gyakorlóchatbot

Az iskola egy külső szolgáltató chatbotját teszi elérhetővé matematika gyakorlásához. A tanulók intézményi fiókkal lépnek be, a pedagógus pedig áttekintheti a gyakorlási eredményeket.

• Szolgáltató: a chatbotot saját neve alatt kínáló vállalkozás.
• Alkalmazó: az iskola.
• A használattal érintett személyek: a tanulók és az eredményeket áttekintő pedagógusok.
• Vizsgálandó kérdés: milyen tanulói adatokat kezel a rendszer, ki fér hozzájuk, és milyen tájékoztatást kapnak a felhasználók?

Önálló feladat, körülbelül 4 perc

Takard le a szereplőlistákat, és készíts mindhárom példához három oszlopot: szolgáltató | alkalmazó | érintett személyek. Töltsd ki őket, majd ellenőrizd a válaszaidat.

Végül válassz egy saját iskolai használati helyzetet. Írd fel ugyanezeket a szereplőket, és jelölj meg egy tisztázandó kérdést. Ha a szolgáltató személye bizonytalan, keresd az eszköz használati feltételeiben és dokumentációjában. A hiányzó információt jelöld „ellenőrizendő”-ként.