Az Európai Unió új mesterséges intelligenciáról szóló jogszabálya egységes keretet teremt az MI-rendszerek számára, melynek célja a kockázatok megfelelő kezelése és a biztonságos működés biztosítása. Ha kis- vagy középvállalkozóként MI-rendszert fejlesztesz, értékesítesz, vagy akár csak felhasználsz, fontos, hogy tisztában legyél a rendszered által képviselt kockázatokkal. Az MI kockázati kategóriák meghatározása alapvető a szabályok betartása érdekében, hiszen a rendelet különböző szintű követelményeket támaszt az MI rendszerekhez a kockázati besorolásuktól függően. Az alábbiakban összefoglaljuk, milyen MI kockázati kategóriák léteznek, és miért lehet szükséged auditorra vagy tanácsadóra, hogy megfelelj a szabályozásnak.

MI kockázati kategóriák dióhéjban

1. Elfogadhatatlan kockázat: Ezek az MI-rendszerek tiltottak az EU-ban, mivel súlyosan sérthetik az alapvető jogokat.
2. Magas kockázat: Olyan rendszerek, amelyek jelentős hatással lehetnek az emberek biztonságára vagy alapvető jogaira, és különleges megfelelőségi követelmények vonatkoznak rájuk.
3. Átláthatósággal kapcsolatos kockázat: Azok a rendszerek, amelyek átláthatósági szempontból jelentenek kockázatot – például manipuláció vagy „deepfake” technológiák esetén –, különleges tájékoztatási követelményeket igényelnek.
4. Minimális kockázat: A legtöbb MI-rendszer ide tartozik, és nincs szükség további jogi kötelezettségek teljesítésére.
5. Rendszerszintű kockázat az általános célú MI-modellek esetében: Az általános célú, széleskörűen alkalmazott MI-modellek rendszerszintű kockázatot hordozhatnak, amelyek globálisan érinthetik a felhasználókat.

MI kockázati kategóriák részletesen

1. Elfogadhatatlan kockázat

Az EU szigorúan tiltja azokat az MI-rendszereket, amelyek súlyosan sértik az alapvető jogokat, illetve ellentétesek az uniós értékekkel. Az ilyen rendszerek magukban hordozzák a manipuláció és a felhasználók sebezhetőségének kihasználását. Példák erre:

• Manipuláció és sebezhetőség kihasználása: Azok az MI-rendszerek, amelyek tudatosan manipulálják az embereket, például vásárlásra ösztönző alkalmazások, amelyek gyerekeket céloznak manipulatív technikákkal.
• Társadalmi pontozás: Köz- vagy magáncélú rendszerek, amelyek az embereket viselkedésük alapján pontozzák, korlátozva jogaikat vagy lehetőségeiket.

Példa: Egy vállalkozás olyan MI-rendszert fejleszt, amely monitorozza az alkalmazottak érzelmeit, hogy növelje a termelékenységet. Ez az MI alkalmazás az elfogadhatatlan kockázati kategóriába esik, mivel sérti az egyének alapvető jogait.

2. Magas kockázat

A magas kockázati kategóriába tartozó MI-rendszerek jelentős hatással vannak a felhasználók biztonságára és alapvető jogaira. Az ilyen rendszerek használata szigorú megfelelőségi követelményeket von maga után. Ide tartoznak például:

• Egészségügyi alkalmazások: Olyan MI-szoftverek, amelyek diagnosztizálják a betegségeket.
• Toborzási rendszerek: MI alapú toborzási megoldások, amelyek előszűrik a jelölteket.
• Hitelbírálati rendszerek: MI rendszerek, amelyek döntenek hitelkérelmekről.
• Bűnüldözési alkalmazások: Profilalkotó rendszerek, amelyek bűnelkövetés előrejelzésére szolgálnak.

Példa: Ha egy bank MI-t használ a hitelkérelmek automatikus elbírálására, ez magas kockázatú alkalmazásnak számít, mivel jelentős hatással lehet az egyének pénzügyi lehetőségeire.

3. Átláthatósággal kapcsolatos kockázat

Bizonyos MI-alkalmazások manipulációs vagy félrevezetési potenciállal rendelkeznek, ezért különleges átláthatósági követelmények vonatkoznak rájuk. Ide tartoznak például:

• Csevegőrobotok: A felhasználóknak tudniuk kell, hogy egy MI rendszerrel kommunikálnak, nem egy valódi személlyel.
• Deepfake technológiák: Hamisított képek vagy videók, amelyek megtévesztően valódinak tűnhetnek.

Példa: Egy marketingcég deepfake technológiát használ reklámok készítésére. A nézőket tájékoztatni kell arról, hogy a felvételek mesterségesen készültek.

4. Minimális kockázat

A legtöbb MI-alkalmazás minimális kockázati kategóriába esik, amelyhez nincs szükség további jogi kötelezettségekre. Ezek az alkalmazások általában nem veszélyeztetik a felhasználók jogait vagy biztonságát, de a szolgáltatók önként dönthetnek etikai irányelvek betartása mellett.

Példa: Egy webáruház MI-alapú ajánlórendszert használ, amely termékeket javasol a vásárlóknak. Ez minimális kockázatú MI alkalmazás.

5. Rendszerszintű kockázat: Általános célú MI-modellek

Az általános célú MI-modellek, például a nagy nyelvi modellek rendszerszintű kockázatot jelenthetnek, ha széles körben alkalmazzák őket. Problémákat okozhatnak, ha:

• Széles körben terjesztenek előítéleteket: Ha a modell torzításokat tartalmaz, amelyek sok alkalmazásban megjelenhetnek.
• Biztonsági kockázatot jelentenek: Rosszindulatú célokra felhasználva, például kibertámadásokhoz.

Példa: Egy nagy nyelvi modell chatbotok fejlesztésére szolgál, de a modell előítéleteket tartalmazhat, amelyek megjelennek a felhasználói interakciók során.

Hogyan döntsd el, hogy magas kockázatú-e az MI-rendszered?

Az AI Act világos módszertant ad a besoroláshoz:

• Rendeltetés és funkció: Vizsgáld meg, mire használják az MI-rendszert, és milyen célból.
• Meglévő jogszabályok hatálya alá tartozik-e: Ha a rendszer egy termék biztonsági eleme, amely már uniós jogszabályok alá esik, akkor valószínűleg magas kockázatú.
• Mellékletben felsorolt területek: Az oktatás, foglalkoztatás, bűnüldözés vagy migráció területén működő rendszerek gyakran magas kockázatúak.

Példa: Ha egy oktatási intézmény MI-rendszert használ a diákok teljesítményének értékelésére, ez magas kockázatú alkalmazásnak minősül.

Miért van szükséged auditorra vagy tanácsadóra?

Ha az MI-rendszered a magas kockázati kategóriába tartozik, kötelező lehet auditor vagy tanácsadó bevonása. A szakértők segíthetnek:

• Besorolni a rendszered kockázati szintjét: Szakértői tanács szükséges a besoroláshoz, különösen az egészségügy, banki szektor vagy bűnüldözés területén.
• Megfelelni a szabályozásoknak: Egy harmadik fél általi megfelelőségértékelés szükséges lehet a jogszabályok betartásához.
• Biztosítani az átláthatóságot: Egyes MI rendszerek esetében fontos, hogy a felhasználók tisztában legyenek a mesterséges intelligencia használatával.

Összefoglaló

Az MI kockázati kategóriák ismerete alapvető fontosságú a jogszabályok betartása érdekében. Ha vállalkozásod MI-t fejleszt vagy használ, érdemes alaposan megérteni a kategóriákat, és szükség esetén szakértői segítséget igénybe venni. Az MI-szabályozás célja a megbízható és biztonságos MI-megoldások támogatása. Az auditor vagy tanácsadó bevonása nemcsak a megfelelőség biztosítása miatt hasznos, hanem hosszú távú üzleti előnyöket is hozhat, erősítve az ügyfelek bizalmát és csökkentve a jogi kockázatokat.

A hivatalos leírást itt találod: https://digital-strategy.ec.europa.eu/hu/policies/regulatory-framework-ai