Komoly nyomon követési és naplózási rendszert kell annak kiépítenie, aki bizonyos területeken mesterséges intelligenciát alkalmazó szoftvert szeretne forgalmazni az EU-ban. Az új uniós rendelet, az AI Act ezt azért is írja elő, hogy bármikor közbe tudjon lépni az ember az AI működésébe, ha szükséges. Összefoglaltuk a Pokó Diána mesterséges intelligencia és technológiai szakjogásszal készült interjúnkat.
2024 márciusában elsöprő többséggel ment át az Európai Parlamenten a világ első átfogó mesterségesintelligencia-szabályozása, az uniós AI Act. A Startup Online ennek kapcsán készített interjút dr. Pokó Diána mesterséges intelligencia és technológiai szakjogásszal, aki elmondta, hogy
a szabályozásnak kifejezett célja, hogy a mesterséges intelligenciával átszőtt jövőtől az emberek ne féljenek. Szerinte ha mindenki azt csinálna, amit akarna ezen a piacon, az könnyen ahhoz vezethetne, hogy elharapózik a félelem és a bizonytalanság az AI-rendszerekkel kapcsolatban, és ez hosszú távon gátját jelentené az innovációnak:
az emberek – úgy az EU-ban, mint azon kívül – nem használnának olyan AI-eszközöket, amelyek nem rendelkeznek megfelelő jogi garanciával.
Ahogy azt Pokó Diána kifejtette, az AI Act különböző kockázati csoportokba sorolja a mesterséges intelligenciát alkalmazó rendszereket. Tiltott technológiának minősülnek az olyan AI megoldások, amiknek a létezéséről az ember nem tud, de befolyásolja a viselkedését. Így nem lehet AI-t arra használni, hogy fogyatékos személyt vagy gyermeket manipuláljon valaki, vagy arra sem, hogy bárkit ilyen módon megfigyeljenek.
Magas kockázatú rendszereket alkalmaznak már az igazságszolgáltatásban, az oktatásban, az állami szerveknél vagy a közszolgáltatások biztosításában.
Az ilyen rendszert alkalmazónak kötelessége az AI nyomon követéséhez és döntéseibe való emberi beavatkozáshoz szükséges rendszereket, naplózást biztosítania, és regisztráltatni kell a magas kockázatú szoftvert egy uniós adatbázisban.
A szakjogász hozzáfűzte, hogy az AI Act betartatása, felügyelete és az alkalmazásban való segítségnyújtás az EU Mesterséges Intelligencia Hivatalának feladata lesz, ami jelenleg is kialakulóban van.
Pokó Diána azt is elmondta, hogy
a mezei felhasználó életében a legszembetűnőbb változás az lesz, hogy figyelmeztető üzeneteket fog kapni, ha mesterséges intelligenciával vagy az általa készített dologgal kerül kapcsolatba. Például tudni fogja, hogy AI-jal, nem egy élő személlyel csetel. Vagy tudni fogja, hogy AI generálta azt a képet, amit néz, és nem lefotózta valaki.
Továbbá a felhasználó kérheti az AI döntéseinek felülvizsgálatát, amennyiben problémát észlel. A szakjogász hozzátette, hogy szerinte uniós és tagállami szinten is rendelkezésre áll a szakembergárda ahhoz, hogy az AI Act-tel kapcsolatos munkákat megfelelően el lehessen végezni.
Pokó Diána kitért arra is, hogy jogászi szempontból kifejezetten izgalmas időszakban vagyunk, hiszen
a szemünk előtt születnek meg a mesterséges intelligencia jogi anomáliáit kezelő, új új tényállások, és a bírói joggyakorlat is roham tempóban fog felzárkózni a gyors technológiai fejlődéshez.
Ebben az időszakban kifejezetten fontos, hogy a jogászok és a mesterséges intelligenciát fejlesztő szakemberek között megszűnjön a szakadék: értse a jogász, hogy mit csinál a fejlesztő, és a fejlesztő is fogékonnyá váljon a munkájával járó jogi szempontok figyelembe vételére.
A Pokó Diánával készült teljes interjút az alábbi linken keresztül lehet teljes terjedelmében elolvasni.
NYITÓKÉP: ChatGPT
