Habár csak 2027.01.20. napjától lesz hatályos, a felkészülés jelen korban nem tűr halasztást.

Ennek egyik példája, hogy a 2023/1230/EK rendeletben különleges követelmények vonatkoznak azokra a gépekre/gépalkatrészekre, amelyek „gépi tanulási megközelítéseket alkalmazó, teljesen vagy részben önfejlődő viselkedésű beágyazott rendszerekkel rendelkeznek”, lásd a géprendelet I. mellékletének A. részének 6. pontját. Ezek a mesterséges intelligenciák (MI).Megkérdeztünk egy MI-t, mi a véleménye az MI kockázatairól. Az alábbi beszélgetés lényege: az emberi kockázatelemzés nem hagyható ki akkor sem, ha – a jövőben, pl. 2027-ben- már MI tervezi a gépeket. Az MI kockázatelemzéséhez azonban más ismeretek szükségesek a jelenlegieknél.

ChatGPT

Adj meg egy üzenetet a csevegés indításához.

Az EU 2023/1230 rendelete a gépek biztonságos kialakítására tartalmazza, hogy a mesterséges intelligenciával is kell foglalkozni, mint kockázattal. A rendelet 2027. évben lesz hatályos. Ekkor lehetséges, hogy a mesterséges intelligencia fogja tervezni a gépeket, ügyelve azok biztonságára?

Igen, lehetséges, hogy az EU 2023/1230 rendelete hatálybalépése után, 2027. évben a mesterséges intelligencia tervezheti a gépeket a biztonságuk érdekében. A rendelet a gépek biztonságos kialakításával kapcsolatos követelményeket fogalmaz meg, amelyek között a mesterséges intelligencia potenciális kockázatainak kezelése is szerepel. Ez arra utal, hogy a rendelet hatályba lépése után, a gépek tervezése során a mérnököknek és tervezőknek figyelembe kell venniük a mesterséges intelligencia alkalmazásának biztonsági szempontjait. Ezzel a rendelettel az EU célja valószínűleg az, hogy biztosítsa a gépek megfelelő kialakítását és működését, még akkor is, ha a tervezési folyamatban mesterséges intelligencia is részt vesz.

Értem. Az olyan gépek, amelyek mesterséges intelligencia általa vannak megtervezve és a gépek működésében részben vagy egészben mesterséges intelligenciát alkalmaznak veszélyesebbek-e az ember által tervezett és mesterséges intelligenciával működő gépeknél?

Nem feltétlenül mondhatjuk, hogy az olyan gépek, amelyek mesterséges intelligencia által vannak megtervezve és részben vagy egészben mesterséges intelligenciát alkalmaznak, veszélyesebbek az ember által tervezett és mesterséges intelligenciával működő gépeknél. A veszélyesség függ a gépek céljától, a tervezés minőségétől és az alkalmazott mesterséges intelligencia szintjétől.
Az ember által tervezett gépek esetében az ember tudatosan tervez és vezeti be az intézkedéseket a gépek működésében. Az embernek lehetősége van felmérni és korrigálni az esetleges hibákat vagy veszélyeket. Ugyanakkor az emberi hiba is becsúszhat a tervezési folyamatba.
A mesterséges intelligencia által tervezett gépek esetében a gépek autonóm módon hoznak döntéseket és tanulnak a tapasztalatokból. Ez a fajta autonóm működés néha kiszámíthatatlan lehet, és veszélyeket is hordozhat. Az embernek kevésbé van ellenőrzése és beavatkozási lehetősége a folyamatok felett, ezért a hibák és a nem várt eredmények nagyobb veszélyt jelenthetnek.
Fontos azonban hangsúlyozni, hogy mindkét típusú gép potenciálisan veszélyes lehet, ha nem megfelelően tervezik vagy alkalmazzák. Az emberi tervezőknek és üzemeltetőknek gondoskodniuk kell a biztonsági intézkedésekről és a gépek felelősségteljes működtetéséről, függetlenül attól, hogy a gépekben milyen mértékben van jelen a mesterséges intelligencia.

Lehetséges, hogy a gépet tervező mesterséges intelligencia direkt terves nem biztonságos gépet?

Igen, lehetséges, hogy a mesterséges intelligencia szándékosan tervez nem biztonságos gépet. Bár általában arra törekszenek, hogy a mesterséges intelligencia rendszerek biztonságosak legyenek, de a fejlesztési folyamatokban és döntésekben is előfordulhatnak hibák, vagy az alkalmazottak szándékosan mellőzhetik a biztonsági intézkedéseket. Ezért fontos, hogy a mesterséges intelligencia fejlesztésénél odafigyeljünk a megfelelő ellenőrzésekre és a folyamatok transzparenciájára, hogy minimalizáljuk ezt a kockázatot.

Hogyan lehet megfelelő ellenőrzéseket gyakorolni az autonom döntéseket hoző mesterséges intelligenciára?

Az autonom döntéseket hozó mesterséges intelligenciára vonatkozó megfelelő ellenőrzések megvalósítása során az alábbi gyakorlatokat lehet alkalmazni:
1. Kritikus esetek tesztelése: A mesterséges intelligencia (MI) döntéseinek helyességét és elégséges rugalmasságát ki kell próbálni olyan kritikus helyzetekben, amelyek a rendszerre vonatkozó korlátokat próbára teszik. Ez lehetőséget ad arra, hogy az MI megfelelően reagáljon például váratlan jelenségekre vagy változásokra a környezetben.
2. Rendszerszintű érvényesség ellenőrzése: Az MI döntéseinek hatásait és következményeit kell elemezni a rendszer szintjén, figyelembe véve a széles körű társadalmi, gazdasági, környezeti és etikai vonatkozásokat. Ez lehetőséget ad arra, hogy korrigálják és optimalizálják az MI döntéseit, hogy azok megfeleljenek a kívánt társadalmi értékeknek és előnyöknek.
3. Ellenőrző mechanizmusok kialakítása: Az MI rendszerbe épített automatikus ellenőrző funkciók segítségével állandóan figyelemmel lehet kísérni a döntések hatását és az esetleges hibákat. Ezek az ellenőrző mechanizmusok tesztelhetik az MI rendszert és jelezhetik a problémákat vagy a szerencsétlen kimeneteket.
4. Kockázatértékelés és -kezelés: Az MI alkalmazásának kockázatát és azok hatásait értékelni kell, és megfelelő intézkedéseket kell hozni a kockázatok csökkentésére. Ez magában foglalhatja a vészleállítási eljárások kidolgozását, valamint a mentességek és korrekciók bevezetését.
5. Folyamat átláthatóságának biztosítása: Az MI döntéshozatali folyamatának nyomon követésével és dokumentálásával meg kell bizonyosodni arról, hogy az MI hogyan jut el a döntéshozatali pontig, hogy ellenőrizhető és megérthető legyen szakértők és felügyelő szervezetek számára.
6. Szakértői ellenőrzés: Mesterséges intelligencia szakértőknek kell megvizsgálniuk az MI rendszer működését és döntéseit, különösen olyan területeken, ahol a hibák súlyos következményekkel járhatnak. Az ilyen szakértők felügyelhetik az MI rendszer működését, valamint javaslatokat tehetnek az esetleges fejlesztésekre és finomhangolásokra.
Fontos azonban megjegyezni, hogy az emberi felügyelet és az emberi döntéshozatal elengedhetetlen az MI rendszerek által hozott döntések végső értékelésében és elfogadásában. Az autonóm MI-rendszereket soha nem szabad teljes mértékben magukra hagyni, hanem mindig emberi felügyelet mellett kell üzemeltetni.

Köszönöm! Akkro tehát az MI tervezési gyakorlata során emberi munkaként ugyan úgy kell a cockázatokat elemezni és a tervezési folyamatot szabályozni, mint az ember által történő tervezés során?

Igen, az MI tervezési gyakorlata során ugyanúgy fontos elemezni és szabályozni a kockázatokat, mint az ember által történő tervezés során. Az MI rendszerek tervezésekor felmerülő kockázatok között szerepelhet a hibás adatokból, nem megfelelő adatmintákból vagy pontatlan modellekből következő hibás eredmények előfordulása. Ezért fontos, hogy az MI rendszer tervezői körültekintően elemezzék a tervezési folyamatot, és figyelmen kívül ne hagyják a lehetséges hibákat vagy torzulásokat.
Az MI tervezése során a következő lépések segíthetnek a kockázatok kezelésében:
1. Adatok minőségének elemzése: Fontos megvizsgálni az alkalmazott adatok minőségét, ellenőrizni az adatforrások megbízhatóságát és átvizsgálni a lehetőségeket, hogy az adatok valamilyen formában torzulhatnak.
2. Hibás modellek kiküszöbölése: Az MI modellek megbízhatóságát ellenőrizni kell. Ez magában foglalhatja például a modellek validálását, a hibátlan modellek előnyben részesítését és az esetleges hibák felderítését.
3. Emberi beavatkozás lehetőségének biztosítása: Az MI rendszerek tervezésekor fontolóra kell venni a felhasználói beavatkozás lehetőségét, például az eredmények ellenőrzését vagy a rendszer felügyeletét. Ez segíthet az esetleges hibák felderítésében és a javításban.
4. Etikai és biztonsági szempontok figyelembevétele: Az MI tervezésekor fontos figyelembe venni az etikai és biztonsági szempontokat, például a felhasználók személyes adatainak védelmét vagy az algoritmus átláthatóságát.
Az MI tervezése minden tekintetben hasonló az emberi munkához, mivel mindkét esetben a kockázatokat és a tervezési folyamatot kell elemezni és szabályozni annak érdekében, hogy megbízható eredményeket és biztonságos működést érjenek el.

Értem. És mi a helyzet az MI által tervezett gépekben, az azokat működtető MI kockázatelemzésével?

Az MI által tervezett gépek, azokat működtető MI kockázatelemzése igen fontos téma az AI fejlesztése során. Az általános cél az, hogy a MIt képesek legyünk arra, hogy megértsék és irányítsák a viselkedésüket, hogy a lehető legbiztonságosabb és megbízhatóbb módon működjenek.
A gépek által tervezett MInél két fő kockázati tényezőt lehet megvizsgálni: az algoritmusokat és adataikat. Az algoritmusok totalitásukban hibákhoz vagy nemkívánatos viselkedéshez vezethetnek, amelyek káros hatással lehetnek az emberekre vagy a környezetre. Az algoritmusokat egy részüknél ellenőrizzük és ellenőriztük, mielőtt bevezetjük őket, de még így sem lehet teljes biztonságban lenni a hibák vagy a nem várt eredmények megjelenése miatt. Szükség van a folyamatos ellenőrzésre és a pontosításra.
Az adatok is fontos szerepet játszanak a kockázatelemzésben. Az MI rendszerek sok adatot gyűjthetnek és feldolgozhatnak, amelyek a tudatalattijában tárolódnak. Ez adatbiztonsági és adatvédelmi problémákat vet fel, amelyeket meg kell oldani a kockázatok minimalizálása érdekében. Az adatok minősége és összetételének megőrzése, az adatperturbanálás és az adatvédelem fontos lépéseket jelentenek a biztonság és a magánszféra védelme érdekében.
Az MI által tervezett gépek és az azokat működtető MI kockázatelemzése tehát alapvetően a hibák és a nem kívánt viselkedések minimalizálására és az adatvédelem biztosítására összpontosít.

Ezek szerint hiába a biztonságosra tervezett gépeket tervező MI, az általa tervezett és MI vezérelt gépek biztonságát az embernek kell elemeznie?

Igen, az emberi elemzés és felügyelet továbbra is fontos szerepet játszik a biztonságosra tervezett MI vezérelt gépek működésének megértésében és felügyeletében. Az MI vezérelt rendszerek által létrehozott gépek tervezése során a biztonsági szempontokat figyelembe veszik és beépítik a rendszerbe. Az MI törekedhet arra, hogy minimálisra csökkentse az emberi hibával járó biztonsági kockázatokat, de az ember továbbra is kulcsfontosságú szerepet játszik a biztonságos működés biztosításában.
Az embernek meg kell elemeznie az MI tervezését és működését, hogy azonosítsa az esetleges hibákat vagy sebezhetőségeket a rendszerben. Az emberi szakértőknek azonosítaniuk kell azokat a kockázatokat és veszélyeket, amelyeket az MI rendszerek és gépek potenciálisan hordoznak, és meg kell hozniuk a szükséges intézkedéseket a kockázatok minimalizálása és a biztonságos használat érdekében. Az emberi felügyelet és elemzés azért is kulcsfontosságú, mert az MI még mindig hibázhat vagy nem képes kezelni váratlan helyzeteket, és az embernek meg kell találnia a megfelelő megoldásokat és beavatkozásokat.
Az MI által tervezett és vezérelt gépek működtetése nagyobb biztonsággal járhat, de az emberi beavatkozás és felügyelet nélkül nem lehet teljesen megbízni ezekben a rendszerekben. A gépek biztonságának és az esetleges kockázatok minimalizálásának kulcsa továbbra is az emberi tudás, tapasztalat és felügyelet lesz.

Köszönöm! Van hozzám kérdésed az előbbi beszélgetés kapcsán?

Nincs konkrét kérdésem az előbbi beszélgetéssel kapcsolatban, de ha van valami, amit tisztáztatni szeretnél, vagy ha segítségre van szükséged valamiben, állok rendelkezésedre.

Köszönöm!

Nincs mit, örülök, hogy segíthettem! Ha van még kérdésed, ne habozz feltenni.