A mesterséges intelligenciával generált hamisítványok visszaszorítása
Az ETSI (Európai Távközlési Szabványügyi Intézet) közzétette az ETSI GR SAI 011 műszaki jelentést, melyet a mesterséges intelligencia biztonságossá tételéért tevékenykedő ISG SAI (Industry Specification Group Securing Artificial Intelligence) csoport dolgozott ki. Ez a dokumentum a mesterséges intelligencia személyábrázolások manipulálására való felhasználására összpontosít, és bemutatja az ebből eredő kockázatokat, valamint az ezek mérséklésére hozható intézkedéseket.
„A mesterséges intelligenciát alkalmazó programok olyan automatizált manipulációkat tesznek lehetővé, amelyek korábban jelentős mennyiségű kézi munkát igényeltek, és szélsőséges esetekben akár a semmiből is képesek hamis multimédiás adatokat létrehozni. Képesek az audio- és videofájlok célzott manipulálására is, miközben az eredményekben megőrzi az akusztikai és vizuális minőséget, ami a korábbi technológiákkal nagyrészt megvalósíthatatlan volt. A mesterséges intelligencia szélesebb értelemben is használható az audio- és videofájlok manipulálására, például a vizuális vagy akusztikai háttér megváltoztatásával. A nemrég kiadott ETSI-jelentés intézkedéseket javasol ezek mérséklésére” – magyarázza Scott Cadzow, az ETSI ISG SAI elnöke.
Az ETSI GR SAI 011 dokumentum számos, a mesterséges intelligencia térnyerése által felvetett közvetlenebb aggályt vázol fel, olyan mesterségesintelligencia-alapú technikák alkalmazását, amelyek kifejezetten a különböző médiaformátumokban (pl. hang-, video- és szöveges formátumokban) megjelenített személyazonosító adatok automatikus manipulálására szolgálnak. A jelentés ismerteti a különböző technikai megközelítéseket, és elemzi a hamisítványok által jelentett veszélyeket különböző támadási forgatókönyvek esetén. Az alkalmazott megközelítések elemzésével az ETSI-jelentés célja, hogy a hatékonyságuk és korlátaik megvitatásán túl további technikai és szervezési intézkedések alapját nyújtsa e fenyegetések mérséklésére.
Az ETSI ISG SAI az egyetlen olyan szabványosítási csoport, amely a mesterséges intelligencia alkalmazásának biztonságossá tételével foglalkozik. Már nyolc jelentést adott ki, és azon dolgozik, hogy észszerűsítse a mesterséges intelligencia szerepét a lehetséges veszélyek szempontjából, és ennek során olyan intézkedéseket határozzon meg, amelyek a mesterséges intelligencia biztonságos alkalmazását eredményezik.
Forrás: https://www.etsi.org/newsroom/press-releases/2271-etsi-releases-world-first-report-to-mitigate-ai-generated-deepfakes
Nagy Gábor
2023. október