Një sërë kompanish duke përfshirë Microsoft і Facebook, madje edhe studiues nga Universiteti i Kalifornisë Jugore, po zhvillojnë teknologji për të luftuar falsifikimet e thella dhe për të parandaluar përhapjen e tyre nga mediat e verdha dhe dezinformatat në përgjithësi. Megjithatë, një grup shkencëtarësh ende ia dolën t'i mashtrojnë.
Një ekip shkencëtarësh kompjuterikë në Universitetin e Kalifornisë, San Diego paralajmëroi se është ende e mundur të mashtrohen sistemet ekzistuese të zbulimit të falsifikimit të thellë duke futur të dhëna hyrëse të quajtura "shembuj konkurrues" në çdo kornizë video. Shkencëtarët prezantuan gjetjet e tyre në Konferencën e Vizionit Kompjuterik WACV 2021, të mbajtur në internet muajin e kaluar.
Shembujt konkurrues janë inpute pak të ndryshuara që bëjnë që sistemet e inteligjencës artificiale, siç janë modelet e mësimit të makinerive, të bëjnë gabime. Për më tepër, ekipi tregoi se sulmi ende funksionon pas kompresimit të videos. Në videon e mësipërme, shkencëtarët tregojnë se XceptionNet, një detektor i falsifikuar, e etiketon videon e tyre konkurruese si "të vërtetë".
Shumica e këtyre detektorëve funksionojnë duke gjurmuar fytyrat në një video dhe duke dërguar të dhënat e fytyrës së prerë në një rrjet nervor për analizë. Rrjeti nervor më pas do të analizojë këto të dhëna dhe do të gjejë elementë që zakonisht riprodhohen dobët në falsifikime të thella, të tilla si dridhjet.
Duke futur shembuj konkurrues, studiuesit zbuluan se ata mund t'i mashtronin këta detektorë fallco të thellë duke besuar se videot ishin të vërteta.
Ata theksojnë në punim se “për të përdorur në praktikë këta detektorë të falsifikimit të thellë, është e rëndësishme t'i vlerësojmë ato kundër një kundërshtari adaptiv që është i vetëdijshëm për këtë mbrojtje dhe qëllimisht përpiqet ta thyejë atë. Ne tregojmë se metodat moderne të zbulimit të falsifikimit të thellë mund të anashkalohen lehtësisht nëse sulmuesi është plotësisht ose edhe pjesërisht i vetëdijshëm për detektorin."
Siç kanë treguar këta shkencëtarë, teknologjitë e automatizimit që po zhvillohen për të luftuar dezinformimin mund të mos jenë ende në nivelin e duhur.
Lexoni gjithashtu: