Një foto e një “shpërthimi” pranë Pentagonit, e krijuar nga AI, u bë virale Twitter

Kohët e fundit në Twitter u shfaq një foto, e cila, siç thuhej në përshkrim, paraqiste një shpërthim që ndodhi pranë Pentagonit. Për shkak të kësaj, pati edhe një rënie afatshkurtër në treg - indeksi S&P 500 ra me 0,29%, por pasi doli se fotografia ishte e rreme, indeksi u rikuperua. Imazhi u postua nga një llogari e verifikuar e Bloomberg Feed, e cila, pavarësisht shenjës blu, nuk është e lidhur me kompaninë mediatike Bloomberg.

Fotoja u njoh shpejt si e rreme. Me sa duket u krijua me ndihmën e inteligjencës artificiale. Por, përpara se të shfaqeshin këto detaje, dezinformata ishte përhapur tashmë nga llogari të ndryshme, duke përfshirë edhe të poshtër Russia Today (epo, kush do të dyshonte).

Imazhi i rremë tregon një shtëllungë të madhe tymi të zi pranë një ndërtese që i ngjan paksa Pentagonit, me tekstin shoqërues. Pas një inspektimi më të afërt, autoritetet lokale konfirmuan se imazhi nuk ishte një paraqitje e saktë e Pentagonit dhe shtyllat e turbullta të gardhit dhe kolonat e ndërtesave dukeshin si një imazh mjaft i ngathët i krijuar duke përdorur një model të AI si Stable Diffusion.

Llogari false e Bloomberg më parë Twitter e bllokoi atë, kishte dhjetëra mijëra cicërima, por më pak se 1 ndjekës në total dhe është e paqartë se kush e drejtoi atë ose cili ishte motivimi pas imazhit të rremë. Përveç Bloomberg Feed, llogari të tjera që përhapin mesazhin e rremë përfshijnë Walter Bloomberg dhe Breaking Market News, të cilat gjithashtu nuk janë të lidhura me kompaninë e vërtetë Bloomberg.

Incidenti theksoi kërcënimet e mundshme që imazhet e krijuara nga AI mund të paraqesin në mediat sociale, ku informacioni i paverifikuar shpërndahet me nxitim dhe sistemi i verifikimit me pagesë në Twitter. Në mars, imazhet e rreme të arrestimit të Donald Trump, të krijuara duke përdorur Midjourney, u bënë virale dhe ndërsa u quajtën menjëherë të rreme, ato dukeshin jashtëzakonisht realiste. Gjithashtu, shumë u mashtruan nga imazhet e krijuara nga AI të Papa Françeskut me një xhaketë të bardhë.

Llogaria "BloombergFeed" tani është e ndaluar.

Por kjo thjesht do të shndërrohet në një lojë me goditje të shpejtë.

Imazhe të rreme të AI + lajme të rreme të verifikuara Twitter llogaria + mediat kryesore që nuk kontrollojnë gjendjen e tyreces = një recetë për katastrofën në shoqërinë tonë dixhitale.

Kjo nuk do të ngadalësohet. fototwitter.com/ZeboVgVm4Z

— Lorenzo Green 〰️ (@mrgreen) Mund 23, 2023

Papa me një xhaketë poshtë është një gjë, por një shpërthim në selinë e Departamentit të Mbrojtjes të SHBA është një gjë tjetër. Pasojat mund të jenë të rënda, siç dëshmon i njëjti bursë. Dow Jones Industrial Average ra me 85 pikë në katër minuta pasi postimi në Twitter u bë viral, por u rikuperua shpejt.

Pjesa më e madhe e konfuzionit rreth postimit të rremë u bë e mundur nga ndryshimet në Twitter në kohën e Elon Musk. Ai shkarkoi shumë moderatorë të përmbajtjes dhe automatizoi kryesisht procesin e verifikimit të llogarisë, duke e zhvendosur atë në një sistem ku çdokush mund të paguajë për një çek blu. Kritikët thonë se praktika e bën platformën më të prekshme ndaj dezinformatave.

Megjithëse autoritetet ishin relativisht të shpejta për ta njohur foton e shpërthimit si të rreme, disponueshmëria e modeleve të sintezës së imazhit si Midjourney dhe Stable Diffusion do të thotë që falsifikimet bindëse nuk kërkojnë më mjeshtëri, duke lënë hapësirë ​​për dezinformim. Lehtësia e krijimit të falsifikimeve e kombinuar me natyrën virale të platformave si Twitter, do të thotë se informacioni i rremë mund të përhapet më shpejt sesa mund të verifikohet.

Në këtë rast, imazhi nuk duhet domosdoshmërisht të jetë i cilësisë së lartë për të krijuar një ndikim negativ. Ekspertët thonë se kur njerëzit duan të besojnë diçka, humbasin vigjilencën dhe nuk kontrollojnë vërtetësinë e informacionit.

Lexoni gjithashtu:

• Gjuha e Metës AI njeh më shumë se 4 gjuhë
• Adobe shton redaktimin Generative Fill me AI në Photoshop