Bebeluși însângerați, case și străzi distruse. Deepfake-urile despre războiul din Gaza cresc temerile cu privire la puterea AI de a induce în eroare

Miercuri, 29 Noiembrie 2023, ora 22:38
2833 citiri
Bebeluși însângerați, case și străzi distruse. Deepfake-urile despre războiul din Gaza cresc temerile cu privire la puterea AI de a induce în eroare
Orașul Gaza a ajuns o ruină FOTO / japantimes.co.jp

Răspândirea de fotografii și videoclipuri false ale războiului dintre Israel-Hamas stârnește îngrijorări cu privire la impactul AI asupra altor evenimente mondiale majore.

Printre imaginile cu case bombardate și străzi distruse din Gaza, unii au remarcat cu groază copii însângerați, abandonați. Aceste imagini, care au fost vizualizate online de milioane de ori de la începutul războiului, sunt deepfake generate de inteligența artificială. Dacă te uiți cu atenție, vei vedea indicii: degete ciudat răsucite sau ochi care pâlpâie de lumină nenaturală - toate acestea indică înșelăciune digitală, scrie Associated Press.

Imaginile din războiul Israel-Hamas au ilustrat viu și dureros potențialul AI ca instrument de propagandă, folosit pentru a crea imagini realiste ale carnagiului. De la începutul războiului luna trecută, imagini modificate digital și răspândite pe rețelele de socializare au fost folosite pentru a face afirmații false cu privire la responsabilitatea victimelor sau pentru a înșela oamenii cu privire la atrocități care nu s-au întâmplat niciodată.

În timp ce majoritatea afirmațiilor false care circulă online despre război nu au necesitat folosirea AI și au venit din surse mai convenționale, progresele tehnologice vin cu o frecvență tot mai mare și cu puțină supraveghere. Acest lucru a făcut ca potențialul inteligenței artificiale să devină o altă armă și a oferit o privire asupra a ceea ce va urma în viitoarele conflicte, alegeri și alte evenimente mari.

„Se va înrăutăți – mult mai rău – înainte de a se îmbunătăți”, a spus Jean-Claude Goldenstein, CEO al CREOpoint, o companie de tehnologie cu sediul în San Francisco și Paris care utilizează AI pentru a evalua validitatea afirmațiilor online. Compania a creat o bază de date cu cele mai virale deepfake care au apărut din Gaza. „Imagini, video și audio: cu IA generativă va fi o escaladare pe care nu ați văzut-o.”

„Dezinformarea este concepută pentru a vă face să interacționați cu ea”

În unele cazuri, fotografiile din alte conflicte sau dezastre au fost reutilizate și prezentate ca noi. În altele, programele AI generative au fost folosite pentru a crea imagini de la zero, cum ar fi una a unui copil care plânge în mijlocul epavelor bombardamentelor care au devenit virale în primele zile ale conflictului.

Alte exemple de imagini generate de inteligență artificială includ videoclipuri care arată presupuse lovituri de rachete israeliene sau tancuri care rulează prin cartiere în ruine sau familii care caută prin moloz după supraviețuitori.

În multe cazuri, falsurile par concepute pentru a evoca o reacție emoțională puternică prin includerea trupurilor bebelușilor, copiilor sau familiilor. În primele zile sângeroase ale războiului, susținătorii Israelului și Hamas au susținut că cealaltă parte a victimizat copii și bebeluși. Imaginile deepfake ale bebelușilor care plângeau au oferit „dovezi” fotografice care au fost rapid reținute ca dovadă.

Propagandiștii care creează astfel de imagini sunt pricepuți să vizeze cele mai profunde impulsuri și anxietăți ale oamenilor, a declarat Imran Ahmed, CEO al Center for Countering Digital Hate, o organizație nonprofit care a urmărit dezinformarea din război. Fie că este vorba despre un copil deepfake, sau despre o imagine reală a unui copil dintr-un alt conflict, impactul emoțional asupra privitorului este același.

Cu cât imaginea este mai detestabilă, cu atât este mai probabil ca un utilizator să și-o amintească și să o partajeze, răspândind fără să vrea și mai mult dezinformarea.

"Oamenilor li se spune chiar acum: Uitați-vă la această imagine a unui copil. Dezinformarea este concepută pentru a vă face să interacționați cu ea”, a explicat el.

În toată lumea, o serie de firme de tehnologie lucrează la noi programe care pot depista imaginile manipulate digital, pot aplica filigrane pe imagini pentru a le dovedi proveniența sau pot scana texte pentru a verifica afirmații înșelătoare care ar fi putut fi introduse de inteligența artificială.

Conținut înșelător generat de inteligență artificială a început să se răspândească după ce Rusia a invadat Ucraina în 2022

Un videoclip modificat părea să-l arate pe președintele ucrainean Volodimir Zelenski ordonând ucrainenilor să se predea. Astfel de afirmații au continuat să circule chiar și săptămâna trecută, arătând cât de persistentă poate fi dezinformarea chiar și ușor de dezmințit.

Fiecare nou conflict, sau sezon electoral, oferă noi oportunități pentru vânzătorii ambulanți de dezinformare pentru a demonstra cele mai recente progrese AI. Acest lucru îi face pe mulți experți în inteligență artificială și politologi care avertizează asupra riscurilor pentru anul viitor, când mai multe țări vor organiza alegeri majore, inclusiv SUA, India, Pakistan, Ucraina, Taiwan, Indonezia și Mexic.

Riscul ca inteligența artificială și rețelele sociale să poată fi folosite pentru a răspândi minciuni alegătorilor americani i-a alarmat pe parlamentarii ambelor partide de la Washington. La o audiere recentă despre pericolele tehnologiei deepfake, reprezentantul american Gerry Connolly, democrat din Virginia, a declarat că SUA trebuie să investească în finanțarea dezvoltării de instrumente AI concepute pentru a contracara alte produse AI.

„Noi, ca națiune, trebuie să facem acest lucru corect”, a spus Connolly.

În întreaga lume, o serie de firme tehnologice lucrează la noi programe care pot adulmeca falsurile, pot aplica filigrane pe imagini pentru a le dovedi originea sau pot scana un text pentru a verifica orice afirmații false care ar fi putut fi introduse de AI.

„Următorul val de inteligență artificială va fi: Cum putem să verificăm conținutul de pe internet. Cum poți detecta dezinformarea, cum poți analiza textul pentru a stabili dacă este demn de încredere?", a explicat Maria Amelie, cofondator al Factiverse, o companie norvegiană care a creat un program de IA care poate scana conținutul pentru a detecta inexactitățile sau prejudecățile introduse de alte programe de IA.

Astfel de programe ar fi de interes imediat pentru educatori, jurnaliști, analiști financiari și pentru alții interesați să înlăture falsurile, plagiatul sau frauda. Programe similare sunt concepute pentru a adulmeca fotografii sau videoclipuri manipulate.

Deși această tehnologie este promițătoare, cei care folosesc inteligența artificială pentru a minți sunt adesea cu un pas înainte, potrivit lui David Doermann, un informatician care a condus un efort la Agenția de Proiecte de Cercetare Avansată a Apărării pentru a răspunde amenințărilor la securitatea națională reprezentate de imaginile manipulate de AI.

Quarterly Report - evenimentul #1 pentru companii la BVB

Armata israeliană a prezentat un „plan de evacuare” a civililor din Gaza aflați în „zonele de luptă”
Armata israeliană a prezentat un „plan de evacuare” a civililor din Gaza aflați în „zonele de luptă”
Armata israeliană a prezentat un plan de "evacuare" a civililor din "zonele de luptă" din Fâşia Gaza, a anunţat luni biroul lui Benjamin Netanyahu, care este în continuare hotărât să...
Statele Unite apreciază negocierile „constructive” dintre Israel și Hamas: „Aceste discuţii merg bine”
Statele Unite apreciază negocierile „constructive” dintre Israel și Hamas: „Aceste discuţii merg bine”
Există tot mai multe semne de progres în negocierile pentru încetarea focului în Fâşia Gaza şi schimbul de ostatici, a declarat joi directorul de comunicare al Consiliului Naţional de...
#Israel, #razboi, #Hamas, #Gaza, #deepfake, #falsuri, #inteligenta artificiala, #fotografii , #Razboi Gaza