Umetna inteligenca proti avtentičnosti: Vse večja potreba po preverjanju pristnosti v digitalnih vsebinah

Kako se podjetja odzivajo na vzpon vsebin z umetno inteligenco

Zaradi teh težav se velika tehnološka podjetja ukvarjajo z načini za izboljšanje pristnosti in izvora medijev. Microsoft je v okviru svoje letne konference Build napovedal, da bosta njegovi orodji Bing Image Creator in Designer odslej imeli nove funkcije preverjanja izvora medijev.

Uporabniki bodo lahko s kriptografskimi metodami, ki vključujejo informacije o tem, od kod je vsebina prišla, preverili, ali je slike ali videoposnetke ustvarila umetna inteligenca.

Da pa bi ta sistem lahko deloval, se morajo različne platforme strinjati s specifikacijo Coalition for Content Provenance and Authenticity(C2PA).

Podobno je Meta izdala orodje z imenom Meta Video Seal, ki lahko doda nevidne vodne znake video posnetkom, ki jih je ustvarila umetna inteligenca. To odprtokodno orodje naj bi brez težav delovalo z obstoječo programsko opremo in tako olajšalo iskanje vsebin, ki jih je ustvarila umetna inteligenca. Video Seal obljublja, da bo odporen na običajne priredbe, kot sta zameglitev in obrezovanje, za razliko od starejših tehnologij vodnih znakov, ki so imele težave s stiskanjem videa in manipulacijo.

Težave in omejitve

Kljub tem izboljšavam še vedno obstajajo težave pri pridobivanju velikega števila ljudi za uporabo teh tehnologij. Mnogi razvijalci morda oklevajo pri prehodu z obstoječih lastniških rešitev na odprtokodne možnosti, kot je Video Seal.

Meta namerava organizirati delavnice na večjih konferencah o umetni inteligenci in pripraviti javno lestvico, ki bo primerjala različne metode vodnih znakov, da bi k sodelovanju pritegnila več ljudi.

Poleg tega metode vodnih znakov, ki jih imamo zdaj, niso vedno dovolj močne ali učinkovite, ko gre za video vsebine.

Dva glavna pristopa k boju proti vsebinam, ki jih ustvarja umetna inteligenca

V boju proti vsebini, ki jo ustvarja umetna inteligenca, sta se pojavili dve različni strategiji:

1. Vodni žig (preventivni pristop):

• Deluje tako, da vsebini v trenutku ustvarjanja doda nevidne podpise.
• Deluje kot digitalno potrdilo, ki prikazuje “to je ustvarila umetna inteligenca”.
• Ta pristop predstavljajo orodja, kot sta Meta Video Seal in Microsoftove funkcije izvora
• Glavna prednost je takojšnja identifikacija vsebine z umetno inteligenco

2. Orodja za odkrivanje (analitični pristop):

• Analizira obstoječo vsebino, da ugotovi, ali je bila ustvarjena z umetno inteligenco
• išče vzorce in značilnosti, značilne za vsebine, ustvarjene z umetno inteligenco
• Posebej uporabno za vsebine, ki ob ustvarjanju niso bile označene
• Ta orodja predstavljajo našo drugo obrambno linijo

Oba pristopa sta potrebna, saj se dopolnjujeta: vodni znak preprečuje zlorabo, orodja za odkrivanje pa pomagajo prepoznati neoznačeno vsebino.

Orodja in tehnologije za odkrivanje

Vsebino, ki jo ustvarja umetna inteligenca, je mogoče odkriti na več načinov kot le s tehnologijami za vodne znake. Nova orodja za odkrivanje uporabljajo zapletene algoritme za pregledovanje tako besedilne kot slikovne vsebine.

• Izvirnost, algoritme globokega učenja uporablja umetna inteligenca za iskanje vzorcev v besedilu, ki ga je ustvarila umetna inteligenca.
• GPTZero pregleduje jezikovne strukture in pogostost besed, da bi razločil vsebino, ki jo je napisal človek, od vsebine, ki so jo ustvarili stroji.
• CopyLeaks uporablja N-grame in skladenjske primerjave za iskanje majhnih sprememb v jeziku, ki bi lahko bile znaki avtorstva UI.

Ta orodja naj bi uporabnikom dala natančna mnenja o tem, kako resnična je vsebina, vendar se njihovo delovanje lahko zelo razlikuje.

Na koncu

Z razvojem generativne umetne inteligence postaja zaščita digitalne avtentičnosti vse pomembnejša. Microsoft in Meta sta vodilna na tem področju s prelomnimi standardi za preverjanje pristnosti vsebine in izvora medijev.

Za učinkovit boj proti globokim ponaredkom potrebujemo tako sprejetje teh orodij v celotni industriji kot tudi tesnejše sodelovanje med tehnološkimi podjetji. Prihodnja celovitost digitalnih vsebin je odvisna od tehnologij za odkrivanje, ki se razvijajo hitreje kot prevare, ki jih ustvarja umetna inteligenca.

Pravzaprav smo pred kratkim poročali o tem, kako YouTube sprejema podobne ukrepe z uvedbo novih orodij za odkrivanje umetne inteligence za ustvarjalce in blagovne znamke. Njihov pristop vključuje tehnologije za prepoznavanje sintetičnega glasu in odkrivanje obrazov, ki jih ustvarja umetna inteligenca, kar še dodatno dokazuje, kako si velike platforme prizadevajo za zaščito avtentičnosti vsebin v dobi umetne inteligence.