Ljudi više ne razlikuju AI glasove od stvarnih – deepfake postao svakodnevni zvuk - Monitor.hr
Jučer (22:00)

Kad Siri postane tvoj rođak

Ljudi više ne razlikuju AI glasove od stvarnih – deepfake postao svakodnevni zvuk

Novo istraživanje Sveučilišta Queen Mary pokazuje da većina ljudi više ne može razlikovati ljudski glas od onoga generiranog umjetnom inteligencijom. Sudionicima je pušteno 80 glasovnih uzoraka, a klonirani AI glasovi bili su gotovo neodvojivi od stvarnih – razlike su bile unutar statističke pogreške. Softver korišten u studiji zahtijevao je minimalno znanje i samo nekoliko minuta snimki stvarnog glasa. Istraživači upozoravaju da su takvi glasovi često percipirani kao dominantniji i pouzdaniji, što otvara ozbiljna pitanja o manipulaciji i sigurnosti komunikacije. Bug


Slične vijesti

14.08. (08:00)

Šum koji ne smeta, ali živcira krivotvoritelje

Znanstvenici razvili softver koji kodira vodeni žig u snimku i otkriva AI lažnjake

Znanstvenici sa Sveučilišta Cornell razvili su tehniku “osvjetljenje kodirano šumom” (NCI) koja skriva vodene žigove u prividnom šumu izvora svjetlosti. Ti žigovi nose verziju originalnog videa s vremenskim oznakama, pa se manipulacije otkrivaju usporedbom s kodnim videozapisima. Budući da je žig gotovo nevidljiv i zahtijeva kompleksno lažiranje svjetla u više verzija videa, krivotvoriteljima posao postaje znatno teži. Ipak, autori upozoravaju da će borba protiv realističnih AI lažnjaka biti dugotrajna i sve zahtjevnija. Bug

14.07. (00:00)

Pa ti vjeruj da nisi u Matrixu

Google Veo 3 pravi AI videe iz fotki. Stručnjaci su zabrinuti

Funkcija je dostupna korisnicima paketa Google AI Pro (19.99 USD mjesečno) i Ultra (249.99 USD mjesečno) i predstavlja još jedan korak prema dubljoj integraciji umjetne inteligencije u videoprodukciju. Kreativna revolucija? Možda. Ali i minsko polje rizika – od autorskih prava, preko deepfakeova, do dezinformacija, piše Fanpage.it. Dovoljno je iz izbornika odabrati “video”, učitati fotografiju i opisati željene pokrete. Ako je riječ o ljudima na slici, korisnik može zadati i konkretne radnje ili dijaloge; za pejzaže i ambijente moguće je dodati maštovite detalje poput neuobičajenih vremenskih pojava ili fantastičnih objekata. Index

02.05. (16:00)

Sad lažiraju i otkucaje srca

Deepfake videi postaju sve uvjerljiviji, niti detektori ih ne mogu prepoznati

Budući detektori morat će pratiti sve sofisticiranije deepfake uratke i moći otkrivati sitne promjene u boji i rumenilu lica osobe tijekom vremena. Eksperimentalni detektori lažnih videozapisa temeljeni na rPPP-u pokazali su se dobrima u razlikovanju stvarnih i lažnih videozapisa no autori deepfake uradaka u međuvremenu su usavršili svoje vještine. Zbog toga su njemački inženjeri kodirali novi deepfake detektor koji automatski izdvaja i analizira puls iz videozapisa. Pritom koristi nove metode kompenzacije pokreta i uklanjanja šuma, a za rad mu je potreban ulazni videozapis lica osobe u trajanju od samo 10 sekundi. Bug

11.03. (15:00)

Ako zvuči predobro da bi bilo istinito, vjerojatno je deepfake

AI prevare sve sofisticiranije, hrvatske institucije zasad ne rade puno po tom pitanju

Umjetna inteligencija sve se više koristi za prijevare – od lažnih investicijskih platformi do čudotvornih lijekova. Prevaranti oponašaju glasove poznatih osoba poput Plenkovića, Milanovića i liječnika kako bi lakovjernima izvukli novac. Dok hrvatske institucije sporo reagiraju, britanska policija upozorava na ozbiljnije AI prijetnje, uključujući kibernetičke napade i seksualno iznuđivanje. Financijski sektor također je na udaru deepfake tehnologije. S obzirom na sve veću dostupnost AI alata, stručnjaci predviđaju porast kriminala do 2029. godine – savršeno vrijeme da ne vjerujete ničemu što vidite ili čujete online. Faktograf

28.07.2024. (17:00)

Ili je sve umjetnost ili ništa

Deepfake je problem, ali postoji bojazan da će prestrogi zakoni kriminalizirati i njezino benigno korištenje

Širom svijeta se raspravlja o novim zakonima koji bi parirali zloćudnim pojavama koje nastaju na osnovu tehnologije kao što je Deepfake. Nacrt zakona u Njemačkoj predviđa oštrije kazne kao i uvođenje novog krivičnog djela „povrede osobnog prava digitalnom imitacijom”. Aktivisti koji se bore za zaštitu ljudskih prava kažu da bi većina prekršaja koji se odnose na Deepfake mogla biti sankcionirana na temelju postojećih zakona. Upozoravaju na to da bi poseban zakon mogao kriminalizirati i legitimne upotrebe tehnologije. Ovo pokazuje da je tehnologija, koja briše razliku između stvarnosti i fikcije veliki izazov. Politika mora zaštiti građane od zloupotrebe, a da pri tome ne ograniči prava i slobode ili slobodno izražavanje mišljenja. DW

18.07.2024. (20:00)

Ali ja se nisam tako fotkala

‘Deepfake’ pornografija pokreće novu industriju zaštite privatnosti

Čak 99 posto žrtava deepfake pornografije su žene ili djevojčice. Pozivi na akciju sve su glasniji, no sva istraživanja o efikasnosti postojećih detektora pokazuju da oni teško drže korak s alatima za generiranje deepfakea. Uklanjanje takvog materijala s društvenih mreža ide teško, a s pornografskih platformi još i teže. Iako negdje zakoni koji to kažnjavaju postoje ili se tek trebaju implementirati, najveći je problem njihovo šarenilo koji zahtijevaju dokaz da je počinitelj djelovao s namjerom da uznemiri ili zastraši žrtvu, ali i neslaganje o tome treba li distribuciju lažne pornografije goniti kazneno ili u građanskim parnicama. Pokrenute su i prve aplikacije koje nude alate za vizualno prepoznavanje korporativnim klijentima koji žele biti sigurni da se njihovi logotipi, uniforme ili proizvodi ne pojavljuju u pornografiji. Takvi projekti donose novac, no dugoročni je cilj stvoriti alat koji će svaka žena moći koristiti za skeniranje cijelog Interneta u potrazi za lažnim slikama ili videozapisima s njihovim licem. Bug

10.07.2024. (12:00)

Još pokušati dokazati da to nisi ti...

AI aplikacija za deepfake skidanje obučene osobe uzela maha u Srbiji, počinitelji nekažnjeni, a žene nemoćne

Tzv. “Undress AI aplikacije” funkcioniraju tako da se uploadaju fotke obučenih djevojaka, da bi ih program prikazao gole, odnosno generirao fotku istih djevojaka bez odjeće, i to vrlo uvjerljivo. Takve se fotke dijele kao amaterska pornografija po messenger grupama. Tako je nedavno “procurila” fotka jedne djevojke iz Srbije, koja je na društvenim mrežama prije nekoliko godina objavila fotku sebe u badiću, ne sluteći da bi jednog dana mogla završiti na internetu bez njega iako se nije fotografirala obnažena, što joj danas stvara noćne more. Ne znaju odakle je ta fotka potekla, ali znaju da se pojavila u jednoj Telegram grupi. Slučaj su prijavili policiji, koja tu ne može ništa, budući da nije bila ucjenjivana ili žrtva nekog drugog kaznenog djela. No, odvjetnici upozoravaju kako bi se slučaj trebao tretirati kao bilo koji drugi slučaj osvetničke pornografije, odnosno objavljivanja privatnih fotki bez pristanka osobe na njoj. Balkan Insight

26.04.2024. (15:00)

I'm shocked!

Sve više poduzeća na udaru “deepfake” prevara

Prema podacima koje donosi Altindex.com, jedna trećina tvrtki je pogođena prijevarom potpomognutom umjetnom inteligencijom, a više od 80% tvrtki smatraju takve prijevare istinskom prijetnjom. AI omogućuje prevarantima da stvore sofisticirane napade, uključujući deepfakeove, koji postaju sve teži za prepoznati. Koliko je to opasno pokazuje slučaj u kojem je financijski službenik isplatio 25 milijuna dolara nakon video poziva s deepfake glavnim financijskim direktorom. Očekuje se da će troškovi kibernetičkog kriminala dosegnuti rekordne razine, odnosno 9,2 bilijuna dolara u 2024. godini, a ni pogled u dalju budućnost nije optimističan. Tako stručnjaci smatraju da će u sljedećim godinama šteta od kibernetičkog kriminala porasti za 70% i do 2028. dosegnuti 13,8 bilijuna dolara. (Točkanai.hr)

19.02.2024. (08:00)

Ništa ljudski nije mi nastrano

Postnikov: Problem s umjetnom inteligencijom nije da stvari postaju gore, nego što – ostaju iste

Ne trebamo dakle strahovati od toga što je umjetna inteligencija suviše inteligentna, nego što nije inteligentna dovoljno. Ili barem ne toliko da bi shvatila svo bogatstvo ljudskog humora, ironije i višeznačnih poruka. A jednom kada se njena upotreba proširi, prisilit će nas da podjednako nemaštoviti postanemo i mi. Zajebantsko internetsko “pravilo 34” – koje kaže da “ako nešto postoji, onda na internetu postoji i porno-verzija toga” – skovano je prije točno 20 godina, a umjetna inteligencija, ispada, nije nikakva iznimka od pravila. Iz Beograda je stigla vijest o deepfake fotografijama nastavnica i maloljetnih učenica u pornografskim pozama, a krivci su 13-godišnjaci koji su otkrili besplatne AI programe.

U Mostaru, za to vrijeme, skandal druge vrste: tamošnji Filozofski fakultet, prenosi većina regionalnih medija, prošlog je tjedna najavio međunarodnu politološku konferenciju plakatom s vizurom grada iz koje su izbrisani minareti džamija. Autora ovog teksta priča je podsjetila na epizodu od prije 15-ak godina, kada su klijenti jedne reklamne agencije tražili da se digitalno sa fotografija Mostara izbrišu – minareti. Zbog toga zaključak kako se ništa nije promijenilo, osim što su virtualna rušenja, zahvaljujući umjetnoj inteligenciji, postala jeftinija. Novosti