Stručnjaci: Umjetna inteligencija zrela za zloupotrebu, treba spriječiti - Monitor.hr
21.02.2018. (10:40)

Najgora kombinacija: Pametan i zao

Stručnjaci: Umjetna inteligencija zrela za zloupotrebu, treba spriječiti

Dronovi pretvoreni u rakete, lažni videi za manipuliranje javnošću i automatsko hakiranje samo su neke od prijetnji od umjetne inteligencije u pogrešnim rukama, kažu stručnjaci u novom izvještaju Malicious Use of Artificial Intelligence. Izvještaj je koncentriran na područje umjetne inteligencije koja je dostupna sada ili će biti dostupna unutar pet godina, a naglasak je na umjetnoj inteligenciji koja može učiti do super-ljudskih razina inteligencije, a bez ljudskih primjera ili vodstva. Primjeri moguće zloupotrebe umjetne inteligencije: tehnologije poput AlphaGo hackeri bi mogli iskoristiti da pronađu obrasce u podacima; pojedinac bi mogao kupiti dron, ugraditi mu softver za prepoznavanje lica i napasti određenu osobu; lažni videi za političku manipulaciju; hackeri bi mogli koristiti sintezu govora kako bi oponašali mete… Proizvođači sistema umjetne inteligencije moraju više poraditi na ublažavanju moguće zloupotrebe njihove tehnologije, a i države trebaju razmisliti o novim zakonima kako bi se spriječilo da zlonamjerne države, kriminalci i teroristi umjetnu inteligenciju ne iskoriste za svoje ciljeve, kaže se u izvještaju. The Verge


Slične vijesti

Jučer (23:00)

Pa ti objavljuj videe na mrežama

Majka u Zagrebu predala 10.000 € zbog lažnog AI glasa kćeri: nova vrsta prijevare stigla i u Hrvatsku

Jedna zagrebačka obitelj postala je žrtva sofisticirane AI prijevare. Prevaranti su uz pomoć umjetne inteligencije generirali glas kćeri i lažnog “doktora”, uvjerivši majku da je hitno potrebna operacija sa “zlatnom pločicom” vrijednom 70.000 eura. U panici, žena je predala novac posredniku ne provjerivši gdje joj je zaista kćer, pomislivši da je možda oteta. Riječ je o tzv. AI-enhanced vishingu, prijevari u kojoj umjetna inteligencija stvara realistične glasove, a uskoro i deepfake video pozive. Stručnjaci upozoravaju da objave na društvenim mrežama mogu poslužiti kao izvor za generiranje lažnih identiteta, što ovu prijetnju čini sve opasnijom i raširenijom. Index

Četvrtak (15:00)

'Možete se vi ne baviti umjetnom inteligencijom, ali ona će se baviti vama'

Šajatović: Učimo li 45 minuta na dan o umjetnoj inteligenciji?

Ne poznavati AI danas je kao da poduzetnik ne zna čitati i potpisuje ugovor znakom ‘X’, ne znajući što prihvaća. Koliko god poduzetnik ili menadžer bio skeptičan prema tome da AI bude član uprave, student u Beču ili ‘gazda’ otoka na Filipinima, te primjere treba uzimati krajnje ozbiljno. Kad je o poslovnoj zajednici u Hrvatskoj riječ, revolucionarni eksponencijalni razvoj umjetne inteligencije, prema svemu sudeći, bit će najdalekosežnija disrupcija još od pretvorbe i privatizacije prije 35 godina. Zato bi bilo mudro da svaki od nas, koliko god nam se to ne dalo, svaki dan odvoji bar 45 koncentriranih minuta za svladavanje osnovnih znanja o umjetnoj inteligenciji i potragu za primjerima ranoga korištenja AI-ja u našim branšama. Miodrag Šajatović za Lider.

Četvrtak (00:00)

Plače bolje od tebe – i zna zašto plačeš

AI nadmašio ljude na testovima emocionalne inteligencije

Studija Sveučilišta u Ženevi i Bernu pokazala je da veliki jezični modeli poput ChatGPT-4 i Claude 3.5 Haiku nadmašuju ljude na pet standardiziranih testova emocionalne inteligencije, s točnošću od oko 81 %, dok su ljudi prosječno postizali 56 %. AI sustavi briljiraju u prepoznavanju obrazaca i mogu čak stvarati realistične emocionalne testove. Ipak, stručnjaci upozoravaju da višestruki izbor ne odražava složenost stvarnih emocija – AI možda zna pravi odgovor, ali još uvijek ne zna kako je to biti čovjek. Bug

Ponedjeljak (21:00)

Ocean’s Eleven su amateri – pravi lopovi sada koriste ChatGPT

Uz pomoć umjetne inteligencije cyber prijetnje su podmuklije nego prije

Umjetna inteligencija poboljšala je phishing napade, a softverski lanac nabave postao je nova fronta kibernetičkih prijetnji. Hrvatska tvrtka ReversingLabs u 2024. otkrila je milijarde zlonamjernih datoteka i URL-ova, a njezin alat Spectra Assure dobio je prestižnu nagradu u SAD-u. Poseban izazov predstavljaju napadi na kriptovalute i AI sustave. Tvrtka širi timove, analizira 50 milijardi datoteka i pomaže developerima kroz besplatni Community alat. Cyber napadi više nisu nigerijski prinčevi – danas su sofisticirani, državom podržani i sve teže prepoznatljivi. Netokracija

19.06. (01:00)

Ured zna da imamo AI, ali nitko ne zna što bi s njim

AI u američkim tvrtkama raste, ali bez jasnih pravila, plana i koristi za zaposlenike

Novo Gallupovo istraživanje pokazuje rast korištenja umjetne inteligencije u američkim kompanijama, osobito među menadžerima i uredskim radnicima. No, usprkos sve većoj prisutnosti AI-ja, samo manji dio zaposlenika smatra da su alati korisni. Nedostatak jasnih smjernica, komunikacije i strategije usporava pravu integraciju. Strah od gubitka posla ostaje stabilan, ali percepcije učinkovitosti AI-ja znatno se razlikuju između korisnika i onih koji ga izbjegavaju. Ključ uspjeha? Dobro vodstvo, kvalitetna obuka i konkretna svrha – bez toga ni najbolji algoritmi ne pomažu. bug

18.06. (14:00)

Pametnim strojevima protiv glupe politike

Šajatović: Industriji dajte bar milijardu eura za robote i AI

U 250 godina industrijskih revolucija umjetna inteligencija je, nakon uvođenja pokretne trake, najvažnija inovacija. Možda nekome izgleda pretjerana najava da će za od tri do pet godina propasti sve tvornice koje ne budu imale robote pogonjene umjetnom inteligencijom, ali samo bi neodgovorni političari bili spremni čekati da vide hoće li se to dogoditi ili neće. U Hrvatskoj ima na tisuće većih i manjih izvoznika, lidera u tržišnim nišama, koji bi uz poguranac novcem za investicije u nadolazeći spoj robotike i umjetne inteligencije mogli ne samo očuvati nego i povećati udjele na međunarodnim tržištima. Ako je Vlada za robotaksije mogla izdvojiti skoro 200 milijuna eura, valjda može i milijardu za sve druge. Miodrag Šajatović za Lider.

16.06. (19:00)

Povijest se ponavlja – ali ovaj put s manje ugljena i više servera

AI revolucija: može li Europa izbjeći treće mjesto?

AI revolucija je nova globalna prekretnica, usporediva s industrijskom i digitalnom revolucijom. Dok su Britanija i SAD vodile prethodne valove zahvaljujući tržišnoj slobodi, inovacijama i kapitalu, EU se sada suočava s izazovima: manjkom AI inženjera, slabijim VC tržištem i starenjem populacije. AI Act nudi pravnu sigurnost, ali riskira pretjeranu regulaciju. EU mora brzo ulagati u talente i infrastrukturu ako želi biti predvodnik, a ne samo regulator budućnosti. Netokracija

13.06. (13:00)

A koliko troši na sto kilometara? To nije otkrio

Sam Altman otkrio koliko točno energije i vode utroši prosječan upit ChatGPT-u

Jedan prosječni upit potroši oko 0,34 Wh električne energije, što je otprilike onoliko koliko bi pećnica potrošila za nešto više od jedne sekunde ili visokoučinkovita žarulja za nekoliko minuta. Također potroši oko 0,32 mililitra vode, što je otprilike jedna petnaestina čajne žličice. Šef OpenAI-ja napisao je objavu na svojem blogu u kojoj se osvrće na “singularnost”, činjenicu da će čovječanstvo uskoro vjerojatno, po njemu, stvoriti umjetnu superinteligenciju, uz neke zanimljive detalje. Bug

13.06. (00:00)

Kad AI glumi čovjeka, zaboravi na "hmm" i "znaš ono"

Kako prepoznati deepfake? Više od pogleda ispod haube

AI-tehnologija koristi za generiranje vizualnog (i drugog) sadržaja koji izgleda sve uvjerljivije. Motivacije za stvaranje takvih dezinformacijskih sadržaja različite su i neke nisu nužno zlonamjerne, od eksperimentiranja do igranja novim alatima. Britanski The Guardian, u članku u kojem objašnjava kako raspoznati deepfake i sadržaje generirane uz pomoć alata umjetne inteligencije, napominje kako je videozapise, posebno one u kojima se pojavljuju ljudi, teže lažirati nego fotografije ili zvuk. Budući da videozapis uključuje sliku, pokret i zvuk, ti su elementi često neusklađeni. Ljudski zvuk generiran umjetnom inteligencijom često ima blaži ton, a govor je manje konverzacijski od onoga kako obično razgovaramo. Uz to, ne čuje se puno emocija, zastajkivanja ili poštapalica. Novinari bi trebali provjeravati sumnjivi sadržaj s nekoliko metoda, a ako je poznata osoba u pitanju, izravnim kontaktiranjem te osobe. Faktograf

12.06. (13:00)

Tvoj oblak suši moju rijeku (i breskve)

Umjetna inteligencija žedna je kao pustinjski kaktus: sukob Big Techa i poljoprivrednika u Španjolskoj

Dok EU pokušava razviti vlastitu AI infrastrukturu, lokalne zajednice u Španjolskoj, posebno u sušom pogođenom Aragonu, bune se protiv gradnje podatkovnih centara zbog njihove ogromne potrošnje vode. Microsoft i Amazon planiraju milijarde eura ulaganja, ali lokalni poljoprivrednici i aktivisti upozoravaju da Big Tech ugrožava ionako oskudne vodne resurse. Tvrtke obećavaju “vodno pozitivnu” budućnost, no kritičari ta obećanja nazivaju greenwashingom. Potrošnja vode AI sektora već je dosegnula 62 milijuna kubika godišnje, a do 2030. mogla bi narasti na 90 milijuna. tportal