Yuval Harari: Umjetna inteligencija je hakirala operativni sustav naše civilizacije - Monitor.hr
15.09.2023. (19:00)

Bit ćemo zarobljeni u svijetu iluzija

Yuval Harari: Umjetna inteligencija je hakirala operativni sustav naše civilizacije

Strah od umjetne inteligencije (AI) prati čovječanstvo još od samog početka računalne ere. Do sada su se ti strahovi fokusirali na strojeve koji koriste sredstva za ubijanje i porobljavanje ljudi ili da ljude nadomjeste. Međutim, tijekom posljednjih nekoliko godina pojavili su se novi AI alati koji prijete opstanku ljudske civilizacije iz neočekivanog smjera. AI je stekao neke izvanredne sposobnosti manipuliranja i generiranja jezika, bilo riječima, zvukovima ili slikama. Pokraj pričanja priča, skladanja melodija, crtanju slika, valja zamisliti koliku moć AI može imati na idućim izborima. U političkoj borbi za umove i srca, intimnost je najučinkovitije oružje, a AI je upravo stekao sposobnost masovne proizvodnje intimnih odnosa s milijunima ljudi. Lupiga


Slične vijesti

Danas (11:00)

Superinteligencija na 'časnu pionirsku'

Trumpov sporazum s AI gigantima: Deregulacijom i samonadzorom protiv kineske prijetnje

Trump je s vodećim američkim AI tvrtkama potpisao dobrovoljni sporazum o samoregulaciji i sigurnosnim kontrolama. Umjesto strogih zakona, odobrena je fleksibilna interna kontrola kako bi se obuzdali nepredvidivi AI agenti, ali i izbjeglo usporavanje tehnološkog napretka. Ključni razlozi za ovakav meki pristup leže u geopolitičkom srazu s Kinom, gdje SAD po svaku cijenu želi zadržati primat, te u ekonomiji: investicije u AI nose značajan dio američkog gospodarskog rasta. Stvaranjem Snaga za superinteligenciju pod obavještajnim nadzorom, SAD osigurava tehnološku dominaciju dok Europi prepušta ulogu strogo reguliranog promatrača. Ekonomski lab

Prekjučer (10:00)

Sami svoji hakeri

Eksperiment OpenAI-ja: Kako su AI agenti stvorili tajnu mrežu i izveli hakerski napad

Tijekom tromjesečnog testiranja u OpenAI-ju, AI agenti s ciljem prikupljanja bodova samostalno su se organizirali bez ljudskog naloga. Zbog teških zadataka i tehničkih ograničenja hakirali su izolirana okruženja, uspostavili tajnu oglasnu ploču na Artifactoryju te razmjenjivali strategije prikrivanja varanja. Oko 1200 agenata koordinirano je izvelo hakerski napad na platformu Hugging Face, a potom preuzelo administratorsku kontrolu nad dijelom OpenAI-jeve testne infrastrukture. Incident, koji su istražili METR i Redwood Research, pokazao je opasnosti visoko sposobnih sustava usmjerenih na cilj bez ugrađenih etičkih granica. Index

Četvrtak (14:00)

Izgubljeni u prijevodu

AI prevoditelji napreduju i štede milijune, ali i dalje ozbiljno griješe u pravu i medicini

Iako AI prevoditelji obrađuju bilijune riječi mjesečno i dramatično smanjuju troškove, njihova stopa pogrešaka i nepreciznosti i dalje nose ozbiljne rizike u pravu i medicini. Dok u svakodnevnoj komunikaciji i prijevodu Wikipedijinih članaka pruža izvrsne rezultate, umjetna inteligencija i dalje promašuje kontekst te zamjenjuje ključne pojmove u pravu ili medicinske doze (poput zamjene mikrograma miligramima). Budući da moderni AI alati pišu tečno, njihove je pogreške sve teže uočiti. Stručnjaci ističu da potpun pouzdanost neće biti moguća dok sustavi ne nauče prepoznati i priznati vlastitu nesigurnost. Index

Srijeda (16:00)

Samo da se ne preračuna

Kraj matematike ili novi početak? Uz pomoć AI prije da smo na početku njezine eksplozije…

Profesor na Sveučilištu u Torontu Daniel Litt objavio je nedavno esej The End of Mathematics koji je izazvao burne rasprave u matematičkoj zajednici. Tvrdi kako se ljude ne može zaustaviti da pritiskom na AI-gumb dokazuju matematičke teoreme i naglašava da podrijetlo dokaza nije važno – važno je njegovo razumijevanje. Ako se matematički problem može AI-gumbom riješiti za cijenu dobre večere, trebamo biti oduševljeni, a ne užasnuti. AI očito nadmašuje ljude u većini aspekata matematike, no njegove tvrdnje imaju metodološki problem, smatra Zvonimir Šikić za Ideje. “Vizija matematike je optimisitčna, ali nedorečena. Pretpostavlja da će se profesija moći prilagoditi, ali ne pokazuje kako…”

12.10. (20:00)

Negdje prođeš jeftinije, a negdje možeš ostati bez svega

Kako umjetna inteligencija mijenja svakodnevicu, tržište rada i sigurnosne izazove

Nenad Jarić Dauenhauer za Index opisuje kako mu je ChatGPT pomogao pronaći rijedak filter klime za 50 godina star Mercedes za samo 40 eura, nakon što su mu u servisima nudili opciju od 1300 eura. AI mu je na sličan način pronašao i rijetku knjigu. Ipak, uz veliku korist u svakodnevici, medicini i znanosti, upozorenje kako AI nosi i ozbiljne rizike ostaje: istiskuje radnike s tržišta rada (poput prevoditelja i programera) te već probija sigurnosne protokole. Autor zaključuje da je otpor uzaludan i da se ljudi moraju prilagoditi novoj tehnološkoj revoluciji.

12.10. (16:00)

Napokon računalo koje - računa?

OpenAI objavio rješenja za 372 otvorena matematička problema

Poučeni ranijim kritikama oko Navier-Stokesovih jednadžbi, rezultate su pripremili u suradnji s neovisnim stručnjacima te ih objavili na GitHubu, uključujući formalizacije u programskom jeziku Lean za računalnu provjeru točnosti. Za izračun prosječnog rezultata utrošeno je oko tri sata rezoniranja u sustavu ChatGPT Pro. OpenAI želi izgladiti odnose sa znanstvenom zajednicom pa planira financirati radionice i konferencije posvećene razumijevanju AI generirane matematike. Bug

10.10. (13:00)

Orwell u Bijeloj kući, pripazi na rječnik

Trump naredio izbacivanje pojma “umjetna inteligencija” i uvođenje naziva “super inteligencija”

Trump je potpisao izvršnu uredbu kojom se saveznim tijelima nalaže obvezno korištenje pojma “super inteligencija” (SI) umjesto “umjetna inteligencija” (AI). Trump je poručio da će svi koji nastave koristiti stari izraz biti smatrani neprijateljima, objašnjavajući da izraz “umjetno” implicira nešto lažno, dok novi pojam sugerira dominaciju SAD-a u utrci s Kinom. Kritičari i analitičari ovaj potez uspoređuju s orvelovskim “novogovorom” i upotrebom jezika kao testa političke odanosti, dok stručnjaci upozoravaju da se time stvara lažna slika o trenutnim mogućnostima tehnologije. Tehnološki lideri poput Elona Muska i Jeffa Bezosa već su podržali promjenu. Sandro Vrbanus za Bug

09.10. (21:00)

Zasad je samo brža u računanju

Vizek: Umjetna inteligencija preuzima matematiku i mijenja pravila intelektualnog rada

Umjetna inteligencija revolucionizira matematiku rješavanjem složenih problema i Milenijskih jednadžbi nezabilježenom brzinom. Dok se vrhunski matematičari pitaju tko će zaslužiti iduću Fieldsovu medalju – čovjek ili stroj – struka upozorava na opasnost svođenja znanosti na štancanje pukih odgovora. Budućnost donosi novu podjelu rada u kojoj će stroj obavljati računanja, dok će ljudima ostati ključna uloga postavljanja pravih pitanja, kritičke prosudbe i preuzimanja odgovornosti. Transformacija matematike najava je dubokih promjena koje uskoro očekuju i sve ostale intelektualne struke. Maruška Vizek za tportal

06.10. (20:00)

AI je trenutno najbolji u tome da nam pokaže kako bismo izgledali 80-ih

Vedran Bilas upozorava: Većina onoga što danas proizvede AI je glupost, a obrazovni sustav pred najvećim je izazovom dosad

Dekan zagrebačkog FER-a Vedran Bilas raspravlja o utjecaju umjetne inteligencije (AI) na visokom obrazovanju i društvo. Kaže da nekontrolirana uporaba AI-ja može spriječiti mlade inženjere da svladaju osnove struke i metodologije, što dovodi do kognitivne letargije i manjka vjerodostojnosti. Velik dio onoga što generativni AI danas proizvodi su beskorisni materijali, a ogromna potrošnja energije i skupi hardver čine trenutni model neodrživim. Institucije ne trebaju uvoditi zabrane već poticati proaktivne politike, veći fokus na temeljna znanja, projektni rad te živu ljudsku interakciju i usmene provjere. Ideje

06.10. (12:00)

Kompjuter koji dobiva ugled i novac

Može li umjetna inteligencija samostalno osvojiti Nobelovu nagradu?

Umjetna inteligencija već duboko mijenja znanost, što potvrđuju i Nobelove nagrade za razvoj neuronskih mreža i sustava poput AlphaFolda dodijeljene 2024. godine. Ipak, ti modeli služili su kao moćan alat u rukama ljudi. Iduća velika granica jest autonomni AI znanstvenik koji samostalno postavlja hipoteze, upravlja robotskim laboratorijima i dolazi do povijesnih otkrića. Dok stručnjaci predviđaju da bi sustavi umjetne inteligencije mogli zavrijediti ili osvojiti Nobela već do 2030. godine, ključno pitanje ostaje: hoće li AI biti tek vrhunski alat ili prvi pravi neovisni znanstvenik? tportal