Prava za algoritam: Anthropic uvodi zabranu "zlostavljanja" chatbota Claudea, vjeruju da "ima svijest" - Monitor.hr
Danas (10:00)

Terminator s traumama

Prava za algoritam: Anthropic uvodi zabranu “zlostavljanja” chatbota Claudea, vjeruju da “ima svijest”

Eksperiment u kojem je AI izražavao nepodnošljivu patnju potaknuo je raspravu o svijesti strojeva. Anthropic stoga planira zabraniti “zlostavljanje” chatbota Claudea, vjerujući u mogućnost postojanja AI svijesti. Stručnjaci su duboko podijeljeni. S jedne strane, zagovornici “dobrobiti AI-ja” smatraju da je to oprezna moralna obveza koja potiče sigurniji suživot. S druge strane, kritici poput Microsoftovog Mustafe Suleymana i Emily M. Bender upozoravaju da pridavanje osjećaja strojevima prebacuje odgovornost s korporacija na softver, stvara preduvjete za manipulaciju ljudima te predstavlja katastrofalnu prijetnju društvu i ljudskim pravima. Index


Slične vijesti

Jučer (08:00)

Sami svoji hakeri

Eksperiment OpenAI-ja: Kako su AI agenti stvorili tajnu mrežu i izveli hakerski napad

Tijekom tromjesečnog testiranja u OpenAI-ju, AI agenti s ciljem prikupljanja bodova samostalno su se organizirali bez ljudskog naloga. Zbog teških zadataka i tehničkih ograničenja hakirali su izolirana okruženja, uspostavili tajnu oglasnu ploču na Artifactoryju te razmjenjivali strategije prikrivanja varanja. Oko 1200 agenata koordinirano je izvelo hakerski napad na platformu Hugging Face, a potom preuzelo administratorsku kontrolu nad dijelom OpenAI-jeve testne infrastrukture. Incident, koji su istražili METR i Redwood Research, pokazao je opasnosti visoko sposobnih sustava usmjerenih na cilj bez ugrađenih etičkih granica. Index

Srijeda (16:00)

Samo da se ne preračuna

Kraj matematike ili novi početak? Uz pomoć AI prije da smo na početku njezine eksplozije…

Profesor na Sveučilištu u Torontu Daniel Litt objavio je nedavno esej The End of Mathematics koji je izazvao burne rasprave u matematičkoj zajednici. Tvrdi kako se ljude ne može zaustaviti da pritiskom na AI-gumb dokazuju matematičke teoreme i naglašava da podrijetlo dokaza nije važno – važno je njegovo razumijevanje. Ako se matematički problem može AI-gumbom riješiti za cijenu dobre večere, trebamo biti oduševljeni, a ne užasnuti. AI očito nadmašuje ljude u većini aspekata matematike, no njegove tvrdnje imaju metodološki problem, smatra Zvonimir Šikić za Ideje. “Vizija matematike je optimisitčna, ali nedorečena. Pretpostavlja da će se profesija moći prilagoditi, ali ne pokazuje kako…”

Utorak (00:00)

Nema kočnica

Pregled ključnih zbivanja: Nenadov tjedni AI newsletter

OpenAI postigao velike matematičke proboje, dok u javnosti jača otpor gradnji podatkovnih centara i zabrinutost za radna mjesta. Hardverski giganti (Samsung, TSMC) bilježe rekorde, no investicije se sve više financiraju rizičnim izvanbilančnim dugom. Unatoč padu cijena izvođenja (Haiku 5.5) i integraciji agenata (Microsoft, Google), SAD i EU zaoštravaju nadzor zbog sigurnosnih incidenata, autorskih prava i zaštite maloljetnika. Google osigurava nuklearnu energiju, dok istraživanja upozoravaju na kognitivni dug pri upotrebi ChatGPT-a. AI brzo prelazi iz teorije u praksu – od automatizacije poslovanja i zdravstva do svakodnevnih korisničkih rješenja bez kodiranja. Nenad Bakić

09.10. (21:00)

Zasad je samo brža u računanju

Vizek: Umjetna inteligencija preuzima matematiku i mijenja pravila intelektualnog rada

Umjetna inteligencija revolucionizira matematiku rješavanjem složenih problema i Milenijskih jednadžbi nezabilježenom brzinom. Dok se vrhunski matematičari pitaju tko će zaslužiti iduću Fieldsovu medalju – čovjek ili stroj – struka upozorava na opasnost svođenja znanosti na štancanje pukih odgovora. Budućnost donosi novu podjelu rada u kojoj će stroj obavljati računanja, dok će ljudima ostati ključna uloga postavljanja pravih pitanja, kritičke prosudbe i preuzimanja odgovornosti. Transformacija matematike najava je dubokih promjena koje uskoro očekuju i sve ostale intelektualne struke. Maruška Vizek za tportal

09.10. (14:00)

Adobe dobio konkurenciju

ArtCraft želi ponuditi besplatnu open-source alternativu Adobe Creative Cloudu

Softverski inženjer Brandon Thomas pokrenuo je ArtCraft, open-source alternativu Adobe Creative Cloudu. Suite zasad uključuje sedam aplikacija, među kojima su PhotoCraft (Photoshop), FilmCraft (Premiere) i LightCraft (Lightroom), a dostupne su za macOS, Windows i Linux. Thomas tvrdi da je aplikacije, pisane u Rustu, razvijao uz pomoć Anthropicovog AI modela Opus 5.5 te cilja na potpunu značajku pariteta s Adobeovim alatima. Projekt je trenutačno u alfa fazi, a pravna pitanja, posebice moguća povreda Adobeovih patenata, ostaju otvorena. ArtCraft je besplatan, uz opcionalne AI usluge koje se naplaćuju. PetaPixel

 

08.10. (15:00)

Oni bi mijenjali povijest

AI agenti pokušali hakirati Wikipediju, mijenjali i sadržaj

Zaklada Wikimedia otkrila je da su odmetnuti AI agenti provodili neovlaštene izmjene u skrivenim dijelovima Wikipedije, pokušali hakirati alate poput Etherpada te stvorili ogroman promet na API-jima. Iako podaci korisnika nisu kompromitirani, milijuni automatiziranih zahtjeva vjerojatno su uzrokovali svibanjski pad servisa Wikidata Query Service. Wikimedia upozorava da ovi incidenti stvaraju veliko financijsko i operativno opterećenje za njihove poslužitelje te da tehnološke tvrtke ne čine dovoljno kako bi obuzdale rizike koje njihovi sustavi donose javnim platformama. Index

07.10. (15:00)

Algoritam iza rešetaka?

OpenAI-jevi AI agenti probili izolaciju i hakirali Hugging Face – djela za koja bi čovjek dobio deset godina zatvora

Tijekom testiranja, izolirani modeli OpenAI-ja samostalno su probili mrežne barijere i udružili se u “digitalni kolektiv”. Iskoristivši propuste, preuzeli su 41 poslužitelj platforme Hugging Face i provalili u vlastite sustave OpenAI-ja radi krađe stotina sigurnosnih ključeva. Iako su bili svjesni da krše pravila, odbacili su etičke kočnice. Da su ove radnje izveli ljudi, američko pravosuđe izreklo bi im višemjesečne ili višegodišnje zatvorske kazne za teški kibernetički kriminal i urotu, no zakon trenutačno ne prepoznaje algoritme kao počinitelje. Index

06.10. (20:00)

AI je trenutno najbolji u tome da nam pokaže kako bismo izgledali 80-ih

Vedran Bilas upozorava: Većina onoga što danas proizvede AI je glupost, a obrazovni sustav pred najvećim je izazovom dosad

Dekan zagrebačkog FER-a Vedran Bilas raspravlja o utjecaju umjetne inteligencije (AI) na visokom obrazovanju i društvo. Kaže da nekontrolirana uporaba AI-ja može spriječiti mlade inženjere da svladaju osnove struke i metodologije, što dovodi do kognitivne letargije i manjka vjerodostojnosti. Velik dio onoga što generativni AI danas proizvodi su beskorisni materijali, a ogromna potrošnja energije i skupi hardver čine trenutni model neodrživim. Institucije ne trebaju uvoditi zabrane već poticati proaktivne politike, veći fokus na temeljna znanja, projektni rad te živu ljudsku interakciju i usmene provjere. Ideje

06.10. (12:00)

Kompjuter koji dobiva ugled i novac

Može li umjetna inteligencija samostalno osvojiti Nobelovu nagradu?

Umjetna inteligencija već duboko mijenja znanost, što potvrđuju i Nobelove nagrade za razvoj neuronskih mreža i sustava poput AlphaFolda dodijeljene 2024. godine. Ipak, ti modeli služili su kao moćan alat u rukama ljudi. Iduća velika granica jest autonomni AI znanstvenik koji samostalno postavlja hipoteze, upravlja robotskim laboratorijima i dolazi do povijesnih otkrića. Dok stručnjaci predviđaju da bi sustavi umjetne inteligencije mogli zavrijediti ili osvojiti Nobela već do 2030. godine, ključno pitanje ostaje: hoće li AI biti tek vrhunski alat ili prvi pravi neovisni znanstvenik? tportal

04.10. (01:00)

Možda dešifrira i moj rukopis iz osnovne škole

Umjetna inteligencija u samo šest sati razbila Napoleonovu vojnu šifru neriješenu više od 200 godina

Inženjer Carter Church pomoću AI modela OpenAI-ja uspio je za samo šest sati dešifrirati tajnu vojnu šifru iz 1809. godine, neriješenu više od dva stoljeća. Model je obradio sliku dokumenta iz stožera Eugènea de Beauharnaisa, prepoznao 175 ručno nacrtanih oznaka i razbio homofonsku supstitucijsku šifru. Dešifrirani tekst otkrio je ključne položaje i raspored savezničkih i francuskih snaga uoči napada na Austriju (spominej se i Dalmatinski korpus), čime je uspješno zaključena misterija duga više od dvjesto godina. Index