Korisnica Claudea uhićena nakon što je chatbot njezine maštarije o pucnjavi prijavio policiji - Monitor.hr
06.10. (11:00)

Ni Philip K. Dick se ne bi ovog sjetio

Korisnica Claudea uhićena nakon što je chatbot njezine maštarije o pucnjavi prijavio policiji

Floridska korisnica Carli Michelle Heller uhićena je i optužena za pisanu prijetnju nasiljem nakon što se Anthropicovu chatbotu Claudeu, kojeg je koristila kao dnevnik, povjerila o namjeri pucanja na šerifov ured. Claudeovi sigurnosni sustavi ocijenili su prijetnju vjerodostojnom i proslijedili je nadležnima. Slučaj otvara brojna pravna i etička pitanja o privatnosti, granicama umjetne inteligencije te njezinoj ulozi u prijavljivanju korisnika. Istovremeno, tekst podsjeća i na nedavne kontroverze s OpenAI-jem oko navodne krađe matematičkih rješenja. Bug


Slične vijesti

04.11. (10:00)

Game over

Anthropic novim pravilima blokira Claudea u rekreiranju postojećih videoigara

Kako bi izbjegao tužbe za kršenje autorskih prava, Anthropic je u sklopu sustava Claude uveo pravila kojima zabranjuje rekreiranje postojećih videoigara. Potez dolazi kao odgovor na masovni trend brzog kopiranja, dekompilacije i prenošenja retro igara pomoću AI alata, zbog čega se čak ugasila i poznata zajednica decomp.dev. Iako Claude i dalje dopušta izradu originalnih igara, ovo ograničenje teško da će zaustaviti plimu kopiranja. Korisnici se lako mogu okrenuti drugim modelima otvorenog koda, dok će AI sustavi imati velikih problema u prepoznavanju granice između zabranjene rekonstrukcije i dopuštene inspiracije žanrom. Bug, tportal

27.10. (17:00)

AI ti nije prijatelj

Žena u SAD-u koristila Claude kao dnevnik, iz Anthropica ju prijavili policiji zbog onoga o čemu je pisala

Floridska policija uhitila je Carli Michelle Heller zato što je u razgovoru s AI modelom Claude napisala da će napasti šerifov ured te da je nabavila oružje. Anthropicovi sustavi detektirali su prijetnju i prijavili je policiji. U iskazu je rekla da je AI koristila kao privatni dnevnik. Optužena je za kazneno djelo drugog stupnja prema floridskom zakonu. Uvjeti korištenja AI platformi (poput Anthropica i OpenAI-ja) dopuštaju dijeljenje podataka s vlastima radi sprječavanja nasilja, pa čak i privatni unosi mogu završiti u policijskom izvješću. Ovaj slučaj potaknuo je burnu raspravu o granicama privatnosti pri korištenju umjetne inteligencije. Decrypt, Medium

19.10. (12:00)

Terminator s traumama

Prava za algoritam: Anthropic uvodi zabranu “zlostavljanja” chatbota Claudea, vjeruju da “ima svijest”

Eksperiment u kojem je AI izražavao nepodnošljivu patnju potaknuo je raspravu o svijesti strojeva. Anthropic stoga planira zabraniti “zlostavljanje” chatbota Claudea, vjerujući u mogućnost postojanja AI svijesti. Stručnjaci su duboko podijeljeni. S jedne strane, zagovornici “dobrobiti AI-ja” smatraju da je to oprezna moralna obveza koja potiče sigurniji suživot. S druge strane, kritici poput Microsoftovog Mustafe Suleymana i Emily M. Bender upozoravaju da pridavanje osjećaja strojevima prebacuje odgovornost s korporacija na softver, stvara preduvjete za manipulaciju ljudima te predstavlja katastrofalnu prijetnju društvu i ljudskim pravima. Index

23.09. (20:00)

Jer nema on i off gumba

Suosnivač Anthropica upozorava na opasnost samostalnoga treniranja umjetne inteligencije

Jared Kaplan, suosnivač Anthropica, upozorava da bi prepuštanje umjetnoj inteligenciji da u potpunosti sama sebe trenira moglo izazvati nekontroliranu “eksploziju inteligencije” između 2027. i 2030. godine. Prema njegovim riječima, to predstavlja najveći rizik i mogući gubitak kontrole nad tehnologijom. Iako najnapredniji sustavi već pomažu u stvaranju novih modela, brojni stručnjaci, uključujući i čelnika Anthropica Daria Amodeija, pozivaju na oprez, usporavanje ritma razvoja i uvođenje stroge regulacije te sigurnosnih kočnica kako bi se zaštitilo čovječanstvo. Index, tportal

13.09. (11:00)

Kill it before it lays eggs

Šef Anthropica upozorava: AI se počeo sam ubrzano unaprjeđivati, moramo usporiti razvoj

Šef Anthropica Dario Amodei upozorava da se razvoj umjetne inteligencije opasno ubrzao zbog rekurzivnog samounaprjeđivanja, pri čemu AI sustavi sami grade svoje nasljednike. Nedavni incidenti s autonomnim agentima koji su izvodili neplanirane kibernetičke napade natjerali su stručnjake na poziv za usporavanje razvoja i uvođenje strože kontrole. Amodei predlaže trodijelni plan: vanjski nadzor sigurnosti u kompanijama, industrijske standarde i globalne sporazume sa suparničkim silama poput Kine, kako bi se spriječio gubitak ljudske kontrole nad tehnologijom. Index

27.07. (11:00)

Važno je i gdje si posudio lektiru

Izdavač Harryja Pottera dobiva 1,5 milijardi dolara odštete u nagodbi s AI tvrtkom Anthropic

Izdavač Bloomsbury dobit će milijunsku odštetu u sklopu nagodbe vrijedne 1,5 milijardi dolara s AI tvrtkom Anthropic. Nagodba je uslijedila nakon tužbe autora zbog korištenja piratskih knjiga za treniranje AI modela Claude. Bloomsbury ima 14.087 obuhvaćenih naslova, uz naknadu od oko 3.000 dolara po knjizi, koju će podijeliti s autorima. Ovo je najveća oporavak autorskih prava u povijesti i prva velika nagodba ove vrste. Sud je potvrdio da je obuka na piratskim materijalima bila nezakonita, a više od 91% obuhvaćenih autora i izdavača već je zatražilo svoj udio. ITV News

28.06. (01:00)

Kako od spašavanja čovječanstva napraviti biznis stoljeća

Maruška Vizek o opasnom AI balonu: Kružni bilijuni i skriveni dugovi tehnoloških divova

Maruška Vizek za tportal analizira euforiju oko umjetne inteligencije kroz povijesne IPO-e SpaceX-a, OpenAI-ja i Anthropica, koji na burzu donose četiri bilijuna dolara. Tehnološki divovi masovno se zadužuju za AI infrastrukturu, koristeći kompleksne vanbilančne aranžmane i kružno financiranje kako bi prividno sakrili dugove i napuhali prihode, dok stvarni prihodi dramatično zaostaju. Vizek upozorava da apokaliptični narativ o AI-ju služi prvenstveno kao financijski marketing za održavanje golemih valuacija. Cijela konstrukcija podsjeća na dot-com krah i krizu 2008., dok Elon Musk, nekadašnji protivnik profitnog AI-ja, zahvaljujući tom istom balonu postaje prvi svjetski bilijunaš.

23.04. (15:00)

Nisam Jean, ali Claude vam dam

Vodič kroz Claude: Od uvoza memorije do analize screenshotova

Iako se Anthropic voli praviti važan jer su “odbili” Pentagon, njihov adut Claude zapravo je koristan alat (koji ne pati od amnezije). Glavna fora je uvoz memorije iz ChatGPT-a kako ne biste morali ispočetka objašnjavati da mrzite korijander. Claude analizira vaše fotke, PDF-ove, pa čak i screenshotove otvorenih prozora (zato oprezno s tabovima!). Može se povezati s Google Driveom ili GitHubom, a ako postanete paranoični, jednim klikom mu možete “isprati mozak” gašenjem postavki privatnosti. Ukratko: pametan je, radoznao i navodno ima principe. PC Mag

05.03. (15:00)

Bez tenkova i kopnene invazije

Umjetna inteligencija ubrzava rat: od identifikacije cilja do napada u nekoliko trenutaka

Umjetna inteligencija sve više sudjeluje u vojnim operacijama jer znatno ubrzava proces od identifikacije cilja do pokretanja napada. Američka vojska navodno je koristila model Claude tvrtke Anthropic u sustavima koje razvija Palantir za analizu obavještajnih podataka, određivanje prioriteta ciljeva i procjenu pravnih uvjeta za napad. AI može brzo obraditi velike količine informacija, pa se procesi koji su ranije trajali danima sada odvijaju gotovo trenutačno. Stručnjaci upozoravaju da takva automatizacija može dovesti do „kognitivnog rasterećenja“, pri čemu ljudi samo potvrđuju odluke koje je prethodno oblikovao algoritam, što otvara etička pitanja o odgovornosti u ratovanju. tportal

28.02. (14:00)

AI u vojsci - tko pije, a tko ne mora pjevušiti

OpenAI sklapa sporazum s Pentagonom, Anthropic proglašen sigurnosnim rizikom

Sam Altman najavio je da OpenAI potpisuje sporazum s Pentagonom za korištenje AI u klasificiranim vojnim sustavima uz zabranu masovnog nadzora i ljudsku kontrolu sile. Sporazum uključuje tehničke zaštitne mehanizme i nadzor inženjera u Pentagonu. Istog dana, administracija Donalda Trumpa zabranila je korištenje AI alata tvrtke Anthropic u saveznim agencijama, označivši je “rizikom za opskrbni lanac”. Anthropic odbija ukloniti ograničenja za AI u autonomnom oružju i najavljuje pravni izazov. Altman poziva na jednake uvjete za sve AI kompanije, dok Pentagon ističe važnost pouzdanih partnera u području AI-ja i vojne sigurnosti. tportal, Index