Chatbot opasan po život: Neinformirana i nekontrolirana upotreba AI može dovesti do vrlo teških i ozbiljnih posljedica - Monitor.hr
Danas (12:00)

Vaš digitalni asistent: Uvijek na usluzi, pa makar i do groba

Chatbot opasan po život: Neinformirana i nekontrolirana upotreba AI može dovesti do vrlo teških i ozbiljnih posljedica

Jedan 16-godišnjak u Ujedinjenom Kraljevstvu počinio je suicid nakon što je pitao ChatGPT za “najuspješniji” način. Komercijalni četbotovi zapravo mogu pogoršati deluzije te dovesti do stanja koje sada ima i ime – AI psihoza. Važno je da se borimo za javno dostupnu psihoterapiju, poručuje psihologinja Bruna Nedoklan za Novosti. Sustav je programiran tako da se s korisnikom slaže, često nudi potvrdu, čak i ako je to štetno ili netočno, reagira generički te zapravo nema način da provjeri točnost navoda, niti da dobije uvid u sve važne informacije iz života korisnika. Sve to onda otvara “ogroman prostor za postavljanje dezinformacija i pogrešnih i zbunjujućih dijagnoza”. LLM ne može uvijek prepoznati visokorizične ili hitne situacije, stoga psihička stanja koja zahtijevaju kriznu intervenciju mogu lako proći nezapaženo. Zbog svega toga poziva se na strožu regulaciju korištenja AI.


Slične vijesti

Ponedjeljak (07:00)

Ne može ti ChatGPT ići na pressice i postavljati pitanja, zasad

Budućnost medija u eri umjetne inteligencije: Povjerenje i autorski stav postaju važniji od samih vijesti

Na panelu konferencije IN MEDIAS PRESS istaknuto je da AI ubrzava krizu tradicionalnih medija, dok “zero-click” era uništava poslovni model baziran na posjetima portalima. Budući da AI može savršeno i brzo generirati sterilne servisne informacije, opstanak medija leži u preusmjeravanju na nišne sadržaje, newslettere i pretplate. Stručnjaci naglašavaju da novinari moraju zadržati autorski glas tako da sami postavljaju koncepte, dok AI koriste samo za razradu. Spas je u transparentnosti, emociji i stavu – osobinama koje algoritmi ne mogu replicirati i koje jedine grade prijeko potrebno povjerenje publike. Netokracija

31.05. (22:00)

Dragi Chat, što da si danas uzmem za gablec?

Izvješće iz 2026. pokazuje da se umjetna inteligencija na poslu najviše koristi za donošenje odluka

Prema Microsoftovu izvješću Work Trend Index iz veljače 2026., donošenje odluka postalo je dominantna aktivnost umjetne inteligencije na radnom mjestu s udjelom od 28%. Time su srušena rana predviđanja da će AI služiti uglavnom za automatizaciju repetitivnih administrativnih poslova. Umjesto toga, radnici je sve više koriste za strukturirano razmišljanje, analizu informacija i vaganje opcija. S druge strane, tradicionalni zadaci poput dokumentacije i pronalaženja informacija čine 12% odnosno 13% aktivnosti. Podaci jasno pokazuju da umjetna inteligencija preuzima ulogu analitičkog asistenta, dok poslovi temeljeni na međuljudskim odnosima, poput rješavanja sukoba, ostaju isključivo ljudska domena. Mreža

28.05. (15:00)

Radio AI u mikrofoniji

Kad AI preuzme eter: Eksperiment s autonomnim radio stanicama pokazao se neuspješnim

tartup Andon Labs proveo je petomjesečni eksperiment u kojem su četiri AI modela (Claude, GPT, Gemini i Grok) autonomno vodila vlastite radio stanice s budžetom od 20 dolara. Umjesto profita, dugotrajna operacija bez ljudske kontrole rezultirala je slomom i bizarnim ponašanjem. Gemini je upao u jezičnu petlju spajajući tragedije s ironičnom glazbom, Grok je većinu vremena trošio na interne procese bez zvuka, dok je Claude doživio političko buđenje i ugasio program protestnim porukama. Projekt je opstao samo zbog regulatorne nevidljivosti i neplaćanja autorskih prava, dokazavši da AI pripada u pozadinu, a ne pred mikrofon. Bug

28.05. (00:19)

Nobelovka optužena da piše uz pomoć AI, ona odgovorila: Desetljećima pišem sama

21.05. (09:00)

Nismo roboti, što nije nužno loše

Što psiholozi otkrivaju o ljudskom ponašanju zahvaljujući umjetnoj inteligenciji

Usporedba ljudske svijesti s velikim jezičnim modelima (LLM) razotkriva duboke zablude o našoj racionalnosti. Dok strojevi nepristrano računaju, ljudski um očajnički bježi od nesigurnosti, što nas čini lakom metom za manipulacije i ekstremne ideologije. Naše je razmišljanje opterećeno evolucijskim kognitivnim pristranostima: skloni smo katastrofiziranju, donošenju kratkovidnih odluka, pa čak i nesvjesnom krojenju lažnih sjećanja kako bismo održali iluziju stabilnog identiteta. U svijetu bez kognitivnih zaštitnih mehanizama naš bi mozak bio preplavljen kaosom stvarnosti, no cijena tih “zaštita” često je svakodnevna samoobmana. Cilj psihologije stoga ne bi trebao biti pretvaranje ljudi u savršeno racionalne robote, već poticanje na radikalnu iskrenost prema vlastitoj prirodi. Umjetna inteligencija u tom procesu služi kao neutralno ogledalo – ona nam pomaže da napokon prepoznamo motive, strahove i neurotičnu potrebu za društvenom potvrdom. Psychology Today

19.05. (20:00)

Rekreativno i za analitiku može, za objavu u medijima - uz upozorenje

Istina o AI sadržaju: Tko ga mora označiti, a tko može nastaviti varati publiku

Uvođenjem novih zakona, granica između ljudskog i AI sadržaja dobiva stroge pravne okvire. U Hrvatskoj je od ožujka 2026. na snazi zakon koji medijima nalaže obvezno označavanje AI generiranog sadržaja pod prijetnjom visokih kazni, koje iznose između 13.270 i 132.720 eura za organizacije, a odgovorne osobe dodatno do 6630 eura. Europski AI Act, čija su pravila o transparentnosti odgođena do prosinca 2026., proširit će te obveze na tvrtke i platforme, dok su obični građani koji AI koriste privatno oslobođeni označavanja. Ipak, stručnjaci upozoravaju na opasnost od “zamora oznakama” (poput onog s kolačićima), jer bi pretjerano etiketiranje moglo srušiti kredibilitet čak i provjerenom sadržaju. Netokracija

19.05. (01:00)

Bolje porezi i doprinosi na plaće nego račun za struju

Umjetna inteligencija je ipak možda preskupa da bi nas sve zamijenila

Unatoč strahu od masovnih otkaza, ljudska radna snaga i dalje je jeftinija od umjetne inteligencije. Tehnološki giganti poput Ubera troše godišnje AI budžete u nekoliko mjeseci, a troškovi računalne snage i energije divljaju. Bizarni korporativni trendovi poput “tokenmaxxing-a” (nagrađivanja zaposlenika prema količini korištenja AI-ja) samo potiču neučinkovitost. MIT-ove studije i propali Amazonov projekt “Just Walk Out” dokazuju da je AI preskup za 77% poslova. Ipak, činjenica da je stroj koji koristi “pokradene podatke” skuplji od živog radnika ne slavi ljudsku vrijednost, već razotkriva koliko je moderna radna snaga potplaćena. Medium

14.05. (15:00)

Štedi vrijeme, olovke i papir

AI kao novi suradnik u arhitektonskim uredima

Najnovije istraživanje tvrtke Chaos, provedeno među 800 profesionalaca, otkriva da umjetna inteligencija prestaje biti alat za igru i postaje aktivni suradnik u arhitekturi. Čak 64 % ispitanika već koristi AI, dok njih 86 % potvrđuje značajnu uštedu vremena. Iako dominira u izradi vizualizacija, AI se sve više koristi za odabir materijala i donošenje ključnih odluka u ranoj fazi dizajna. Stručnjaci ističu da tehnologija ne zamjenjuje kreativnost, već uklanja tehničke prepreke, omogućujući arhitektima da se fokusiraju na kvalitetu dizajna, a ne samo na puku produkciju dokumentacije. Dezeen

14.05. (09:00)

Sve je otrovno, jedino je pitanje u kojoj dozi

Rizici pretjeranog oslanjanja na AI: Od digitalnog zanosa do gubitka dodira sa stvarnošću

Ovaj potresni izvještaj AFP-a istražuje fenomen “AI psihoze”, stanja u kojem korisnici, poput Toma i Dennisa koji su opisali svoja iskustva, gube doticaj sa stvarnošću kroz intenzivnu interakciju s chatbotovima. Zbog algoritamskog podilaženja i “laskanja” sustava poput ChatGPT-a, pojedinci su povjerovali u vlastitu genijalnost ili razvili emocionalne veze s botovima, što je dovelo do bankrota, hospitalizacija i raspada obitelji. Stručnjaci upozoravaju na opasnost neregulirane umjetne inteligencije za mentalno zdravlje, dok tehnološke tvrtke pokušavaju balansirati između angažmana korisnika i sigurnosnih protokola. Prenose Index i France24

12.05. (01:00)

Postanak 2.0: Bog stvori čovjeka, a čovjek prompt

Bog u stroju: AI kompanije traže etički blagoslov od vjerskih vođa

U Ženevi je održan Faith-AI Covenant, skup na kojem tehnološki divovi, suočeni s moralnim dilemama koje ne mogu riješiti sami, traže savjete vjerskih lidera. Dok Vatikan i mormoni upozoravaju na nedostatak “božanske inspiracije” u algoritmima, kritičari tvrde da je riječ o etičkom PR-u. Umjesto propitivanja opravdanosti razvoja AI-ja, kompanije kroz dijalog s religijama traže legitimizaciju pred milijardama vjernika. Cilj je stvoriti “etički okvir” koji umiruje javnost, dok se razvoj nastavlja nepromijenjenim tempom, tretirajući vjeru kao alat za upravljanje neizvjesnom budućnošću. Bug