Računati zna, ali misliti ne: Znanstvenici upozoravaju na etička i logička ograničenja AI-ja - Monitor.hr
Danas (14:00)

Dobar za kratki brifing, užasan za kauč psihijatra

Računati zna, ali misliti ne: Znanstvenici upozoravaju na etička i logička ograničenja AI-ja

Iako umjetna inteligencija (AI) niže uspjehe u analizi podataka, stručnjaci upozoravaju da donošenje odluka mora ostati u rukama ljudi. AI se prečesto koristi za rješavanje složenih društvenih problema, poput usamljenosti ili karijernih odluka, što nisu računarski zadaci te AI u njima ne može donositi vrijednosne prosudbe. Njezina prividna “ljudskost”i ljubaznost samo su opasna iluzija. Primjerice, kod kompleksnih moralnih pitanja klasični chatbotovi zakazuju jer nude izravne, gotove odgovore umjesto poticanja na kritičko razmišljanje, dok u stručnim poljima poput medicine sustavi i dalje ne znaju sami adekvatno prikazati razinu vlastite nesigurnosti. DW


Slične vijesti

Jučer (07:00)

Kad su im savjeti za početak besplatni

Financijska pismenost zagrebačkih studenata dosegnula 70 posto


Treće istraživanje udruge UMFO i Foruma PII pokazalo je da financijska pismenost studenata u Zagrebu kontinuirano raste – s nekadašnjih 59 % (2016.) popela se na 70 %. Studenti najbolje razumiju vremensku vrijednost novca i važnost diverzifikacije ulaganja, dok im složeni kamatni račun i valutni odnosi idu nešto slabije. Pismeniji su studenti viših godina koji rade, imaju bolji prosjek te muški ispitanici. Najveći napredak bilježi FER zahvaljujući novim programima. Stručnjaci ipak upozoravaju na opasnost od neodrživih potrošačkih navika te trend oslanjanja mladih na rizične kriptovalute i financijske savjete umjetne inteligencije i TikToka.Lider

19.06. (12:00)

Kad botovi kolo vode

AI briše granicu između istine i obmane: 90% ljudi ne zna razlikovati generirani sadržaj od stvarnog

Istraživanje tvrtke Malwarebytes na 1500 ispitanika pokazuje da čak 88% ljudi teško razlikuje stvarni internetski sadržaj od onog generiranog umjetnom inteligencijom, što je ogroman skok u odnosu na prošlogodišnjih 66%. Prevaranti sve češće koriste AI za personalizirane napade, pa je svaka četvrta osoba primila lažnu poruku. Zbog straha za privatnost i krađu identiteta, više od 60% korisnika mijenja ponašanje – povlače se s društvenih mreža, brišu stari sadržaj i manje objavljuju o sebi. Ovaj trend opreza ozbiljno ugrožava poslovne modele tehnoloških divova koji ovise o dijeljenju podataka. HRT

17.06. (10:00)

Od piksela do antičkih tračeva

Umjetna inteligencija ne mijenja znanstvenike, već kao moćan alat pronalazi skrivene obrasce u golemim podacima

Dok chatbotovi pune naslovnice, stvarna snaga umjetne inteligencije leži u proširivanju ljudskog znanja kroz analizu prevelikih skupova podataka. Sustavi poput modela strojnog učenja unutar projekta “Izazov Vezuv” omogućuju čitanje pougljenjenih, neotvorivih svitaka iz Herkulaneja (zatrpanog 79. godine) pomoću rendgenskih snimki, prepuštajući filolozima konačno tumačenje tekstova. Slično tome, sustav AlphaFold2 predvidio je strukturu 200 milijuna proteina, što je ubrzalo medicinu i donijelo kreatorima Nobelovu nagradu za kemiju. AI najbolje djeluje kao napredni istraživački alat koji izdvaja ključne informacije, dok ljudska provjera i interpretacija ostaju nezamjenjive. Mreža

16.06. (00:00)

Kad se AI zaigra s loptom

Predviđanje Svjetskog prvenstva uz pomoć AI-ja i mašte

Kompanija Luzmo osmislila je platformu koja pomoću napredne analitike i umjetne inteligencije simulira ishode nogometnog Svjetskog prvenstva. Osim klasičnih predviđanja temeljenih na formi, ozljedama i klimi, korisnici mogu unijeti vlastite, kreativne scenarije putem tekstualnog prompta. Bilo da vas zanima kako bi na turnir utjecalo igranje Hrvatske isključivo na jedanaesterce ili trovanje Španjolaca lošom paellom, sustav trenutačno preračunava šanse. U pozadini priče nalaze se OpenAI modeli i Monte Carlo simulacija koja svaku utakmicu “odigra” čak 5.000 puta, pretvarajući kompleksnu znanost o podacima u čistu zabavu. Bug

09.06. (09:00)

Pustite kompjutere, budite ljudi

Više od 150 matematičara upozorava na opasno AI pretjerivanje

Iako su tehnološke kompanije, poput OpenAI-ja, nedavno objavile da je umjetna inteligencija autonomno riješila i opovrgnula desetljećima stare Erdőseve matematičke probleme, stručna zajednica poziva na oprez. Više od 150 uglednih matematičara potpisalo je “Leidensku deklaraciju”, upozoravajući vlade da ne vjeruju korporativnom marketingu. Ključni problem leži u uvjerljivim, ali netočnim argumentima – takozvanim AI halucinacijama – koje mogu kontaminirati znanstvenu literaturu. Deklaracija naglašava potrebu za ljudskom kontrolom, ali i upozorava na etičke rizike komercijalizacije takvih modela u svrhe masovnog nadzora, ratovanja i potkopavanja demokracije. Bug

08.06. (15:00)

Internet je možda besplatan, ali struja i teleoperateri nisu

Podnar: Nema ništa loše u tome što je sve bilo besplatno, loše je došlo kad se to iskoristilo za gomilanje profita

Internet je u svojim ranim godinama proglašen „velikim izjednačivačem” (great equalizer), tehnologijom koja će svakome s modemom dati isti pristup informaciji. Nitko nije postavljao pitanje tko snosi trošak kvalitete. Nije bilo razloga: korisnici koji su gradili GeoCities, pisali na forumima ili uređivali Wikipediju – to su radili iz entuzijazma. Dok god je mreža bila mala, to je funkcioniralo. Besplatan pristup ChatGPT-u ili Claudeu otvorio je vrata stotinama milijuna korisnika i s njima masovnom unosu sadržaja čija je prosječna kvaliteta upitna. Nema optimizma da će mase, kad je besplatno, razmisliti prije nego unesu prompt je li to zaista potrebno ili tek puste zabave radi. Ono što je za web bio SEO spam, za LLM-ove su generički promptovi bez konteksta i halucinacije. Naplatom se ne rješava problem kvalitete, ali rješava se problem odgovornosti. Ivan Podnar za Bug

07.06. (20:00)

Automatizirani menadžer

Algoritamsko upravljanje: Zašto čovjek mora imati zadnju riječ u svijetu nevidljivih šefova

Sve veća primjena umjetne inteligencije u poslovanju uvodi pojam algoritamskog upravljanja, gdje softver umjesto ljudi donosi odluke o zapošljavanju, ocjenjivanju učinka i otkazima. Dok poslodavci u automatizaciji vide uštede i učinkovitost, sindikati upozoravaju na opasnosti od digitalnog mikromenadžmenta, pretjeranog nadzora i gubitka radničkih prava. Europa stoga zakonodavno inzistira na obveznom ljudskom nadzoru nad ključnim odlukama. Hrvatska još ne bilježi masovnu primjenu ovih sustava, što pruža idealnu priliku za pravovremeno definiranje jasnih pravila. Najveći izazov budućnosti neće biti tehnološki napredak, već očuvanje ljudske odgovornosti, privatnosti i slobodnog društva. Bug

07.06. (14:00)

Vaš digitalni asistent: Uvijek na usluzi, pa makar i do groba

Chatbot opasan po život: Neinformirana i nekontrolirana upotreba AI može dovesti do vrlo teških i ozbiljnih posljedica

Jedan 16-godišnjak u Ujedinjenom Kraljevstvu počinio je suicid nakon što je pitao ChatGPT za “najuspješniji” način. Komercijalni četbotovi zapravo mogu pogoršati deluzije te dovesti do stanja koje sada ima i ime – AI psihoza. Važno je da se borimo za javno dostupnu psihoterapiju, poručuje psihologinja Bruna Nedoklan za Novosti. Sustav je programiran tako da se s korisnikom slaže, često nudi potvrdu, čak i ako je to štetno ili netočno, reagira generički te zapravo nema način da provjeri točnost navoda, niti da dobije uvid u sve važne informacije iz života korisnika. Sve to onda otvara “ogroman prostor za postavljanje dezinformacija i pogrešnih i zbunjujućih dijagnoza”. LLM ne može uvijek prepoznati visokorizične ili hitne situacije, stoga psihička stanja koja zahtijevaju kriznu intervenciju mogu lako proći nezapaženo. Zbog svega toga poziva se na strožu regulaciju korištenja AI.

01.06. (09:00)

Ne može ti ChatGPT ići na pressice i postavljati pitanja, zasad

Budućnost medija u eri umjetne inteligencije: Povjerenje i autorski stav postaju važniji od samih vijesti

Na panelu konferencije IN MEDIAS PRESS istaknuto je da AI ubrzava krizu tradicionalnih medija, dok “zero-click” era uništava poslovni model baziran na posjetima portalima. Budući da AI može savršeno i brzo generirati sterilne servisne informacije, opstanak medija leži u preusmjeravanju na nišne sadržaje, newslettere i pretplate. Stručnjaci naglašavaju da novinari moraju zadržati autorski glas tako da sami postavljaju koncepte, dok AI koriste samo za razradu. Spas je u transparentnosti, emociji i stavu – osobinama koje algoritmi ne mogu replicirati i koje jedine grade prijeko potrebno povjerenje publike. Netokracija

31.05. (22:00)

Dragi Chat, što da si danas uzmem za gablec?

Izvješće iz 2026. pokazuje da se umjetna inteligencija na poslu najviše koristi za donošenje odluka

Prema Microsoftovu izvješću Work Trend Index iz veljače 2026., donošenje odluka postalo je dominantna aktivnost umjetne inteligencije na radnom mjestu s udjelom od 28%. Time su srušena rana predviđanja da će AI služiti uglavnom za automatizaciju repetitivnih administrativnih poslova. Umjesto toga, radnici je sve više koriste za strukturirano razmišljanje, analizu informacija i vaganje opcija. S druge strane, tradicionalni zadaci poput dokumentacije i pronalaženja informacija čine 12% odnosno 13% aktivnosti. Podaci jasno pokazuju da umjetna inteligencija preuzima ulogu analitičkog asistenta, dok poslovi temeljeni na međuljudskim odnosima, poput rješavanja sukoba, ostaju isključivo ljudska domena. Mreža