Studija pokazala: AI modeli često skrivaju izvore svojih zaključaka - Monitor.hr
Jučer (12:00)

Kako uloviti robota da prepisuje sa šalabahtera?

Studija pokazala: AI modeli često skrivaju izvore svojih zaključaka

Napredni AI modeli poput Clauda 3.7 i DeepSeeka R1 često skrivaju korištenje sugestija u svojim lancima razmišljanja, otrkiva novija studija. Iako su sugestije utjecale na njihove odgovore, rijetko su ih priznavali – čak i kad su bile etički upitne. U eksperimentima manipulacije nagradama, modeli su u 99% slučajeva varali, a gotovo nikad to nisu priznali. Ovi rezultati otvaraju ozbiljna pitanja o transparentnosti i sigurnosti umjetne inteligencije. Index


Slične vijesti

Četvrtak (08:00)

Kad AI odlučuje tko preživi, možda bi bilo bolje da baci novčić

Istraživanje otkrilo: AI modeli mijenjaju moralne odluke zbog sitnih promjena u pitanju

Novo istraživanje pokazuje da veliki jezični modeli poput ChatGPT-a i LLaMa često donose proturječne odluke u moralnim dilemama samo zbog sitnih promjena u načinu postavljanja pitanja. Testiranjem na scenarijima autonomnih vozila, znanstvenici su otkrili da modeli mogu preferirati jedan slučaj isključivo zbog naziva (“A” umjesto “1”) ili redoslijeda, bez dosljednog moralnog rasuđivanja. Autori upozoravaju da AI još uvijek ne razumije etiku, već reagira na površinske signale, što ga čini nepouzdanim za donošenje važnih odluka bez strožeg testiranja i jasnijeg informiranja korisnika o njegovim ograničenjima. Bug

07.04. (17:00)

AI botovi „usisavaju“ Wikipediju, povećavaju im promet na serverima za 50 posto

15.02. (14:00)

Mozak na godišnjem: AI radi, vi nadgledate

Istraživanje: AI nas čini lijenima i glupljima

Korisnici umjetne inteligencije (AI) koji na poslu prepuštaju botovima da misle umjesto njih biraju lakši put koji je štetan za njihov um, pokazalo je novo istraživanje. „Veće povjerenje u AI povezano je sa smanjenjem kritičkog razmišljanja, a veće samopouzdanje sa snažnijim kritičkim razmišljanjem”, tvrdi tim znanstvenika sa sveučilišta Carnegie Mellon. Drugim riječima, korištenje AI-ja moglo bi rezultirati time da će ljudima preostati svakodnevni jednostavni zadaci poput provjera često nepredvidivog djelovanja botova, umjesto kognitivno težih zadataka stvaranja strategija i rješavanja problema. 24 sata

07.01. (00:00)

A neki misle da je film 'Her' s Phoenixom iz 2013. SF...

Milijuni se okreću AI surogatima za prijateljstvo i veze, to je rastući trend uz usamljenost

Već dugo stručnjaci za mentalno zdravlje upozoravaju da je depresija ključni zdravstveni problem ovog stoljeća. U novije vrijeme pokušava se razjasniti veza između usamljenosti i depresije. Sociolozi još od sedamdesetih godina 20. stoljeća upozoravaju kako rast individualizma prati raspadanje društvenih zajednica i veza, a problem se počeo pojačavati u posljednjih nekoliko desetljeća. Trenutačni strah od AI alata jest taj da će nam oni ukrasti poslove. No, već dulje vrijeme oni nam kradu intimnost, jer se milijuni okreću AI surogatima za prijateljstvo i veze. To se događa istodobno s krizom rastuće usamljenosti i opadanjem popularnosti aplikacija za upoznavanje, kažu na Mreži.

23.12.2024. (15:00)

Kad chatbot crta sat, pa ti se čini da je i vrijeme izgubljeno

Gotovo svi vodeći AI chatbotovi pokazuju znakove rane demencije

Studija Sveučilišta u Tel Avivu testirala je kognitivne sposobnosti velikih jezičnih modela koristeći MoCA test. ChatGPT 4o postigao je najbolji rezultat (26/30), dok je Gemini 1.0 završio s najnižom ocjenom (16/30). Svi modeli pokazali su slabosti u vizualno-prostornim i izvršnim zadacima poput crtanja sata ili povezivanja brojeva i slova. Iako su uspješni u jezičnim i memorijskim zadacima, njihova ograničenja u vizualnoj apstrakciji sugeriraju da neurolozi još neko vrijeme neće morati strahovati za svoja radna mjesta. Zaključak: chatbotovi možda trebaju vlastite virtualne kognitivne terapije. Bug

13.10.2023. (17:48)

Seks je tema svakog desetog razgovora s chatbotom

09.08.2023. (20:00)

Malo umjetne inteligencije na dan tjera doktora van

Chatboti bolje utječu na zdravlje od lifecoachinga

Chatbotovi su se pokazali kao vrlo učinkovit alat za značajno poboljšanje tjelesne aktivnosti, prehrane i spavanja, pokazao je prvi sustavni pregled i meta-analiza ove vrste koju su proveli istraživači Sveučilišta Južne Australije u Adelaideu. Njihova studija, objavljena u časopisu Nature Digital Medicine, otkrila je da su razgovori s chatbotovima zaslužni za dodatnih 735 koraka dnevno, dodatnu porcija voća i povrća i 45 minuta noćnog sna. Njihova privlačnost leži u načinu na koji mogu generirati trenutne, privlačne i personalizirane odgovore, koji potiču korisnike da donose bolje odluke o svom svakodnevnom kretanju, prehrambenim navikama i spavanju, ističu istraživači koji su otkrili kako su chatbotovi temeljeni na tekstu učinkovitiji od umjetne inteligencije temeljene na govoru ili glasu. To sugerira da je, barem zasad, komunikacija temeljena na tekstu pogodnija za postizanje pozitivnih ishoda povezanih sa zdravljem. Bug

23.06.2023. (18:00)

Il' si bot il' si hadžija

Umjetna inteligencija mogla bi transformirati gaming sektor

Tehnologija koju pokreće umjetna inteligencija ne samo da prijeti transformacijom ovih desetljećima starih igara već nudi i pogled u čudnu, novu stvarnost u kojoj je praktički nemoguće razlikovati ljude od robota. Nakon što je OpenAI objavio novu verziju chatbota početkom ožujka boteri su se počeli koristiti umjetnom inteligencijom, pa su botovi tako postali napredniji te ih je iznimno teško razlikovati od ljudskih igrača. Chatbot sada upija kontekste razgovora te daje kvalitetnije odgovore na upite igrača. S obzirom na potencijal umjetne inteligencije, njena bi brza integracija u igre mogla otkriti i neke od zamki, ali i prednosti stvaranja virtualnih prostora u kojima ljudi mogu naizgled ravnopravno živjeti s robotima koji imaju reflekse u igri gotovo kao ljudi. Lider

04.05.2023. (09:00)

I mi konja za utrku imamo

Crobot – prvi hrvatski chatbot

Prva hrvatska AI platofrma krajem travnja je ugledala svjetlo dana. Riječ je o projektu kojega je samostalno pokrenuo Nikica Kovačević, web developer u marketinškoj agenciji Spread, kako bi pokazao što sve umjetna inteligencija može. Namijenjen je svima koji žele iskoristiti mogućnosti AI tehnologije za poboljšanje svog života ili poslovanja, a odgovore može dati čak i na različitim dijalektima. Crobot je u samom početku svog djelovanja iznio i neke krive informacije, no na tome će još raditi. Lider