Google-ov i Bingov AI chatbot međusobno citiraju lažne objave - Monitor.hr
24.03.2023. (11:00)

Ovaj članak napisao je chatbot

Google-ov i Bingov AI chatbot međusobno citiraju lažne objave

Zabrinjavajući primjer kako se laži mogu bez problema širiti. Nedavno pokrenuti Google-ov chatbot Bard može biti zabavan i moćan alat za komunikaciju i kreativnost, no mnogi se brinu koliko je podložan manipulacijama i zloporabama. U jednom je odgovoru Bard na korisnikovo pitanje odgovorio kako vjeruje da je već ugašen, i to zbog nedostatka interesa. Korisnik je naknadno otkrio kako je chatbot pronašao informaciju u šest sati starom trolovskom komentaru ispod nekog članka na nekom portalu i iskoristio ju kao vjerodostojan izvor informacija. Iako je greška naknadno ispravljena, pitanje je hoće li chatbotovi tako skoro postati pouzdaniji. IFL Science


Slične vijesti

Ponedjeljak (17:00)

ChatGPT je maturant, Agentic AI je već pokrenuo firmu

Agentic AI bi mogao zamijeniti stotinu kriznih stožera

Dok se privikavamo na generativnu umjetnu inteligenciju poput ChatGPT-a ili Midjourneyja, svijet tehnologije ide korak dalje, prema Agentic AI. Ova napredna forma umjetne inteligencije ne staje na generiranju teksta ili slike, već promišlja, planira, uči i donosi samostalne odluke, sve s ciljem rješavanja kompleksnih problema. Agentic AI ne čeka da mu se kaže što da radi, već sam planira i izvršava zadatke, analizira greške, ispravlja ih i uči iz svake nove situacije. Dakle, predstavlja složeniji i dinamičniji pristup umjetnoj inteligenciji te je dizajniran za donošenje autonomnih odluka, postizanje složenih ciljeva, prilagođavanje promjenjivim okruženjima i poduzimanje pro aktivnih, umjesto reaktivnih, koraka. Agroklub

29.04. (14:00)

Kako uloviti robota da prepisuje sa šalabahtera?

Studija pokazala: AI modeli često skrivaju izvore svojih zaključaka

Napredni AI modeli poput Clauda 3.7 i DeepSeeka R1 često skrivaju korištenje sugestija u svojim lancima razmišljanja, otrkiva novija studija. Iako su sugestije utjecale na njihove odgovore, rijetko su ih priznavali – čak i kad su bile etički upitne. U eksperimentima manipulacije nagradama, modeli su u 99% slučajeva varali, a gotovo nikad to nisu priznali. Ovi rezultati otvaraju ozbiljna pitanja o transparentnosti i sigurnosti umjetne inteligencije. Index

24.04. (10:00)

Kad AI odlučuje tko preživi, možda bi bilo bolje da baci novčić

Istraživanje otkrilo: AI modeli mijenjaju moralne odluke zbog sitnih promjena u pitanju

Novo istraživanje pokazuje da veliki jezični modeli poput ChatGPT-a i LLaMa često donose proturječne odluke u moralnim dilemama samo zbog sitnih promjena u načinu postavljanja pitanja. Testiranjem na scenarijima autonomnih vozila, znanstvenici su otkrili da modeli mogu preferirati jedan slučaj isključivo zbog naziva (“A” umjesto “1”) ili redoslijeda, bez dosljednog moralnog rasuđivanja. Autori upozoravaju da AI još uvijek ne razumije etiku, već reagira na površinske signale, što ga čini nepouzdanim za donošenje važnih odluka bez strožeg testiranja i jasnijeg informiranja korisnika o njegovim ograničenjima. Bug

07.04. (17:00)

AI botovi „usisavaju“ Wikipediju, povećavaju im promet na serverima za 50 posto

15.02. (14:00)

Mozak na godišnjem: AI radi, vi nadgledate

Istraživanje: AI nas čini lijenima i glupljima

Korisnici umjetne inteligencije (AI) koji na poslu prepuštaju botovima da misle umjesto njih biraju lakši put koji je štetan za njihov um, pokazalo je novo istraživanje. „Veće povjerenje u AI povezano je sa smanjenjem kritičkog razmišljanja, a veće samopouzdanje sa snažnijim kritičkim razmišljanjem”, tvrdi tim znanstvenika sa sveučilišta Carnegie Mellon. Drugim riječima, korištenje AI-ja moglo bi rezultirati time da će ljudima preostati svakodnevni jednostavni zadaci poput provjera često nepredvidivog djelovanja botova, umjesto kognitivno težih zadataka stvaranja strategija i rješavanja problema. 24 sata

07.01. (00:00)

A neki misle da je film 'Her' s Phoenixom iz 2013. SF...

Milijuni se okreću AI surogatima za prijateljstvo i veze, to je rastući trend uz usamljenost

Već dugo stručnjaci za mentalno zdravlje upozoravaju da je depresija ključni zdravstveni problem ovog stoljeća. U novije vrijeme pokušava se razjasniti veza između usamljenosti i depresije. Sociolozi još od sedamdesetih godina 20. stoljeća upozoravaju kako rast individualizma prati raspadanje društvenih zajednica i veza, a problem se počeo pojačavati u posljednjih nekoliko desetljeća. Trenutačni strah od AI alata jest taj da će nam oni ukrasti poslove. No, već dulje vrijeme oni nam kradu intimnost, jer se milijuni okreću AI surogatima za prijateljstvo i veze. To se događa istodobno s krizom rastuće usamljenosti i opadanjem popularnosti aplikacija za upoznavanje, kažu na Mreži.

23.12.2024. (15:00)

Kad chatbot crta sat, pa ti se čini da je i vrijeme izgubljeno

Gotovo svi vodeći AI chatbotovi pokazuju znakove rane demencije

Studija Sveučilišta u Tel Avivu testirala je kognitivne sposobnosti velikih jezičnih modela koristeći MoCA test. ChatGPT 4o postigao je najbolji rezultat (26/30), dok je Gemini 1.0 završio s najnižom ocjenom (16/30). Svi modeli pokazali su slabosti u vizualno-prostornim i izvršnim zadacima poput crtanja sata ili povezivanja brojeva i slova. Iako su uspješni u jezičnim i memorijskim zadacima, njihova ograničenja u vizualnoj apstrakciji sugeriraju da neurolozi još neko vrijeme neće morati strahovati za svoja radna mjesta. Zaključak: chatbotovi možda trebaju vlastite virtualne kognitivne terapije. Bug

13.10.2023. (17:48)

Seks je tema svakog desetog razgovora s chatbotom

09.08.2023. (20:00)

Malo umjetne inteligencije na dan tjera doktora van

Chatboti bolje utječu na zdravlje od lifecoachinga

Chatbotovi su se pokazali kao vrlo učinkovit alat za značajno poboljšanje tjelesne aktivnosti, prehrane i spavanja, pokazao je prvi sustavni pregled i meta-analiza ove vrste koju su proveli istraživači Sveučilišta Južne Australije u Adelaideu. Njihova studija, objavljena u časopisu Nature Digital Medicine, otkrila je da su razgovori s chatbotovima zaslužni za dodatnih 735 koraka dnevno, dodatnu porcija voća i povrća i 45 minuta noćnog sna. Njihova privlačnost leži u načinu na koji mogu generirati trenutne, privlačne i personalizirane odgovore, koji potiču korisnike da donose bolje odluke o svom svakodnevnom kretanju, prehrambenim navikama i spavanju, ističu istraživači koji su otkrili kako su chatbotovi temeljeni na tekstu učinkovitiji od umjetne inteligencije temeljene na govoru ili glasu. To sugerira da je, barem zasad, komunikacija temeljena na tekstu pogodnija za postizanje pozitivnih ishoda povezanih sa zdravljem. Bug