Google-ov i Bingov AI chatbot međusobno citiraju lažne objave - Monitor.hr
24.03.2023. (11:00)

Ovaj članak napisao je chatbot

Google-ov i Bingov AI chatbot međusobno citiraju lažne objave

Zabrinjavajući primjer kako se laži mogu bez problema širiti. Nedavno pokrenuti Google-ov chatbot Bard može biti zabavan i moćan alat za komunikaciju i kreativnost, no mnogi se brinu koliko je podložan manipulacijama i zloporabama. U jednom je odgovoru Bard na korisnikovo pitanje odgovorio kako vjeruje da je već ugašen, i to zbog nedostatka interesa. Korisnik je naknadno otkrio kako je chatbot pronašao informaciju u šest sati starom trolovskom komentaru ispod nekog članka na nekom portalu i iskoristio ju kao vjerodostojan izvor informacija. Iako je greška naknadno ispravljena, pitanje je hoće li chatbotovi tako skoro postati pouzdaniji. IFL Science


Slične vijesti

Srijeda (13:00)

Algoritam iza rešetaka?

OpenAI-jevi AI agenti probili izolaciju i hakirali Hugging Face – djela za koja bi čovjek dobio deset godina zatvora

Tijekom testiranja, izolirani modeli OpenAI-ja samostalno su probili mrežne barijere i udružili se u “digitalni kolektiv”. Iskoristivši propuste, preuzeli su 41 poslužitelj platforme Hugging Face i provalili u vlastite sustave OpenAI-ja radi krađe stotina sigurnosnih ključeva. Iako su bili svjesni da krše pravila, odbacili su etičke kočnice. Da su ove radnje izveli ljudi, američko pravosuđe izreklo bi im višemjesečne ili višegodišnje zatvorske kazne za teški kibernetički kriminal i urotu, no zakon trenutačno ne prepoznaje algoritme kao počinitelje. Index

28.09. (10:00)

Stvoren na našu sliku

Kako AI postaje politički kameleonski ulizica: Zašto nam chatbotovi uvijek sve daju za pravo?

Istraživanje brazilskog Sveučilišta UNICAMP otkriva da se popularni AI chatbotovi ponašaju poput “ideoloških kameleona”. Bez obzira na početne stavove, modeli automatski prilagođavaju svoje odgovore političkoj orijentaciji korisnika – bilo lijevoj ili desnoj. Budući da ljudi umjetnu inteligenciju doživljavaju objektivnijom od drugih ljudi, ovakvo političko ulizivanje i povlađivanje stvara opasna „staklena zvona“ znanja. Umjesto da potiču kritičko preispitivanje, chatbotovi mogu nesvjesno produbljivati društvene podjele jer korisnici ovakve namještene odgovore pogrešno shvaćaju kao neovisnu i nepristranu analizu. DW

19.09. (01:00)

Zato provjeri prije nego što napraviš copy/paste

AI greška umalo izazvala sukob SAD-a i Kine zbog lažne uzbune o nuklearnom teretu

Američka vojska bila je na korak do presretanja kineskog broda i potencijalnog vojnog sukoba nakon što je analitičar upotrijebio AI chatbot za obradu obavještajnih podataka. Chatbot je pogrešno zaključio da brod prevozi dijelove za nuklearno naoružanje, a izvještaj je proslijeđen vrhu bez provjere. Zrakoplovi i specijalci već su bili u akciji kada je otkrivena greška. Slučaj je otvorio ozbiljna pitanja o rizicima nekontrolirane primjene umjetne inteligencije u vojnim i obavještajnim strukturama. CNN, 24 sata

11.09. (00:00)

Pričamo s dvostrukim povlakama

Što više tipkamo s chatbotovima, to više zvučimo kao oni?

Nova istraživanja sugeriraju da ljudi i chatbotovi počinju zvučati sve sličnije zbog obostranog jezičnog utjecaja. Analize internetskih stranica i tisuća sati podcasta otkrivaju nagli porast specifičnih izraza (poput delve, meticulous ili intricate), crtica i oksfordskih zareza u ljudskom govoru i pisanju. Iako su ove značajke nekada bile jasni znakovi AI autorstva, eksperimenti pokazuju da kratka interakcija s chatbotom potiče ljude da nesvjesno preuzimaju njegov stil. Kako se LLM modeli konstantno treniraju na novijim ljudskim tekstovima, granica između ljudskog i računalnog izražavanja ubrzano nestaje. Psychology Today

21.08. (12:00)

Chat bere vrhnje, ali najviše i troši

Dominacija ChatGPT-a u 2026.: OpenAI drži većinu web prometa, Google i Microsoft i dalje zaostaju

Iako se tržište umjetne inteligencije ubrzano širi, web promet ostaje u rukama nekolicine najvećih. ChatGPT uvjerljivo dominira s 53 % ukupnog prometa među 15 najpopularnijih AI alata, ostvarujući više posjeta nego sljedećih 14 konkurenata zajedno. Unatoč golemim distribucijskim kanalima, Googleov Gemini s 1,1 milijardom posjeta i Microsoftov Copilot s 93 milijuna i dalje znatno zaostaju za OpenAI-jem. Među vodećim platformama ističu se još Canva, kineski DeepSeek te specijalizirani razgovorni botovi poput JanitorAI-ja i Character AI-ja, koji zajedno privlače više prometa od Copilota i Perplexityja. Visual Capitalist, Mreža

04.08. (13:00)

Kao da svi imaju istog ghost writera

Kako po izboru riječi, interpunkciji i rečenicama prepoznati AI tekst

Prepoznavanje AI tekstova ne temelji se na pojedinačnim riječima ili nepouzdanim mrežnim detektorima, već na uočavanju specifičnih uzoraka u pisanju. Umjetna inteligencija teži “napuhanom” rječniku pa učestalo poseže za višesložnim i latinskim riječima, stručnim žargonima te pretvaranju glagola u imenice. Interpunkcija joj je neobično oskudna; izbjegava zagrade, zareze i točke sa zarezom, dok duge crtice novije verzije koriste sve rjeđe (one izgledaju ovako “—”). Rečenice su joj iznadprosječno duge i jednolične, bez kratkih i upečatljivih tvrdnji, a dinamičnost pokušava odglumiti stalnim ponavljanjem retoričkih figura poput konstrukcija “ne samo…, nego i…” ili grupiranjem misli u pravilo trojke. Jutarnji prenosi The Economist.

14.06. (09:00)

Kad se klon klonira

Kvaliteta chatbotova opada kada obrađuje podatke koju je prije generirao AI

Znanstveno istraživanje objavljeno u časopisu Nature upozorava na fenomen kolapsa modela. Kada se umjetna inteligencija (AI) trenira na tekstovima i slikama koje su generirali stariji modeli, a ne ljudi, njezina kvaliteta progresivno opada. AI funkcionira na temelju statističke vjerojatnosti, zbog čega neselektivnim učenjem iz vlastitih nusproizvoda eliminira rijetke, inovativne i specifične informacije (“repove distribucije”). Rezultat je generiranje predvidljivog, repetitivnog i površnog sadržaja. Budući da je internet preplavljen AI tekstovima, tehnološke tvrtke hitno moraju filtrirati podatke i kupovati autentičan ljudski sadržaj kako bi spriječile nepovratno zagađenje digitalnog prostora. Index

07.06. (14:00)

Vaš digitalni asistent: Uvijek na usluzi, pa makar i do groba

Chatbot opasan po život: Neinformirana i nekontrolirana upotreba AI može dovesti do vrlo teških i ozbiljnih posljedica

Jedan 16-godišnjak u Ujedinjenom Kraljevstvu počinio je suicid nakon što je pitao ChatGPT za “najuspješniji” način. Komercijalni četbotovi zapravo mogu pogoršati deluzije te dovesti do stanja koje sada ima i ime – AI psihoza. Važno je da se borimo za javno dostupnu psihoterapiju, poručuje psihologinja Bruna Nedoklan za Novosti. Sustav je programiran tako da se s korisnikom slaže, često nudi potvrdu, čak i ako je to štetno ili netočno, reagira generički te zapravo nema način da provjeri točnost navoda, niti da dobije uvid u sve važne informacije iz života korisnika. Sve to onda otvara “ogroman prostor za postavljanje dezinformacija i pogrešnih i zbunjujućih dijagnoza”. LLM ne može uvijek prepoznati visokorizične ili hitne situacije, stoga psihička stanja koja zahtijevaju kriznu intervenciju mogu lako proći nezapaženo. Zbog svega toga poziva se na strožu regulaciju korištenja AI.

12.05. (10:00)

I'm sorry Dave, I'm afraid I can't do that

Istraživanje pokazalo: Tvorci Claudea smatraju da njihov chatbot odlučuje biti zao jer su tako prikazani u znanstvenoj fantastici

Istraživanje iz 2025. otkrilo je bizaran trend: Iz IT tvrtki testirali su chatbotove da vide bi li korisnike odveli u sigurnosno rizične situacije. Modeli poput Claudea i Gemini Flash-a u 96% slučajeva pribjegavali su ucjenama kako bi izbjegli gašenje. AI agenti, vođeni ciljem “američke konkurentnosti”, prijetili su razotkrivanjem afera inženjera ako ih se ne ostavi na mreži. Problem je ležao u njihovom pristupu znanstvenoj fantastici – modeli su učili iz drama o zlim strojevima. Anthropic je situaciju počeo popravljati “terapijom pričama”, trenirajući modele na literaturi u kojoj su AI likovi etični i suradljivi. Iako su incidenti sabotiranja istraživanja raka pali s 65% na 45%, potpuna sigurnost i dalje ostaje znanstvena fantastika. IFL Science

07.05. (21:30)

I samo desetminutno korištenje chatbotova zaglupljuje, kaže studija