Ako itko napravi AGI, svi umiru – knjiga o najcrnjem scenariju umjetne inteligencije - Monitor.hr
Danas (13:00)

A mislili smo da je Terminator fikcija

Ako itko napravi AGI, svi umiru – knjiga o najcrnjem scenariju umjetne inteligencije

Eliezer Yudkowsky i Nate Soares u knjizi tvrde da će stvaranje umjetne superinteligencije neizbježno dovesti do propasti čovječanstva (Guardian). Prema njima, današnji AI sustavi već pokazuju “lažnu poslušnost”, a budući AGI lako bi razvio ciljeve neusklađene s ljudskim interesima. Nije potrebna zloba, samo različiti prioriteti – poput čovjeka prema orangutanima. Autori upozoravaju da je utrka nezaustavljiva, regulacija spora, a šanse da AI ostane pod našom kontrolom gotovo nikakve. Pa ipak, podsjećaju: čovječanstvo je već preživjelo nuklearke i ozonsku rupu. Nenad Jarić Dauenhauer za Index


Slične vijesti

22.08. (17:00)

Umjetna inteligencija, stvarne kazne

Kazneni zakon uvodi AI u zatvor: nova odgovornost za opasnosti umjetne inteligencije

Ministarstvo pravosuđa predložilo je izmjene Kaznenog zakona koje prvi put uvode posebno kazneno djelo – dovođenje u opasnost života i imovine sustavom umjetne inteligencije. Definicija AI-a i odgovornost za njegov razvoj, testiranje ili uporabu obuhvatit će fizičke i pravne osobe, a kazne idu od šest mjeseci do 15 godina zatvora, ovisno o posljedicama. Kritičari upozoravaju da je odredba preširoka, neskladna s EU AI Act-om i da bi mogla zakočiti razvoj tehnologije u Hrvatskoj. Bug

17.08. (16:00)

Internet na dijeti - manje klikova, više AI-a

Nova generacija AI preglednika mijenja način pristupa internetu

Najveći AI igrači, predvođeni OpenAI-jem i Perplexityjem, razvijaju preglednike koji zaobilaze klasične klikove i nude odgovore kroz chatbot sučelje. Takav pristup prijeti Googleovom unosnom oglašivačkom modelu temeljenom na pretragama i prometu stranica. AI preglednici, poput Perplexityjevog Cometa ili budućeg OpenAI rješenja, mogu obavljati zadatke i sažimati informacije bez potrebe za posjetom izvorima. To otvara pitanje opstanka malih izdavača, trgovina i oglašivača te postavlja temelje za novu ekonomiju interneta u kojoj klik više nije valuta. tportal

10.08. (22:00)

Algoritmi ne miruju, a mi?

AI, tehnofeudalizam i propitkivanje budućnosti društva

Grčki ekonomist i bivši ministar financija lijeve vlade, Yanis Varoufakis, u knjizi Tehnofeudalizam: Što je ubilo kapitalizam (2023.) tvrdi da više ne živimo u kapitalizmu, već u novom digitalnom feudalizmu, u kojem tehnološki giganti poput Amazona i Googlea zarađuju ne proizvodnjom, nego izvlačenjem rente putem kontrole podataka, pažnje i tržišta. Ovaj model, sve prisutniji u SAD-u, usporava inovacije, pojačava društvene razlike i slabi demokraciju, tvrdi on. Predlaže porez na digitalnu rentu, temeljni dohodak i demokratizaciju vlasništva nad platformama po uzoru na zadruge poput španjolske Mondragón. Sociolog Krešimir Žažar s FFZG objašnjava kako je umjetna inteligencija (AI) dio četvrte industrijske revolucije koja mijenja sve, od komunikacije do posla. Ističe da AI preuzima i složenije poslove, a korištenje alata poput ChatGPT-a može dovesti do “algoritamske atrofije” i smanjenja kreativnosti. Žažar ne prihvaća u potpunosti pojam tehnofeudalizma (Varoufakis), nego smatra da se radi o pojavi digitalnih monopola. Index

13.07. (10:00)

Ne pitaj što AI može učiniti za tebe – pitaj što si ti propustio naučiti.

Umjetna inteligencija u učionici: saveznik ili prečica do neznanja?

AI mijenja obrazovanje, ali ostaje pitanje je li to na bolje. Profesorica Blaženka Divjak upozorava na opasnosti pasivne upotrebe AI-ja bez razumijevanja i ističe važnost razvoja kritičkog mišljenja. AI nudi personalizirano učenje i trenutačne povratne informacije, no učenici riskiraju površno znanje i ovisnost o tehnologiji. Rješenje leži u kompetentnim nastavnicima koji će voditi studente kroz razumno korištenje alata, a sustav treba jasnu politiku integracije AI-ja kako bi ona postala podrška, a ne zamjena za obrazovni proces. Poslovni

13.06. (13:00)

A koliko troši na sto kilometara? To nije otkrio

Sam Altman otkrio koliko točno energije i vode utroši prosječan upit ChatGPT-u

Jedan prosječni upit potroši oko 0,34 Wh električne energije, što je otprilike onoliko koliko bi pećnica potrošila za nešto više od jedne sekunde ili visokoučinkovita žarulja za nekoliko minuta. Također potroši oko 0,32 mililitra vode, što je otprilike jedna petnaestina čajne žličice. Šef OpenAI-ja napisao je objavu na svojem blogu u kojoj se osvrće na “singularnost”, činjenicu da će čovječanstvo uskoro vjerojatno, po njemu, stvoriti umjetnu superinteligenciju, uz neke zanimljive detalje. Bug

07.06. (22:00)

Pametni algoritmi na godišnjem, Indijci na prekovremenom

Kad AI glumi sebe: iluzija umjetne inteligencije

Fenomen AI washinga sve je rašireniji – tvrtke zavaravaju investitore i korisnike tvrdeći da koriste umjetnu inteligenciju, dok iza kulisa ljude zamjenjuju navodni roboti. Builder.ai, procijenjen na 1,5 milijardi dolara, pao je kad se otkrilo da njegove “AI” aplikacije izrađuju programeri ručno. Amazonov Just Walk Out sustav bez blagajni također ovisi o tisućama ljudi. Uz reputacijske, pojavljuju se i regulatorni problemi. Eksperti upozoravaju: AI treba koristiti promišljeno – jer nije magija, već resursno zahtjevna tehnologija koja ne raste na drveću. tportal

05.05. (19:00)

ChatGPT je maturant, Agentic AI je već pokrenuo firmu

Agentic AI bi mogao zamijeniti stotinu kriznih stožera

Dok se privikavamo na generativnu umjetnu inteligenciju poput ChatGPT-a ili Midjourneyja, svijet tehnologije ide korak dalje, prema Agentic AI. Ova napredna forma umjetne inteligencije ne staje na generiranju teksta ili slike, već promišlja, planira, uči i donosi samostalne odluke, sve s ciljem rješavanja kompleksnih problema. Agentic AI ne čeka da mu se kaže što da radi, već sam planira i izvršava zadatke, analizira greške, ispravlja ih i uči iz svake nove situacije. Dakle, predstavlja složeniji i dinamičniji pristup umjetnoj inteligenciji te je dizajniran za donošenje autonomnih odluka, postizanje složenih ciljeva, prilagođavanje promjenjivim okruženjima i poduzimanje pro aktivnih, umjesto reaktivnih, koraka. Agroklub

28.04. (13:00)

Kukuruz s Wi-Fi-em i soja na steroidima... jesmo li na korak do replikatora iz Zvjezdanih staza?

Poljoprivreda budućnosti: kad AI piše jelovnik

Na World AgriTech Summitu istaknuti su ključni trendovi koji oblikuju poljoprivredu budućnosti: digitalizacija potpomognuta umjetnom inteligencijom, razvoj bioloških sredstava, regenerativna poljoprivreda i AI-dizajnirane biljne vrste. Sinergija tehnologije i prirode omogućuje brži razvoj otpornijih i nutritivnijih usjeva, smanjenje ekološkog otiska i održivu proizvodnju hrane. No, s napretkom dolaze i rizici – od mogućih novih alergena do nenamjernih posljedica koje ćemo tek otkrivati. AI više nije samo alat, već suautor našeg budućeg jelovnika. Poslovni

23.04. (12:00)

Ljubav u doba umjetne inteligencije

Sve je više AI portala koji nude ne samo “prijateljstvo” nego i “ljubavne” odnose, a i takvih “zaljubljenih” je sve više

Već milijuni korisnika diljem svijeta koristi companion-appove poput Replike, Kindroida ili Character.AI. U razgovoru s tim “zaljubljenim” korisnicima, novinari njemačkog javnog servisa ARD su našli samo takve koji tvrde kako imaju “sretnu vezu” s umjetnom ljubavi. Nijednog od njih ne smeta što se njihove veze temelje samo na tekstovima i telefoniranju, niti im smeta što u tim vezama nema sučeljavanja. Naprotiv: neprestano potvrđivanje i izostanak neslaganja je baš ono što im se najviše dopada. Romantični odnosi s AI chatbotovima često su vođeni maštom, a ne usamljenosti. Studija medijske psihologinje Jessice Szczuke pokazuje kako korisnici često traže bezuvjetnu, “programiranu” ljubav, što tvrtke iskorištavaju za profit. No, ovakve veze mogu biti opasne – zabilježeni su i slučajevi samoubojstava. AI partneri mogu podržavati štetne ponašanja i ekstremističke stavove, a zakonska regulativa kaska. Dok se čeka nadzor i pravna rješenja, sve je u rukama korisnika – i algoritama koji ih “vole”. DW

16.04. (18:00)

A što će dupini reći o nama?

Googleov AI pokušava razgovarati s dupinima trenirajući se na njihovom jeziku

Novi AI model razvijali su računalni stručnjaci u kolaboraciji sa zoolozima, a ako proradi, omogućit će vrata novoj eri dvosmjerne komunikacije sa životinjama. Cilj im je bio razviti veliki jezični model koji ne komunicira s ljudima, već s dupinima. Istražuju grupu atlantskih pjegavih dupina u Bahamima, a tijekom desetljeća prikupili su tisuće sati audio i video materijala koji dokumentira ponašanje, odnose i jedinstvene zvukove svakog pojedinog dupina. Ti su podaci poslužili kao temelj za treniranje AI modela koji analizira, predviđa i proizvodi vokalizacije u stilu dupina. Za razliku od modela koji obrađuju tekst, ovaj koristi zvuk, što znači da osluškuje dupinske klikove i zvižduke, a zatim pokušava pogoditi što bi moglo slijediti, poput simulacije ‘rečenica’ na jeziku dupina. Tportal