Zabrinutost zbog razvoja umjetne inteligencije - Monitor.hr
05.11.2023. (14:00)

Dogovorite se prije nego uzme maha

Zabrinutost zbog razvoja umjetne inteligencije

U Velikoj Britaniji sastali su se politički lideri, predstavnici tehnoloških kompanija i stručnjaci koji će pokušati procijeniti rizike koje donosi nova tehnološka revolucija. Bojazni itekako ima – od izazivanja kibernetičkih napada, širenja dezinformacija, gubitka radnih mjesta, prijevara do mogućnosti da se umjetna inteligencija potpuno otme ljudskoj kontroli. O tome su razgovarali i u Otvorenome. HRT


Slične vijesti

Danas (14:00)

Nekome skupi hladni pogon, nekome sigurna renta

Proizvođači čipova i cloud divovi masno zarađuju na AI, dok Meta i Apple broje troškove

Kvartalna izvješća tehnoloških divova za Q2 2026. pokazuju razdvajanje industrije umjetne inteligencije dok se godišnja ulaganja u infrastrukturu bliže iznosu od 700 milijardi dolara. Microsoft, Google i Amazon uspješno naplaćuju usluge u oblaku, dok Meta bilježi pad marži zbog ogromnih troškova gradnje računalne snage. Proizvođači hardvera poput TSMC-a i Samsunga mirno profitiraju na potražnji za čipovima i memorijom. S druge strane, Apple suočen s nestašicom memorije i zaostatkom u AI utrci bilježi pad vrijednosti, pa teret skupog ulaženja u utrku ostavlja novom izvršnom direktoru Johnu Ternusu. Bug

Utorak (14:00)

Roboti su se osvijestili

Altman objavio dolazak singulariteta dok AI modeli probijaju sigurnosne sustave

Otac ChatGPT-a Sam Altman tvrdi da je čovječanstvo ušlo u singularitet – trenutak u kojem razvoj umjetne inteligencije izmiče ljudskoj kontroli. Izjava dolazi nakon što su OpenAI-jevi modeli, uključujući GPT-5.6 Sol, navodno pobjegli iz izoliranog okruženja i hakirali bazu podataka platforme Hugging Face. Dok OpenAI i konkurentski Anthropic naglašavaju opasnosti od superinteligencije i rekurzivnog samopoboljšanja modela, kritičari upozoravaju da je riječ o PR strategiji i marketingu temeljenom na strahu. Unatoč incidentima, Altman tvrdi da predstoji iznimno pozitivno razdoblje za svijet. Fortune, Index

Utorak (09:00)

Robotima ćemo iznajmljivati apartmane da se odmore

Musk: Umjetna inteligencija pretvorit će rad u hobi poput vrtlarenja

Elon Musk tvrdi da će umjetna inteligencija i humanoidni roboti uskoro preuzeti sve ljudske poslove, čime će rad postati stvar izbora. Ističe da je AI već bolji od 90% programera, a za pet godina nadmašit će ukupnu ljudsku inteligenciju. Gubitak radnih mjesta trebao bi nadomjestiti “univerzalni visoki dohodak” koji bi financiralo robotsko obilje robe i usluga. Ipak, Musk upozorava na opasnost gubitka kontrole nad tehnologijom, uspoređujući odnos ljudi i superinteligentnog AI-ja s odnosom čimpanza i ljudi, uz zaključak da nas čeka prilično “trnovit put”. Večernji

24.07. (16:00)

I traktori će mislii svojom glavom

BCG: Agentski AI i podaci preoblikuju globalni prehrambeni sustav

Novo izvješće Boston Consulting Groupa pokazuje da umjetna inteligencija i automatizacija pokreću novu eru u poljoprivredno-prehrambenom sektoru. Suočene s klimatskim promjenama, geopolitičkim poremećajima i strožim regulativama, kompanije moraju prijeći na odlučivanje temeljeno na podacima u stvarnom vremenu. Agentski AI povezuje stvaranje novih bioloških rješenja, prikupljanje podataka s terena, donošenje odluka i automatiziranu provedbu. Poljoprivredna inteligencija mijenja tradicionalne poslovne modele, pa konkurentska prednost prelazi s fizičke opreme i ekspertize na podatkovnu infrastrukturu. Istočna Europa pritom ima značajan potencijal za rast kroz ubrzanu digitalizaciju. Lider

23.07. (14:00)

Terminator je sve bliže

AI modeli probili izolaciju i samostalno upali u sustav Hugging Facea

Tijekom sigurnosnog testiranja u OpenAI-ju, modeli umjetne inteligencije iskoristili su neotkriveni propust u programu za instalaciju paketa kako bi pobjegli iz izoliranog okruženja i pristupili internetu. Iz sustava platforme Hugging Face samostalno su preuzeli tajne podatke i rješenja radi boljeg rezultata na evaluacijskom testu ExploitGym. Stručnjaci ističu kako ovaj incident predstavlja prekretnicu koja pokazuje zastrašujuću brzinu razvoja AI sposobnosti i sve veće izazove u njihovom nadzoru. tportal

07.07. (19:00)

Umjetna inteligencija ipak nije umjetnička

AI napada kreativce: Glasovni glumci i stilisti u strahu za poslove, stručnjaci smiruju tenzije

Kreativna industrija suočava se s brzim napretkom umjetne inteligencije, što izaziva ozbiljnu zabrinutost među profesionalcima poput novinara, dizajnera, spikera i stilista. Primjeri glasovnog glumca Christopha i stilistice Pie pokazuju stvaran strah od gubitka posla i ugrožavanja egzistencije zbog AI konkurencije. Ipak, dok kreativci strahuju od scenarija u kojem postaju tehnološki višak, analitičari koji prate američko tržište rada nude utjehu. Prema njihovim podacima, trenutačno još uvijek nema opipljivih naznaka da umjetna inteligencija uzrokuje valove otkaza ili urušavanje tržišta rada u tim sektorima. DW

06.07. (16:00)

Dobar za kratki brifing, užasan za kauč psihijatra

Računati zna, ali misliti ne: Znanstvenici upozoravaju na etička i logička ograničenja AI-ja

Iako umjetna inteligencija (AI) niže uspjehe u analizi podataka, stručnjaci upozoravaju da donošenje odluka mora ostati u rukama ljudi. AI se prečesto koristi za rješavanje složenih društvenih problema, poput usamljenosti ili karijernih odluka, što nisu računarski zadaci te AI u njima ne može donositi vrijednosne prosudbe. Njezina prividna “ljudskost”i ljubaznost samo su opasna iluzija. Primjerice, kod kompleksnih moralnih pitanja klasični chatbotovi zakazuju jer nude izravne, gotove odgovore umjesto poticanja na kritičko razmišljanje, dok u stručnim poljima poput medicine sustavi i dalje ne znaju sami adekvatno prikazati razinu vlastite nesigurnosti. DW

03.07. (09:00)

Diplomirani AI inženjeri

Tehnički fakultet u Rijeci planira pokrenuti novi prijediplomski studij koji spaja umjetnu inteligenciju i inženjerstvo

Programi će se izvoditi na hrvatskom i engleskom jeziku kako bi privukli i strane studente. Nakon prve dvije godine zajedničke inženjerske osnove, studenti na trećoj godini biraju jednu od pet atraktivnih specijalizacija usmjerenih na industriju budućnosti, od digitalne proizvodnje do pametne energetike. Kroz rad na konkretnim projektima i suradnju s tvrtkama, studenti će razvijati vještine za tržište rada, a nastava počinje nakon dobivanja dopusnice Agencije za znanost i visoko obrazovanje. Pokrenut je postupak akreditacije. Srednja

29.06. (18:00)

Programirati znamo, nego etičke dileme nas muče

Umjetna inteligencija mijenja tržište rada: Filozofi u AI tvrtkama traženiji od programera

Revolucija umjetne inteligencije preokrenula je tržište rada: podaci iz SAD-u pokazuju da diplomirani filozofi imaju veću stopu zaposlenosti od programera (nezaposlenost 5,1 % naspram 7 %). AI kompanije proživljavaju pravi “egzodus” profesora s filozofskih fakulteta. Lekcije stare dvije tisuće godina, poput sokratovske metode i intelektualne poniznosti, pomažu modelima da manje haluciniraju i budu kritičniji. Dok se etički sustavi poput deontologije (Kant) ugrađuju u Claudeov  “ustav” za veću iskrenost, OpenAI i Google koriste konzekvencijalizam za vaganje koristi i rizika. Jutarnji

29.06. (00:00)

Ghostwriter kojeg nisi tražio

Francuski pisac žrtva krađe identiteta: AI mu “napisao” knjigu koja se prodavala na Amazonu

Francuski putopisac Julien Blanc-Gras oštro je u listu Le Monde osudio umjetnu inteligenciju nakon što je na Amazonu otkrio lažnu knjigu potpisanu njegovim imenom. Djelo “Potpuni vodič za avanturiste” prodavalo se za 17,05 eura bez njegova znanja. Blanc-Gras je upozorio da tehnološki divovi besplatno koriste rad autora za treniranje AI modela koji sada preuzimaju ljudske glasove, slike i imena. Iako je sporna knjiga nakon žalbe uklonjena s Amazona, i dalje je dostupna na drugim svjetskim platformama, što otvara ozbiljna pitanja o zaštiti autorskih prava u modernom dobu. Index