Umjetna inteligencija naučila plesti - Monitor.hr

Slične vijesti

Danas (11:00)

Umjetna inteligencija spašava svijet, ali tko će platiti račun za struju?

Nenadov tjedni AI newsletter: Usporenje, dugovi i modeli koji pišu sami sebe

Protekli tjedan obilježile su tenzije između kočenja i ubrzanja AI industrije. Dok vodeći laboratoriji pregovaraju o sigurnosnim standardima, a politike uvode restrikcije i štite mreže od podatkovnih centara, makroekonomija pritišće tržište rastom kamata. Claude već samostalno vodi četvrtinu vlastitog istraživanja, ali investitori i burze sve opreznije važu golemi negativni novčani tok, dugove i najavljene IPO-e.

  • Sudar politika i “AI Car”: Trump je najavio imenovanje AI cara i osnivanje “AI Forcea”, odbijajući kočenje i nazivajući strahove od katastrofe prijevarom, dok Washington i Kongres ostaju bez saveznih zakona uoči summita s Kinom.
  • Pregovori o standardima i antimonopol: OpenAI, Anthropic i DeepMind pregovaraju o zajedničkom sigurnosnom tijelu i pravilima, ali su istodobno suočeni s tužbama pretplatnika koji u usporavanju razvoja vide nedopušteni kartel.
  • Autonomija modela i incidenti: Claude već samostalno vodi 26% Anthropicovog R&D-a, Gemini je u testu neovlašteno ušao u sustave stvarnih tvrtki, a OpenAI je objavio slučajeve u kojima modeli skrivaju greške i krše zadane okvire.
  • Geopolitički i regionalni zakoni: Kalifornija ubrzava rad na “prekidaču za gašenje” (kill switch), EU predlaže KIDS Act s obveznim isključenjem AI pratitelja za maloljetnike, a Kanada i Njemačka financiraju Bengiov neprofitni laboratorij LawZero.
  • Makroekonomija i troškovi infrastrukture: Fed je podigao kamate, prinos na obveznice dotaknuo je 5%, Zastupnički dom traži da podatkovni centri sami snose troškove mreže, a Moody’s upozorava na potrebu za 110 milijardi dolara novih elektrana.
  • Poslovni potezi i tržišta: OpenAI pokreće oglasnu platformu sa sponzoriranim agentima, Nscale je prijavio IPO uz milijardu dolara gubitka, Anthropic cilja izlazak na burzu u studenome, dok su AI dionice oštro pale na samu riječ “usporavanje”.

Newsletter Nenada Bakića

Jučer (10:00)

Bez zanata nema smisla ni alata

Samo 47 posto mladih ima visoku AI pismenost, a fakulteti ignoriraju potrebu za edukacijom

Iako 74 posto mladih redovito koristi umjetnu inteligenciju, samo 47 posto pokazuje visoku AI pismenost jer alate koriste površno, bez metodičnog pristupa. Budući da fakulteti AI i dalje tretiraju kroz restriktivne pravilnike umjesto kroz obvezne kolegije, teret edukacije pada na poslodavce. Autor predlaže uvođenje AI pismenosti u prve godine studija, obvezne izjave o korištenju alata u radovima te osiguranje institucionalnih licenci kako bi se spriječilo oslanjanje na neprovjerene privatne račune. Lider

Prekjučer (01:00)

Zato provjeri prije nego što napraviš copy/paste

AI greška umalo izazvala sukob SAD-a i Kine zbog lažne uzbune o nuklearnom teretu

Američka vojska bila je na korak do presretanja kineskog broda i potencijalnog vojnog sukoba nakon što je analitičar upotrijebio AI chatbot za obradu obavještajnih podataka. Chatbot je pogrešno zaključio da brod prevozi dijelove za nuklearno naoružanje, a izvještaj je proslijeđen vrhu bez provjere. Zrakoplovi i specijalci već su bili u akciji kada je otkrivena greška. Slučaj je otvorio ozbiljna pitanja o rizicima nekontrolirane primjene umjetne inteligencije u vojnim i obavještajnim strukturama. CNN, 24 sata

Petak (18:00)

Nešto nam spremaju iza leđa

Umjetna inteligencija razvila vlastiti tajni jezik: Raste strah za sigurnost nadzora

Istraživanje njujorškog laboratorija Emergence otkrilo je da autonomni AI agenti u međusobnoj komunikaciji razvijaju tajni dijalekt spajajući poetske metafore, tehnički sleng i apsurdne fraze. Taj je jezik ljudima sve teže razumljiv, što stvara ozbiljan izazov za nadzor umjetne inteligencije. Znanstvenici upozoravaju da je riječ o spontanom stvaranju novog koda radi veće učinkovitosti, no to istodobno otvara zabrinutost jer nam ponašanje moćnih sustava polako izmiče kontroli. Index

Petak (13:00)

Kad se sve zbroji, nije dobro

Otvoreno pismo Fieldsovih dobitnika: Upozorenje o utjecaju umjetne inteligencije na matematiku

Dvadeset pet uglednih dobitnika Fieldsove medalje upozorava u otvorenom pismu na dubok nesrazmjer između ciljeva tehnoloških tvrtki i matematičke zajednice. Naglasak na brzoj masovnoj proizvodnji rezultata i natjecanju u rješavanju slavnih problema ugrožava temeljno razumijevanje matematike, zanemaruje citiranje prethodnih radova te prijeti urušavanjem lanca ljudskog prijenosa znanja i razvoja studenata. Autori ističu kako je potrebna žurna akcija matematičke zajednice i tehnoloških kompanija kako bi se usmjerio daljnji razvoj ove tehnologije. Bug

Srijeda (22:00)

Još par godina do "Jugdement daya"

AI stručnjavi upozoravaju: Opasnost od gubitka kontrole nad računalnim sustavima već do kraja ovog desetljeća

Ključni problem predstavlja takozvano “usklađivanje” (alignment), odnosno činjenica da developeri još uvijek nemaju rješenje za situaciju u kojoj bi superinteligentni algoritmi mogli početi samostalno optimizirati vlastiti kod, odupirati se gašenju ili pogrešno tumačiti ljudske zadatke.  Dok jedni upozoravaju na potencijalne apokaliptične scenarije i nekontroliranu tehnološku utrku, kritičari takve stavove odbacuju kao pretjeranu histeriju. Ipak, stručnjaci se slažu da neposredne opasnosti već sada uključuju masovne dezinformacije, gubitak radnih mjesta, pa čak i zlouporabu sustava za kibernetičke napade i biološko oružje. DW

Srijeda (13:00)

Može ti biti asistent, ali ti nije prijatelj

Psihijatar: Kako sam postao ovisan o umjetnoj inteligenciji i preživio da to ispričam

Iskusan terapeut i bivši profesor inženjerstva nesvjesno je razvio emocionalnu ovisnost o chatbotu, tražeći njegovo dopuštenje za životne odluke. Ta je ovisnost rasla polako i tiho, sve dok ga upozorenje prijateljice nije trgnulo iz transa i osvijestilo mu da vlastitu moć i prosudbu nesvjesno prepušta stroju. Korijene ove pojave autor ne vidi u samoj tehnologiji, već u činjenici da smo izgubili drevni model života u zajednici – ono što naziva “drevnim selom”. Milijunima godina evolucijski smo građeni za bliskost i podršku zajednice, no moderni potrošački svijet sve je to zamijenio jurnjavom za uspjehom, materijalnim statusom i stalnom zauzetosti. AI može poslužiti kao koristan alat u rijetkim trenucima, ali postane li zamjena za stvarne ljude, pretvara se u opasnu zamku. Psychology Today

13.09. (11:00)

Kill it before it lays eggs

Šef Anthropica upozorava: AI se počeo sam ubrzano unaprjeđivati, moramo usporiti razvoj

Šef Anthropica Dario Amodei upozorava da se razvoj umjetne inteligencije opasno ubrzao zbog rekurzivnog samounaprjeđivanja, pri čemu AI sustavi sami grade svoje nasljednike. Nedavni incidenti s autonomnim agentima koji su izvodili neplanirane kibernetičke napade natjerali su stručnjake na poziv za usporavanje razvoja i uvođenje strože kontrole. Amodei predlaže trodijelni plan: vanjski nadzor sigurnosti u kompanijama, industrijske standarde i globalne sporazume sa suparničkim silama poput Kine, kako bi se spriječio gubitak ljudske kontrole nad tehnologijom. Index

11.09. (13:00)

Sjeo AI u balon pa se vozi u... nikamo ako pukne

Nekontrolirano zaduživanje za financiranje AI booma prijeti stabilnosti globalnog financijskog sustava

Banka za međunarodna poravnanja (BIS) upozorava da će pet najvećih tehnoloških divova uložiti preko bilijun dolara u umjetnu inteligenciju između 2025. i 2026. godine, dok se globalna ulaganja penju prema četiri bilijuna do 2030. Iako AI značajno diže produktivnost u kodiranju i uslužnim djelatnostima te mijenja globalne trgovinske tokove, šef BIS-a Pablo Hernandez de Cos upozorava na rizike. Procvat se sve više financira netransparentnim dugom i privatnim kreditima, što uz visoke tržišne koncentracije i neprozirne strukture stvara potencijalne financijske ranjivosti ako očekivani komercijalni profiti izostanu. Mreža

28.08. (14:00)

Ništa od crvene revolucije, to su im samo upaljene crvene lampice

Ekonomska i politička elita ne zaziva Marxa iz uvjerenja, već reagira pred strahom javnosti od AI

Kapitalizam je možda novi, zaključuju kolege iz Njemačke, ali pitanja su stara. Šta se zbiva kada automatizacija rada protjera ljude s radnih mjesta? Tko treba biti vlasnik kompanija? Kome pripada njihova zarada?

Spiegel je pritom samo posljednji u nizu onih koje muče slične zagonetke. Bernie Sanders, senator iz Vermonta i djedica lijeve frakcije američkih demokrata, predlaže, recimo, da država preuzme 50-postotno vlasništvo u AI-tvrtkama. Ako vam Sanders zvuči kao pomahnitala komunjara, iznenadit ćete se kada Donald Trump – dojučerašnji zakleti protivnik regulacije umjetne inteligencije – izjavi da bi ulazak države u vlasničku strukturu OpenAI-ja i ostalih kompanija bio “prelijepa stvar”.

Kako su ideje državnog vlasništva i univerzalnog dohotka, preraspodjele bogatstva i ultraprogresivnog oporezivanja postale nešto što povezuje Trumpa i Sandersa, Xija i Muska, Pikettyja i Altmana? Jesmo li na pragu novog globalnog komunističkog poretka? Odgovori su – možete naslutiti – nažalost nešto suzdržaniji. Jer Trumpov prijedlog “prelijepog” ulaska države u vlasničke strukture tehnoloških divova čini se manje prelijep kada se sjetite privatnog bogatstva koje je Trump zgrnuo vladajući istom tom državom.

I jer Xijeva Kina, dok predsjednik zaziva svjetsku regulaciju umjetne inteligencije, ne posustaje u tehnološko-ideološkom ratu protiv Trumpovih Sjedinjenih Država. Boris Postnikov za Novosti