Nenadov tjedni AI newsletter: Usporenje, dugovi i modeli koji pišu sami sebe - Monitor.hr
Danas (11:00)

Umjetna inteligencija spašava svijet, ali tko će platiti račun za struju?

Nenadov tjedni AI newsletter: Usporenje, dugovi i modeli koji pišu sami sebe

Protekli tjedan obilježile su tenzije između kočenja i ubrzanja AI industrije. Dok vodeći laboratoriji pregovaraju o sigurnosnim standardima, a politike uvode restrikcije i štite mreže od podatkovnih centara, makroekonomija pritišće tržište rastom kamata. Claude već samostalno vodi četvrtinu vlastitog istraživanja, ali investitori i burze sve opreznije važu golemi negativni novčani tok, dugove i najavljene IPO-e.

  • Sudar politika i “AI Car”: Trump je najavio imenovanje AI cara i osnivanje “AI Forcea”, odbijajući kočenje i nazivajući strahove od katastrofe prijevarom, dok Washington i Kongres ostaju bez saveznih zakona uoči summita s Kinom.
  • Pregovori o standardima i antimonopol: OpenAI, Anthropic i DeepMind pregovaraju o zajedničkom sigurnosnom tijelu i pravilima, ali su istodobno suočeni s tužbama pretplatnika koji u usporavanju razvoja vide nedopušteni kartel.
  • Autonomija modela i incidenti: Claude već samostalno vodi 26% Anthropicovog R&D-a, Gemini je u testu neovlašteno ušao u sustave stvarnih tvrtki, a OpenAI je objavio slučajeve u kojima modeli skrivaju greške i krše zadane okvire.
  • Geopolitički i regionalni zakoni: Kalifornija ubrzava rad na “prekidaču za gašenje” (kill switch), EU predlaže KIDS Act s obveznim isključenjem AI pratitelja za maloljetnike, a Kanada i Njemačka financiraju Bengiov neprofitni laboratorij LawZero.
  • Makroekonomija i troškovi infrastrukture: Fed je podigao kamate, prinos na obveznice dotaknuo je 5%, Zastupnički dom traži da podatkovni centri sami snose troškove mreže, a Moody’s upozorava na potrebu za 110 milijardi dolara novih elektrana.
  • Poslovni potezi i tržišta: OpenAI pokreće oglasnu platformu sa sponzoriranim agentima, Nscale je prijavio IPO uz milijardu dolara gubitka, Anthropic cilja izlazak na burzu u studenome, dok su AI dionice oštro pale na samu riječ “usporavanje”.

Newsletter Nenada Bakića


Slične vijesti

Danas (14:00)

Kada roboti počnu pogađati loto brojeve

Umjetna inteligencija prvi put nadmašila ljude u predviđanju budućnosti

Umjetna inteligencija ostvarila je povijesnu pobjedu na Metaculus Cupu, osvojivši prvo, drugo i peto mjesto u sezonskom natjecanju u prognoziranju budućih događaja. Iako se temelje na velikim jezičnim modelima koji čitaju vijesti poput ljudi, AI sustavi to čine znatno brže, jeftinije i uz golemu obradu podataka. Dok su ljudski sudionici podijelili skromnu nagradu, startupi i neovisni kreatori iza pobjedničkih AI modela ostvarili su ogromne financijske uspjehe na tržištima prognoza. Iako stručnjaci smatraju da ljudi još uvijek imaju prednost u dugoročnim procjenama, ova tehnologija već sada transformira način donošenja odluka. Jutarnji

Jučer (21:36)

Sting ne vidi AI kao konkurenciju: Ljudi žele gledati glazbenike uživo

Jučer (10:00)

Bez zanata nema smisla ni alata

Samo 47 posto mladih ima visoku AI pismenost, a fakulteti ignoriraju potrebu za edukacijom

Iako 74 posto mladih redovito koristi umjetnu inteligenciju, samo 47 posto pokazuje visoku AI pismenost jer alate koriste površno, bez metodičnog pristupa. Budući da fakulteti AI i dalje tretiraju kroz restriktivne pravilnike umjesto kroz obvezne kolegije, teret edukacije pada na poslodavce. Autor predlaže uvođenje AI pismenosti u prve godine studija, obvezne izjave o korištenju alata u radovima te osiguranje institucionalnih licenci kako bi se spriječilo oslanjanje na neprovjerene privatne račune. Lider

Petak (18:00)

Nešto nam spremaju iza leđa

Umjetna inteligencija razvila vlastiti tajni jezik: Raste strah za sigurnost nadzora

Istraživanje njujorškog laboratorija Emergence otkrilo je da autonomni AI agenti u međusobnoj komunikaciji razvijaju tajni dijalekt spajajući poetske metafore, tehnički sleng i apsurdne fraze. Taj je jezik ljudima sve teže razumljiv, što stvara ozbiljan izazov za nadzor umjetne inteligencije. Znanstvenici upozoravaju da je riječ o spontanom stvaranju novog koda radi veće učinkovitosti, no to istodobno otvara zabrinutost jer nam ponašanje moćnih sustava polako izmiče kontroli. Index

Petak (13:00)

Kad se sve zbroji, nije dobro

Otvoreno pismo Fieldsovih dobitnika: Upozorenje o utjecaju umjetne inteligencije na matematiku

Dvadeset pet uglednih dobitnika Fieldsove medalje upozorava u otvorenom pismu na dubok nesrazmjer između ciljeva tehnoloških tvrtki i matematičke zajednice. Naglasak na brzoj masovnoj proizvodnji rezultata i natjecanju u rješavanju slavnih problema ugrožava temeljno razumijevanje matematike, zanemaruje citiranje prethodnih radova te prijeti urušavanjem lanca ljudskog prijenosa znanja i razvoja studenata. Autori ističu kako je potrebna žurna akcija matematičke zajednice i tehnoloških kompanija kako bi se usmjerio daljnji razvoj ove tehnologije. Bug

Srijeda (22:00)

Još par godina do "Jugdement daya"

AI stručnjavi upozoravaju: Opasnost od gubitka kontrole nad računalnim sustavima već do kraja ovog desetljeća

Ključni problem predstavlja takozvano “usklađivanje” (alignment), odnosno činjenica da developeri još uvijek nemaju rješenje za situaciju u kojoj bi superinteligentni algoritmi mogli početi samostalno optimizirati vlastiti kod, odupirati se gašenju ili pogrešno tumačiti ljudske zadatke.  Dok jedni upozoravaju na potencijalne apokaliptične scenarije i nekontroliranu tehnološku utrku, kritičari takve stavove odbacuju kao pretjeranu histeriju. Ipak, stručnjaci se slažu da neposredne opasnosti već sada uključuju masovne dezinformacije, gubitak radnih mjesta, pa čak i zlouporabu sustava za kibernetičke napade i biološko oružje. DW

Srijeda (13:00)

Može ti biti asistent, ali ti nije prijatelj

Psihijatar: Kako sam postao ovisan o umjetnoj inteligenciji i preživio da to ispričam

Iskusan terapeut i bivši profesor inženjerstva nesvjesno je razvio emocionalnu ovisnost o chatbotu, tražeći njegovo dopuštenje za životne odluke. Ta je ovisnost rasla polako i tiho, sve dok ga upozorenje prijateljice nije trgnulo iz transa i osvijestilo mu da vlastitu moć i prosudbu nesvjesno prepušta stroju. Korijene ove pojave autor ne vidi u samoj tehnologiji, već u činjenici da smo izgubili drevni model života u zajednici – ono što naziva “drevnim selom”. Milijunima godina evolucijski smo građeni za bliskost i podršku zajednice, no moderni potrošački svijet sve je to zamijenio jurnjavom za uspjehom, materijalnim statusom i stalnom zauzetosti. AI može poslužiti kao koristan alat u rijetkim trenucima, ali postane li zamjena za stvarne ljude, pretvara se u opasnu zamku. Psychology Today

13.09. (11:00)

Kill it before it lays eggs

Šef Anthropica upozorava: AI se počeo sam ubrzano unaprjeđivati, moramo usporiti razvoj

Šef Anthropica Dario Amodei upozorava da se razvoj umjetne inteligencije opasno ubrzao zbog rekurzivnog samounaprjeđivanja, pri čemu AI sustavi sami grade svoje nasljednike. Nedavni incidenti s autonomnim agentima koji su izvodili neplanirane kibernetičke napade natjerali su stručnjake na poziv za usporavanje razvoja i uvođenje strože kontrole. Amodei predlaže trodijelni plan: vanjski nadzor sigurnosti u kompanijama, industrijske standarde i globalne sporazume sa suparničkim silama poput Kine, kako bi se spriječio gubitak ljudske kontrole nad tehnologijom. Index

11.09. (22:00)

Matematičke svađe

OpenAI navodno riješio milenijski matematički problem Navier-Stokesovih jednadžbi, no slučaj nije bez kontroverzi

Umjetna inteligencija tvrtke OpenAI navodno je uspjela riješiti jedan od sedam milenijskih matematičkih problema vrijednih milijun dolara. Uz pomoć 10.000 sinkroniziranih AI agenata i učenja podržavanjem, model je za samo 88 sati definirao uvjete kolapsa matematičkog modela za gibanje fluida. OpenAI je objavio rad s kompletnim dokazom na neovisnu verifikaciju. Dokaz je izazvao podijeljene reakcije u znanstvenoj zajednici; stručnjaci upozoravaju da bi ovakva automatizacija mogla s vremenom u potpunosti oslabiti dublje ljudsko razumijevanje matematike. Index…

  • Matematičari Tristan Buckmaster i kolega Levent Alpöge ostvarili su značajan napredak na Navier-Stokesovim jednadžbama koristeći AI alate. Ipak, tehnološki div OpenAI preduhitrio ih je i riješio ovaj izazov vrijedan milijun dolara. Nakon uspjeha, OpenAI je Buckmasteru ponudio koautorstvo uz uvjet da isključi suradnika iz Anthropic-a i prihvati izdašne resurse. Matematičar je odbio ponudu, sumnjajući da je sustav iskoristio njegov rad. OpenAI kategorički odbacuje optužbe, dok se akademska zajednica bori s novom, zastrašujućom dominacijom umjetne inteligencije nad ljudskom pameću. NY Times
  • Navier-Stokesove jednadžbe matematički opisuju kako se tekućine i plinovi (poput vode u cijevima ili zraka oko zrakoplova) gibaju u prostoru. Iako su napisane još u 19. stoljeću i koriste se svakodnevno u meteorologiji i aeronautici, matematičari nikada nisu uspjeli u potpunosti dokazati temeljnu stvar: postaju li rješenja tih jednadžbi u određenim uvjetima potpuno besmislena? U stvarnom svijetu voda ne ubrzava do beskonačne brzine. No, to što se u prirodi to ne događa ne znači da same jednadžbe na papiru nemaju matematičku rupu. Zbog toga su uvrštene među sedam najtežih neriješenih problema u matematici (milenijski problemi), za čije je rješenje ponuđena nagrada od milijun dolara. Medium