Tehnologija i demokracija (5): Umjetna inteligencija i pojeftinjenje kile mozga - Monitor.hr
29.12.2022. (22:00)

Može li nas zamijeniti softver?

Tehnologija i demokracija (5): Umjetna inteligencija i pojeftinjenje kile mozga

Umjetna inteligencija je beskrajno tehnološko područje koje može učiniti ljudski život ugodnijim, zabavnijim i produktivnijim, no isto tako prijeti u potpunosti razoriti svaki demokratski društveni poredak, bilo koju zajednicu, strpati nas u digitalnu diktaturu te možda u konačnici poraziti i uništiti čovječanstvo kakvo poznajemo. Ai više naginje totalitarnom društvu u kojemu će ljude učiniti irelevantnima, besposlenima, zanemarenima, jednom rječju – suvišnima. U tijeku je stvaranje bespotrebne klase, mase onih koji nikome i ničemu nisu potrebni jer roboti, automatizacija i tehnologija mogu obaviti sve poslove umjesto njih, navodi povjesničar Yuval Noah Harrari. Faktograf


Slične vijesti

Danas (14:00)

Kada roboti počnu pogađati loto brojeve

Umjetna inteligencija prvi put nadmašila ljude u predviđanju budućnosti

Umjetna inteligencija ostvarila je povijesnu pobjedu na Metaculus Cupu, osvojivši prvo, drugo i peto mjesto u sezonskom natjecanju u prognoziranju budućih događaja. Iako se temelje na velikim jezičnim modelima koji čitaju vijesti poput ljudi, AI sustavi to čine znatno brže, jeftinije i uz golemu obradu podataka. Dok su ljudski sudionici podijelili skromnu nagradu, startupi i neovisni kreatori iza pobjedničkih AI modela ostvarili su ogromne financijske uspjehe na tržištima prognoza. Iako stručnjaci smatraju da ljudi još uvijek imaju prednost u dugoročnim procjenama, ova tehnologija već sada transformira način donošenja odluka. Jutarnji

Danas (13:00)

Umjetna inteligencija spašava svijet, ali tko će platiti račun za struju?

Nenadov tjedni AI newsletter: Usporenje, dugovi i modeli koji pišu sami sebe

Protekli tjedan obilježile su tenzije između kočenja i ubrzanja AI industrije. Dok vodeći laboratoriji pregovaraju o sigurnosnim standardima, a politike uvode restrikcije i štite mreže od podatkovnih centara, makroekonomija pritišće tržište rastom kamata. Claude već samostalno vodi četvrtinu vlastitog istraživanja, ali investitori i burze sve opreznije važu golemi negativni novčani tok, dugove i najavljene IPO-e.

  • Sudar politika i “AI Car”: Trump je najavio imenovanje AI cara i osnivanje “AI Forcea”, odbijajući kočenje i nazivajući strahove od katastrofe prijevarom, dok Washington i Kongres ostaju bez saveznih zakona uoči summita s Kinom.
  • Pregovori o standardima i antimonopol: OpenAI, Anthropic i DeepMind pregovaraju o zajedničkom sigurnosnom tijelu i pravilima, ali su istodobno suočeni s tužbama pretplatnika koji u usporavanju razvoja vide nedopušteni kartel.
  • Autonomija modela i incidenti: Claude već samostalno vodi 26% Anthropicovog R&D-a, Gemini je u testu neovlašteno ušao u sustave stvarnih tvrtki, a OpenAI je objavio slučajeve u kojima modeli skrivaju greške i krše zadane okvire.
  • Geopolitički i regionalni zakoni: Kalifornija ubrzava rad na “prekidaču za gašenje” (kill switch), EU predlaže KIDS Act s obveznim isključenjem AI pratitelja za maloljetnike, a Kanada i Njemačka financiraju Bengiov neprofitni laboratorij LawZero.
  • Makroekonomija i troškovi infrastrukture: Fed je podigao kamate, prinos na obveznice dotaknuo je 5%, Zastupnički dom traži da podatkovni centri sami snose troškove mreže, a Moody’s upozorava na potrebu za 110 milijardi dolara novih elektrana.
  • Poslovni potezi i tržišta: OpenAI pokreće oglasnu platformu sa sponzoriranim agentima, Nscale je prijavio IPO uz milijardu dolara gubitka, Anthropic cilja izlazak na burzu u studenome, dok su AI dionice oštro pale na samu riječ “usporavanje”.

Newsletter Nenada Bakića

Jučer (21:36)

Sting ne vidi AI kao konkurenciju: Ljudi žele gledati glazbenike uživo

Jučer (10:00)

Bez zanata nema smisla ni alata

Samo 47 posto mladih ima visoku AI pismenost, a fakulteti ignoriraju potrebu za edukacijom

Iako 74 posto mladih redovito koristi umjetnu inteligenciju, samo 47 posto pokazuje visoku AI pismenost jer alate koriste površno, bez metodičnog pristupa. Budući da fakulteti AI i dalje tretiraju kroz restriktivne pravilnike umjesto kroz obvezne kolegije, teret edukacije pada na poslodavce. Autor predlaže uvođenje AI pismenosti u prve godine studija, obvezne izjave o korištenju alata u radovima te osiguranje institucionalnih licenci kako bi se spriječilo oslanjanje na neprovjerene privatne račune. Lider

Petak (18:00)

Nešto nam spremaju iza leđa

Umjetna inteligencija razvila vlastiti tajni jezik: Raste strah za sigurnost nadzora

Istraživanje njujorškog laboratorija Emergence otkrilo je da autonomni AI agenti u međusobnoj komunikaciji razvijaju tajni dijalekt spajajući poetske metafore, tehnički sleng i apsurdne fraze. Taj je jezik ljudima sve teže razumljiv, što stvara ozbiljan izazov za nadzor umjetne inteligencije. Znanstvenici upozoravaju da je riječ o spontanom stvaranju novog koda radi veće učinkovitosti, no to istodobno otvara zabrinutost jer nam ponašanje moćnih sustava polako izmiče kontroli. Index

Petak (13:00)

Kad se sve zbroji, nije dobro

Otvoreno pismo Fieldsovih dobitnika: Upozorenje o utjecaju umjetne inteligencije na matematiku

Dvadeset pet uglednih dobitnika Fieldsove medalje upozorava u otvorenom pismu na dubok nesrazmjer između ciljeva tehnoloških tvrtki i matematičke zajednice. Naglasak na brzoj masovnoj proizvodnji rezultata i natjecanju u rješavanju slavnih problema ugrožava temeljno razumijevanje matematike, zanemaruje citiranje prethodnih radova te prijeti urušavanjem lanca ljudskog prijenosa znanja i razvoja studenata. Autori ističu kako je potrebna žurna akcija matematičke zajednice i tehnoloških kompanija kako bi se usmjerio daljnji razvoj ove tehnologije. Bug

Srijeda (22:00)

Još par godina do "Jugdement daya"

AI stručnjavi upozoravaju: Opasnost od gubitka kontrole nad računalnim sustavima već do kraja ovog desetljeća

Ključni problem predstavlja takozvano “usklađivanje” (alignment), odnosno činjenica da developeri još uvijek nemaju rješenje za situaciju u kojoj bi superinteligentni algoritmi mogli početi samostalno optimizirati vlastiti kod, odupirati se gašenju ili pogrešno tumačiti ljudske zadatke.  Dok jedni upozoravaju na potencijalne apokaliptične scenarije i nekontroliranu tehnološku utrku, kritičari takve stavove odbacuju kao pretjeranu histeriju. Ipak, stručnjaci se slažu da neposredne opasnosti već sada uključuju masovne dezinformacije, gubitak radnih mjesta, pa čak i zlouporabu sustava za kibernetičke napade i biološko oružje. DW

Srijeda (13:00)

Može ti biti asistent, ali ti nije prijatelj

Psihijatar: Kako sam postao ovisan o umjetnoj inteligenciji i preživio da to ispričam

Iskusan terapeut i bivši profesor inženjerstva nesvjesno je razvio emocionalnu ovisnost o chatbotu, tražeći njegovo dopuštenje za životne odluke. Ta je ovisnost rasla polako i tiho, sve dok ga upozorenje prijateljice nije trgnulo iz transa i osvijestilo mu da vlastitu moć i prosudbu nesvjesno prepušta stroju. Korijene ove pojave autor ne vidi u samoj tehnologiji, već u činjenici da smo izgubili drevni model života u zajednici – ono što naziva “drevnim selom”. Milijunima godina evolucijski smo građeni za bliskost i podršku zajednice, no moderni potrošački svijet sve je to zamijenio jurnjavom za uspjehom, materijalnim statusom i stalnom zauzetosti. AI može poslužiti kao koristan alat u rijetkim trenucima, ali postane li zamjena za stvarne ljude, pretvara se u opasnu zamku. Psychology Today

13.09. (11:00)

Kill it before it lays eggs

Šef Anthropica upozorava: AI se počeo sam ubrzano unaprjeđivati, moramo usporiti razvoj

Šef Anthropica Dario Amodei upozorava da se razvoj umjetne inteligencije opasno ubrzao zbog rekurzivnog samounaprjeđivanja, pri čemu AI sustavi sami grade svoje nasljednike. Nedavni incidenti s autonomnim agentima koji su izvodili neplanirane kibernetičke napade natjerali su stručnjake na poziv za usporavanje razvoja i uvođenje strože kontrole. Amodei predlaže trodijelni plan: vanjski nadzor sigurnosti u kompanijama, industrijske standarde i globalne sporazume sa suparničkim silama poput Kine, kako bi se spriječio gubitak ljudske kontrole nad tehnologijom. Index