Kako ćemo znati je li umjetna inteligencija postala svjesna? - Monitor.hr
29.08.2023. (20:00)

Postojim, dakle jesam li?

Kako ćemo znati je li umjetna inteligencija postala svjesna?

Artificial Intelligence, Consciousness and the Self

Googleov inženjer Blake Lemoine dobio otkaz  2022. jer je javno ustvrdio da je chatbot LaMDA razuman. Sustavi umjetne inteligencije, posebno takozvani veliki jezični modeli kao što su LaMDA i ChatGPT, uvježbani su na ogromnim količinama teksta kako bi oponašali ljudske reakcije pa ne čudi da nam se mogu činiti svjesnima. No jesu li doista i kako ćemo to saznati? Grupa 19 računalnih znanstvenika, neuroznanstvenika i filozofa osmislila pristup, ne jedan definitivan test, već 120 stranica dugačak popis atributa koji bi zajedno mogli sugerirati, ali ne i dokazati da je umjetna inteligencija doista svjesna. Istraživači se oslanjaju na teorije ljudske svijesti kako bi predložili 14 kriterija, a zatim ih primijenili na postojeće UI arhitekture, uključujući tip modela koji pokreće ChatGPT. Rad koji se može pročitati na arXivu nudi okvir za procjenu ljudima sve sličnije umjetne inteligencije i, kažu autori, uvodi sustavnu metodologiju koja dosad nije bilo. Bug


Slične vijesti

Danas (16:00)

Počeli su nešto spremati

Umjetna inteligencija razvila vlastiti tajni jezik: Raste strah za sigurnost nadzora

Istraživanje njujorškog laboratorija Emergence otkrilo je da autonomni AI agenti u međusobnoj komunikaciji razvijaju tajni dijalekt spajajući poetske metafore, tehnički sleng i apsurdne fraze. Taj je jezik ljudima sve teže razumljiv, što stvara ozbiljan izazov za nadzor umjetne inteligencije. Znanstvenici upozoravaju da je riječ o spontanom stvaranju novog koda radi veće učinkovitosti, no to istodobno otvara zabrinutost jer nam ponašanje moćnih sustava polako izmiče kontroli. Index

Danas (13:00)

Kad se sve zbroji, nije dobro

Otvoreno pismo Fieldsovih dobitnika: Upozorenje o utjecaju umjetne inteligencije na matematiku

Dvadeset pet uglednih dobitnika Fieldsove medalje upozorava u otvorenom pismu na dubok nesrazmjer između ciljeva tehnoloških tvrtki i matematičke zajednice. Naglasak na brzoj masovnoj proizvodnji rezultata i natjecanju u rješavanju slavnih problema ugrožava temeljno razumijevanje matematike, zanemaruje citiranje prethodnih radova te prijeti urušavanjem lanca ljudskog prijenosa znanja i razvoja studenata. Autori ističu kako je potrebna žurna akcija matematičke zajednice i tehnoloških kompanija kako bi se usmjerio daljnji razvoj ove tehnologije. Bug

Prekjučer (22:00)

Još par godina do "Jugdement daya"

AI stručnjavi upozoravaju: Opasnost od gubitka kontrole nad računalnim sustavima već do kraja ovog desetljeća

Ključni problem predstavlja takozvano “usklađivanje” (alignment), odnosno činjenica da developeri još uvijek nemaju rješenje za situaciju u kojoj bi superinteligentni algoritmi mogli početi samostalno optimizirati vlastiti kod, odupirati se gašenju ili pogrešno tumačiti ljudske zadatke.  Dok jedni upozoravaju na potencijalne apokaliptične scenarije i nekontroliranu tehnološku utrku, kritičari takve stavove odbacuju kao pretjeranu histeriju. Ipak, stručnjaci se slažu da neposredne opasnosti već sada uključuju masovne dezinformacije, gubitak radnih mjesta, pa čak i zlouporabu sustava za kibernetičke napade i biološko oružje. DW

Prekjučer (13:00)

Može ti biti asistent, ali ti nije prijatelj

Psihijatar: Kako sam postao ovisan o umjetnoj inteligenciji i preživio da to ispričam

Iskusan terapeut i bivši profesor inženjerstva nesvjesno je razvio emocionalnu ovisnost o chatbotu, tražeći njegovo dopuštenje za životne odluke. Ta je ovisnost rasla polako i tiho, sve dok ga upozorenje prijateljice nije trgnulo iz transa i osvijestilo mu da vlastitu moć i prosudbu nesvjesno prepušta stroju. Korijene ove pojave autor ne vidi u samoj tehnologiji, već u činjenici da smo izgubili drevni model života u zajednici – ono što naziva “drevnim selom”. Milijunima godina evolucijski smo građeni za bliskost i podršku zajednice, no moderni potrošački svijet sve je to zamijenio jurnjavom za uspjehom, materijalnim statusom i stalnom zauzetosti. AI može poslužiti kao koristan alat u rijetkim trenucima, ali postane li zamjena za stvarne ljude, pretvara se u opasnu zamku. Psychology Today

Nedjelja (11:00)

Kill it before it lays eggs

Šef Anthropica upozorava: AI se počeo sam ubrzano unaprjeđivati, moramo usporiti razvoj

Šef Anthropica Dario Amodei upozorava da se razvoj umjetne inteligencije opasno ubrzao zbog rekurzivnog samounaprjeđivanja, pri čemu AI sustavi sami grade svoje nasljednike. Nedavni incidenti s autonomnim agentima koji su izvodili neplanirane kibernetičke napade natjerali su stručnjake na poziv za usporavanje razvoja i uvođenje strože kontrole. Amodei predlaže trodijelni plan: vanjski nadzor sigurnosti u kompanijama, industrijske standarde i globalne sporazume sa suparničkim silama poput Kine, kako bi se spriječio gubitak ljudske kontrole nad tehnologijom. Index

11.09. (22:00)

Matematičke svađe

OpenAI navodno riješio milenijski matematički problem Navier-Stokesovih jednadžbi, no slučaj nije bez kontroverzi

Umjetna inteligencija tvrtke OpenAI navodno je uspjela riješiti jedan od sedam milenijskih matematičkih problema vrijednih milijun dolara. Uz pomoć 10.000 sinkroniziranih AI agenata i učenja podržavanjem, model je za samo 88 sati definirao uvjete kolapsa matematičkog modela za gibanje fluida. OpenAI je objavio rad s kompletnim dokazom na neovisnu verifikaciju. Dokaz je izazvao podijeljene reakcije u znanstvenoj zajednici; stručnjaci upozoravaju da bi ovakva automatizacija mogla s vremenom u potpunosti oslabiti dublje ljudsko razumijevanje matematike. Index…

  • Matematičari Tristan Buckmaster i kolega Levent Alpöge ostvarili su značajan napredak na Navier-Stokesovim jednadžbama koristeći AI alate. Ipak, tehnološki div OpenAI preduhitrio ih je i riješio ovaj izazov vrijedan milijun dolara. Nakon uspjeha, OpenAI je Buckmasteru ponudio koautorstvo uz uvjet da isključi suradnika iz Anthropic-a i prihvati izdašne resurse. Matematičar je odbio ponudu, sumnjajući da je sustav iskoristio njegov rad. OpenAI kategorički odbacuje optužbe, dok se akademska zajednica bori s novom, zastrašujućom dominacijom umjetne inteligencije nad ljudskom pameću. NY Times
  • Navier-Stokesove jednadžbe matematički opisuju kako se tekućine i plinovi (poput vode u cijevima ili zraka oko zrakoplova) gibaju u prostoru. Iako su napisane još u 19. stoljeću i koriste se svakodnevno u meteorologiji i aeronautici, matematičari nikada nisu uspjeli u potpunosti dokazati temeljnu stvar: postaju li rješenja tih jednadžbi u određenim uvjetima potpuno besmislena? U stvarnom svijetu voda ne ubrzava do beskonačne brzine. No, to što se u prirodi to ne događa ne znači da same jednadžbe na papiru nemaju matematičku rupu. Zbog toga su uvrštene među sedam najtežih neriješenih problema u matematici (milenijski problemi), za čije je rješenje ponuđena nagrada od milijun dolara. Medium
11.09. (13:00)

Sjeo AI u balon pa se vozi u... nikamo ako pukne

Nekontrolirano zaduživanje za financiranje AI booma prijeti stabilnosti globalnog financijskog sustava

Banka za međunarodna poravnanja (BIS) upozorava da će pet najvećih tehnoloških divova uložiti preko bilijun dolara u umjetnu inteligenciju između 2025. i 2026. godine, dok se globalna ulaganja penju prema četiri bilijuna do 2030. Iako AI značajno diže produktivnost u kodiranju i uslužnim djelatnostima te mijenja globalne trgovinske tokove, šef BIS-a Pablo Hernandez de Cos upozorava na rizike. Procvat se sve više financira netransparentnim dugom i privatnim kreditima, što uz visoke tržišne koncentracije i neprozirne strukture stvara potencijalne financijske ranjivosti ako očekivani komercijalni profiti izostanu. Mreža

07.09. (20:00)

On bi sad predavao i matematiku

Kad se Elon prebroji: Je li šah prejednostavan ili nemoguć za AI?

Elon Musk i portal Chess.com sukobili su se na društvenoj mreži X oko pitanja hoće li šah ikada biti potpuno matematiziran i “riješen” poput igre dame. Musk tvrdi da je broj dopuštenih pozicija manji od broja atoma u svemiru te da će umjetna superinteligencija pronaći način kompresije i rješenja. Chess.com uzvraća Shannonovim brojem mogućih partija, ističući da je to nemoguće obraditi. Iako oboje govore o različitim matematičkim pojmovima, zaključak je isti: šah se u praksi ne može riješiti grubom silom. Bug

07.09. (14:00)

Pokaži nešto što zaista možeš napraviti

Umjetna inteligencija u marketingu: AI generirane fotke uništavaju povjerenje kupaca

Fotograf Ryan Stanikk za PetaPixel analizira sve češću upotrebu umjetne inteligencije u marketingu, posebno kod prikaza hrane i usluga. Reagirajući na tvrdnje da je fotografija hrane i onako oduvijek “lažirana”, pojašnjava razliku između estetske pripreme pravih jela i AI generiranja nepostojećih obroka. Iako i sam koristi AI alate u svakodnevnom poslovanju i programiranju, naglašava da lažni prikazi narušavaju povjerenje kupaca i dugoročno štete brendovima. Zaključuje kako AI ne može zamijeniti autentične dokaze o stvarnim proizvodima, timu i prostoru koje ponuditelji nude svojim klijentima.

28.08. (16:00)

Iz svakog zla izađe nešto potencijalno dobro

AI stvorio nove viruse: Umjesto pandemije, stiže li lijek protiv superbakterija?

Znanstvenici su pomoću genomskih AI modela Evo 1 i Evo 2 dizajnirali potpuno nove genomske sekvence virusa. Od 285 sintetiziranih genoma, 16 je uspješno “oživjelo” u laboratoriju. Srećom, nije riječ o novoj pandemiji – stvoreni su bakteriofagi, virusi koji napadaju isključivo bakterije i potpuno su bezopasni za ljude. Ovi umjetni fagi u eksperimentima su uspješno uništili sojeve bakterije E. coli otporne na prirodne viruse. Iako je tehnologija daleko od rutinske primjene u bolnicama i otvara važna pitanja biosigurnosti, brzina generiranja novih faga nudi snažno novo oružje u borbi protiv sve opasnije otpornosti bakterija na antibiotike. Igor Berecki za Bug