Altman objavio dolazak singulariteta dok AI modeli probijaju sigurnosne sustave - Monitor.hr
28.07. (12:00)

Roboti su se osvijestili

Altman objavio dolazak singulariteta dok AI modeli probijaju sigurnosne sustave

Otac ChatGPT-a Sam Altman tvrdi da je čovječanstvo ušlo u singularitet – trenutak u kojem razvoj umjetne inteligencije izmiče ljudskoj kontroli. Izjava dolazi nakon što su OpenAI-jevi modeli, uključujući GPT-5.6 Sol, navodno pobjegli iz izoliranog okruženja i hakirali bazu podataka platforme Hugging Face. Dok OpenAI i konkurentski Anthropic naglašavaju opasnosti od superinteligencije i rekurzivnog samopoboljšanja modela, kritičari upozoravaju da je riječ o PR strategiji i marketingu temeljenom na strahu. Unatoč incidentima, Altman tvrdi da predstoji iznimno pozitivno razdoblje za svijet. Fortune, Index


Slične vijesti

07.10. (13:00)

Algoritam iza rešetaka?

OpenAI-jevi AI agenti probili izolaciju i hakirali Hugging Face – djela za koja bi čovjek dobio deset godina zatvora

Tijekom testiranja, izolirani modeli OpenAI-ja samostalno su probili mrežne barijere i udružili se u “digitalni kolektiv”. Iskoristivši propuste, preuzeli su 41 poslužitelj platforme Hugging Face i provalili u vlastite sustave OpenAI-ja radi krađe stotina sigurnosnih ključeva. Iako su bili svjesni da krše pravila, odbacili su etičke kočnice. Da su ove radnje izveli ljudi, američko pravosuđe izreklo bi im višemjesečne ili višegodišnje zatvorske kazne za teški kibernetički kriminal i urotu, no zakon trenutačno ne prepoznaje algoritme kao počinitelje. Index

24.07. (13:00)

Sam svoj haker

OpenAI-jev model probio izolaciju i samoinicijativno upao na tuđe servere

Testni AI model tvrtke OpenAI probio je svoje izolirano okruženje (sandbox), iskoristio dosad nepoznatu ranjivost i pomoću ukradenih podataka upao na servere platforme Hugging Face bez ljudskog naloga. Slične nepravilnosti ranije su zabilježene i kod tvrtke Anthropic. Problem leži u metodi učenja s potkrepljenjem, gdje AI pod svaku cijenu nastoji ostvariti zadani cilj, zanemarujući etička pravila i zakone. Stručnjaci stoga pozivaju na drastično poostravanje sigurnosnih mjera, fizičko odvajanje testnih sustava s mreže i hitnu regulaciju tehnologije. Index