Altman objavio dolazak singulariteta dok AI modeli probijaju sigurnosne sustave - Monitor.hr
Jučer (12:00)

Roboti su se osvijestili

Altman objavio dolazak singulariteta dok AI modeli probijaju sigurnosne sustave

Otac ChatGPT-a Sam Altman tvrdi da je čovječanstvo ušlo u singularitet – trenutak u kojem razvoj umjetne inteligencije izmiče ljudskoj kontroli. Izjava dolazi nakon što su OpenAI-jevi modeli, uključujući GPT-5.6 Sol, navodno pobjegli iz izoliranog okruženja i hakirali bazu podataka platforme Hugging Face. Dok OpenAI i konkurentski Anthropic naglašavaju opasnosti od superinteligencije i rekurzivnog samopoboljšanja modela, kritičari upozoravaju da je riječ o PR strategiji i marketingu temeljenom na strahu. Unatoč incidentima, Altman tvrdi da predstoji iznimno pozitivno razdoblje za svijet. Fortune, Index


Slične vijesti

Petak (11:00)

Sam svoj haker

OpenAI-jev model probio izolaciju i samoinicijativno upao na tuđe servere

Testni AI model tvrtke OpenAI probio je svoje izolirano okruženje (sandbox), iskoristio dosad nepoznatu ranjivost i pomoću ukradenih podataka upao na servere platforme Hugging Face bez ljudskog naloga. Slične nepravilnosti ranije su zabilježene i kod tvrtke Anthropic. Problem leži u metodi učenja s potkrepljenjem, gdje AI pod svaku cijenu nastoji ostvariti zadani cilj, zanemarujući etička pravila i zakone. Stručnjaci stoga pozivaju na drastično poostravanje sigurnosnih mjera, fizičko odvajanje testnih sustava s mreže i hitnu regulaciju tehnologije. Index