Kolaps modela: kako treniranje AI na vlastitim podacima vodi u samouništenje - Monitor.hr
04.08. (14:00)

Terminator, ali s greškom u kodu

Kolaps modela: kako treniranje AI na vlastitim podacima vodi u samouništenje

Profesor Geoffrey Hinton, jedan od pionira umjetne inteligencije, upozorava da bi AI mogla uništiti čovječanstvo u idućih 30 godina. Ipak, prije toga bi se mogla samouništiti zbog fenomena zvanog “kolaps modela”. Riječ je o degradaciji AI modela treniranih na izlazima drugih AI modela, što s vremenom dovodi do gomilanja grešaka i pada kvalitete. Ukratko, umjetna inteligencija bi mogla nestati pod teretom vlastitih gluposti – prije nego što stigne uništiti nas. Lider


Slične vijesti

26.01.2024. (18:00)

Imamo više predaka nego što smo mislili

Zemljom je koračalo najmanje osam različitih vrsta roda Homo, blisko povezanih s modernim ljudima

Prvi među njima, Homo habilis, poznat kao “majstor”, razvio se prije 2,4 milijuna godina u Tanzaniji, Keniji, Etiopiji i Južnoj Africi. Najdugovječniji među njima, Homo erectus, oblikovao je povijest gotovo 2 milijuna godina i prvi je kontrolirao vatru. Homo antecessor naseljavao je Europu prije 800.000 do 1,2 milijuna godina, dok je Homo heidelbergensis, s velikim mozgom i sofisticiranim alatima, obitavao u Africi, Europi i Aziji prije 700.000 do 200.000 godina. Homo naledi, s otkrićem u Južnoafričkoj Republici 2013., pokazao je naprednu emocionalnu inteligenciju, dok je Homo floresiensis, poznat kao “Hobit”, bio visok svega metar. Neandertalci, Homo neanderthalensis, s genetskih 99,7% sličnosti s modernim ljudima, bili su umjetnički nastrojeni i prilagodljivi, a izumrli su prije 40.000 godina. Posljednji u nizu, Homo sapiens, “mudri čovjek”, pojavio se prije 300.000 do 200.000 godina, s modernijim oblikom mozga prije 100.000 godina, šireći se s Afrike na sve kontinente. (IFLScience)

21.11.2023. (12:00)

Treba nam reset

Uznapredovala tehnologija i ljudska želja za progresom mogla bi koštati čovječanstvo njegovim izumiranjem

Od 14 potencijalnih evolucijskih slijepih ulica koje prijete čovječanstvu pet ih stručnjaci nazivaju globalnima. To su simplifikacija, s obzirom na to da sustavi postaju previše specijalizirani za prilagodbu, poput monokulturnog uzgoja, potom rast radi rasta, a to znači neprekidnu potragu za akvizicijom ili pokretanjem nove linije koja dramatično povećava prihode, zatim prekomjernog iskorištavanja prirodnih izvora i resursa, međunarodnih sukoba i velikih zaraza. Drugih pet su tehnološke zamke: vezanost za infrastrukturu (kao kod fosilnih goriva), kemijsko onečišćenje, egzistencijalna tehnologija (poput nuklearnog oružja), tehnološka autonomija (uključujući umjetnu inteligenciju) i dezinformacije. Index

11.12.2017. (23:30)

Sad samo prema dole

Znanstvenici: Razvoj čovječanstva dosegnuo vrhunac

Znanstvenici s pariškoga Sveučilišta Descartes vjeruju da je ljudski rod dosegnuo svoj vrhunac, da se upravo kreće preko svojih mogućnosti te da je čovjekov napredak u opadanju. Stoga se očekuje sve manje rekordnih postignuća i rezultata. Smatraju i kako će najveći izazov stoljeća biti zaštita okoliša od zagađenja. N1, New Atlas

28.06.2016. (13:49)

Mudar tip

Hawking: Ništa se ne mijenja, i dalje smo pohlepni i glupi

Stephen Hawking prije šest godina je upozoravao kako “čovječansto uništava pohlepa i glupost”, a sada tvrdi da se situacija nije promijenila, već da su ljudi postali još gluplji i pohlepniji (video). Ponovo upozorava i na zagađenje zraka te prenapučenost. “Vlade se utrkuju u naoružavanju umjetnom inteligencijom. Financiranje projekata od kojih bi ljudi imali koristi, poput usavršavanja medicinske dijagnostike nekako je na dnu liste prioriteta”, kaže Hawking.

21.03.2016. (08:41)

7 futurističkih plutajućih gradova koji bi mogli spasiti čovječanstvo