KAJAĆU SE DOK SAM ŽIV "Biće gore od svake noćne more", napravio čudovište, pa dao otkaz

Čovek kojeg mnogi nazivaju kumom veštačke inteligencije dao je otkaz i upozorio na „sve veće opasnosti razvoja u oblasti veštačke inteligencije“. Džefri Hinton (75) najavio je ostavku na Gugl u intervjuu za Njujork tajms, rekavši da se sada kaje zbog svog rada. On je za Bi-Bi-Si rekao da su neke od opasnosti od AI chat-bota "prilično zastrašujuće".

"Trenutno nisu inteligentniji od nas, koliko vidim. Ali mislim da bi mogli uskoro biti", rekao je on. Pionirsko istraživanje dr Hintona o dubokom učenju i neuronskim mrežama utrlo je put trenutnim sistemima veštačke inteligencije kao što je ChatGPT. Ali, britansko-kanadski psiholog i kompjuterski naučnik rekao je za Bi-Bi-Si da bi čet-bot uskoro mogao da nadmaši nivo informacija koje čuva ljudski mozak.

„Trenutno vidimo kako stvari poput GPT-4 pomračuju osobu u količini opšteg znanja koje imaju. Što se tiče zaključivanja, to nije tako dobro, ali je već u smislu jednostavnog zaključivanja. S obzirom na brzinu napretka, mi očekujte da će se prilično brzo popraviti. Zato moramo biti zabrinuti", rekao je on za BBC. "Pogledajte kako je bilo pre pet godina, a kako je sada. Pogledajte koliki je to korak, a vi to dalje proširujete. To je zastrašujuće", istakao je on.

Hinton je rekao da konkurencija između tehnoloških giganata primorava kompanije da proizvode nove tehnologije veštačke inteligencije opasnim brzinama, ugrožavajući poslove i šireći dezinformacije.

„Teško je shvatiti kako možete sprečiti loše glumce da ga koriste da rade loše stvari“, rekao je za Tajms. "Scenario noćne more" U članku Njujork tajmsa, Hinton je pomenuo „loše ljude“ koji bi pokušali da iskoriste veštačku inteligenciju za „loše stvari“. Na pitanje Bi-Bi-Sija da pojasni, on je odgovorio:

„Ovo je samo vrsta najgoreg scenarija, vrsta scenarija iz noćne more. Možete zamisliti, na primer, nekoga poput ruskog predsednika Vladimira Putina koji je odlučio da robotima da mogućnost da kreiraju sopstvene podciljeve." Naučnik je upozorio da bi to na kraju moglo „stvoriti podciljeve poput 'Moram da dobijem više moći'“.

„Došao sam do zaključka da se vrsta inteligencije koju razvijamo veoma razlikuje od inteligencije koju imamo. Mi smo biološki sistemi, a ovo su digitalni sistemi. A velika razlika je u tome što kod digitalnih sistema imate mnogo kopija istog modela. svet“, rekao je on. „I sve te kopije mogu da uče odvojeno, ali odmah dele svoje znanje. Dakle, to je kao da imate 10.000 ljudi i kad god jedna osoba nešto nauči, svi to automatski znaju. I tako ovi chat botovi mogu znati mnogo više od bilo koje osobe“, zaključuje on.

Poslovi i širenje dezinformacija Iako se veštačka inteligencija koristi za podršku ljudskim radnicima, brzo širenje robota za ćaskanje kao što je ChatGPT moglo bi da ugrozi radna mesta. AI „oduzima naporan rad“, ali „može oduzeti više od toga“, rekao je za Tajms.

Naučnik je upozorio na potencijalno širenje dezinformacija koje generiše veštačka inteligencija, rekavši za Tajms da prosečna osoba „više neće moći da zna šta je istina“. Hinton je takođe rekao da postoji nekoliko drugih razloga zašto je dao otkaz.

„Jedan je taj dan kada imam 75 godina. Dakle, vreme je da se penzionišem. Drugi je – zapravo želim da kažem neke dobre stvari o Guglu. I verodostojnije su ako ne radim za Gugl“, kaže on. On je naglasio da ne želi da kritikuje Gugl i da je tehnološki gigant bio "veoma odgovoran". Džef Din, vodeći naučnik za Gugl AI, zahvalio je Hintonu u izjavi američkim medijima.

„Kao jedna od prvih kompanija koja je objavila principe veštačke inteligencije, ostajemo posvećeni odgovornom pristupu veštačkoj inteligenciji“, dodaje se u saopštenju. „Stalno učimo da se suočavamo sa novim rizicima, a istovremeno se hrabro usavršavamo“, istakao je on.

Poziv na pauzu u razvoju veštačke inteligencije U martu, tehnološki milijarder Elon Musk i brojni stručnjaci pozvali su na pauzu u razvoju AI sistema kako bi se omogućilo vreme za testiranje i uveravanje da su bezbedni. Otvoreno pismo, koje je potpisalo više od 1.000 ljudi, uključujući Maska i suosnivača Epla Stiva Voznijaka, podstaklo je izdavanje GPT-4, mnogo moćnije verzije tehnologije koju koristi ChatGPT. Hinton tada nije potpisao pismo, ali je za The Nev Iork Times rekao da naučnici ne bi trebalo da „razmeravaju ovo dok ne znaju da li mogu to da kontrolišu“.

PROČITAJTE KLIKOM OVDE NAJVAŽNIJE AKTUELNE VESTI