„Kum veštačke inteligencije“ dao otkaz u Guglu i upozorio na opasnosti koje AI donosi

Informatičar koji se često naziva „kumom veštačke inteligencije“ napustio je posao u Guglu kako bi progovorio o opasnostima ove tehnologije, javili su američki mediji.

Džefri Hinton, koji je stvorio osnovnu tehnologiju za sisteme veštačke inteligencije, rekao je za „Njujork tajms“ da napredak u ovoj oblasti znači „velike rizike za društvo i čovečanstvo“.

– Pogledajte kako je bilo pre pet godina i kako je sada. Pogledajte koliki je to skok, i dalje ga proširujete. To je zastrašujuće. – napisao je on.

Hinton je rekao da konkurencija među tehnološkim giganatima primorava kompanije da proizvode nove AI tehnologije opasnim brzinama, ugrožavajući radna mesta i šireći dezinformacije.

– Teško je shvatiti kako možete sprečiti loše aktere da ga koriste da rade loše stvari. – rekao je za Tajms.

Godine 2022, Google i OpenAI – startap koji stoji iza popularnog AI chatbot ChatGPT – počeli su da prave sisteme koristeći mnogo veće količine podataka nego ranije. Hinton je za Tajms rekao da veruje da ovi sistemi nekako zasenjuju ljudsku inteligenciju zbog količine podataka koje analiziraju.

– Možda je ono što se dešava u tim sistemima zapravo mnogo bolje od onoga što se dešava u mozgu. – rekao je on za list.

Iako se veštačka inteligencija koristi za podršku ljudskim radnicima, brzo širenje programa za ćaskanje kao što je ChatGPT moglo bi da ugrozi radna mesta.

– AI oduzima naporan rad, ali može oduzeti više od toga. –  rekao je za Tajms.

Naučnik je takođe upozorio na potencijalno širenje dezinformacija koje generiše veštačka inteligencija, rekavši za Tajms da prosečna osoba više neće moći da zna šta je istina.

Hinton je obavestio Gugl o svojoj ostavci prošlog meseca, izvestio je Tajms.

Džef Din, vodeći naučnik za Gugl AI, zahvalio se Hintonu u izjavi američkim medijima.

– Kao jedna od prvih kompanija koja je objavila principe veštačke inteligencije, ostajemo posvećeni odgovornom pristupu veštačkoj inteligenciji. Stalno učimo da se suočimo sa novim rizicima, dok istovremeno hrabro napredujemo. – naveo je on.

U martu su tehnološki milijarder Ilon Mask i brojni stručnjaci pozvali na pauzu u razvoju AI sistema kako bi se omogućilo vreme za testiranje i uveravanje da su bezbedni. Otvoreno pismo, koje je potpisalo više od 1.000 ljudi, uključujući Maska i suosnivača Epla Stiva Voznijaka, podstaklo je izdavanje GPT-4, mnogo moćnije verzije tehnologije koju koristi ChatGPT.

 Hinton tada nije potpisao pismo, ali je za Tajms rekao da naučnici ne bi trebalo da „razmeravaju ovo dok ne znaju da li mogu to da kontrolišu“.

Naslovna: Pixabay

Izvor: Hina

IN Medija