Obejrzyj: Geoffrey Hinton, ojciec chrzestny sztucznej inteligencji, opowiada BBC o niebezpieczeństwach związanych ze sztuczną inteligencją, kiedy odchodzi z Google
Człowiek powszechnie uważany za ojca chrzestnego sztucznej inteligencji (AI) rzucił pracę, ostrzegając przed rosnącymi zagrożeniami wynikającymi z rozwoju tej dziedziny.
Jeffrey Hinton, lat 75, ogłosił swoją rezygnację z Google w oświadczeniu dla New York Times, mówiąc, że teraz żałuje swojej pracy.
Powiedział BBC, że niektóre zagrożenia związane z chatbotem są „bardzo przerażające”.
„W tej chwili nie są mądrzejsi od nas, o ile wiem. Ale myślę, że wkrótce mogą być”.
Dr Hinton zgodził się również, że jego wiek miał wpływ na jego decyzję o opuszczeniu giganta technologicznego, mówiąc BBC: „Mam 75 lat, więc czas przejść na emeryturę”.
Pionierskie badania dr Hintona nad uczeniem głębokim i sieciami neuronowymi utorowały drogę obecnym systemom sztucznej inteligencji, takim jak ChatGPT.
Ale brytyjsko-kanadyjski psycholog poznawczy i informatyk powiedział BBC, że chatbot może wkrótce przekroczyć poziom informacji przechowywanych w ludzkim mózgu.
„W tej chwili obserwujemy, że rzeczy takie jak GPT-4 przewyższają osobę pod względem ilości posiadanej wiedzy ogólnej i znacznie przewyższają osobę. Jeśli chodzi o rozumowanie, nie jest to zbyt dobre, ale robi proste myślący.
„Biorąc pod uwagę tempo postępu, spodziewamy się bardzo szybkiej poprawy. Musimy się więc tym martwić”.
W artykule w New York Times dr Hinton odniósł się do „złych aktorów”, którzy próbowaliby wykorzystać sztuczną inteligencję do „złych rzeczy”.
Poproszony przez BBC o rozwinięcie tego, odpowiedział: „To tylko najgorszy scenariusz, coś w rodzaju koszmarnego scenariusza.
„Możesz sobie wyobrazić, na przykład, niektórych złych aktorów, takich jak [Russian President Vladimir] Putin postanowił dać botom możliwość tworzenia własnych celów podrzędnych.
Ostatecznie może to „stworzyć cele cząstkowe, takie jak„ Muszę stać się potężniejszy ”- ostrzegł naukowiec.
Dodał: „Doszedłem do wniosku, że rodzaj inteligencji, którą rozwijamy, bardzo różni się od inteligencji, którą mamy.
„Jesteśmy systemami biologicznymi, a to są systemy cyfrowe. Duża różnica polega na tym, że w systemach cyfrowych masz wiele kopii tego samego zestawu ciężarków, ten sam model świata.
„Wszystkie te klony mogą uczyć się osobno, ale natychmiast dzielić się swoją wiedzą. To tak, jakby mieć 10 000 osób i gdy ktoś się czegoś nauczy, wszyscy automatycznie o tym wiedzą. Dlatego te chatboty mogą wiedzieć o wiele więcej niż jakakolwiek jedna osoba”.
Podkreślił, że nie chce krytykować Google’a i że technologiczny gigant jest „bardzo odpowiedzialny”.
„Właściwie chcę powiedzieć kilka dobrych rzeczy o Google. Byłoby bardziej wiarygodnie, gdybym nie pracował dla Google”.
W oświadczeniu główny naukowiec Google, Jeff Dean, powiedział: „Pozostajemy zaangażowani w odpowiedzialne podejście do sztucznej inteligencji. Stale uczymy się rozumieć pojawiające się zagrożenia, jednocześnie odważnie wprowadzając innowacje”.
Obejrzyj: Czym jest sztuczna inteligencja?