Sam Altman wyjaśnia, jak go uruchomić i zresetować w OpenAI

Kiedy zarząd OpenAI poprosił Sama Altmana o powrót dzień po zwolnieniu, początkowo poczuł się wyzywający, zraniony i zły.

„Zajęło mi kilka minut, zanim się z tym uporałem, pozbyłem się ego i emocji, zanim powiedziałem: «Tak, oczywiście, że chcę to zrobić»” – powiedział mi przez telefon w środę. „Oczywiście naprawdę kochałem tę firmę i wkładałem w nią całą energię życiową przez ostatnie cztery i pół roku w pełnym wymiarze czasu pracy, ale tak naprawdę przez większość mojego czasu dłużej. I robimy ogromne postępy w zakresie misja, na której mi najbardziej zależy, czyli misja bezpiecznej i użytecznej powszechnej sztucznej inteligencji.

Po pięciodniowej próbie zamachu stanu na sali konferencyjnej Altman oficjalnie powrócił w środę na stanowisko dyrektora generalnego OpenAI. Microsoft, największy inwestor spółki, planuje także objąć miejsce w zarządzie spółki bez prawa głosu.

Podczas naszego wywiadu Altman wielokrotnie odmawiał odpowiedzi na główne pytanie, które wszyscy zastanawiali się: dokładnie Dlaczego Początkowo został zwolniony. Nowy zarząd OpenAI, na którego czele stoi Brett Taylor, przeprowadzi niezależne dochodzenie w sprawie tego, co się stało. „Bardzo mnie to cieszy” – powiedział mi Altman.

Poniżej znajduje się mój pełny wywiad z dyrektorem generalnym OpenAI Samem Altmanem i CTO Mirą Moratti, który został lekko zredagowany dla przejrzystości:

Sam, chciałbym najpierw poruszyć kwestię słonia na sali, a to oznacza, że ​​nadal nie wiemy dokładnie, dlaczego zostałeś zwolniony. Jak myślisz, dlaczego zostałeś zwolniony?

Sam Altman: Rada przeprowadzi w tym miejscu niezależną ocenę. Bardzo mnie to cieszy. Nie mam teraz zbyt wiele do powiedzenia, ale nie mogę się doczekać, aby dowiedzieć się więcej.

Jak myślisz, dlaczego zarząd stwierdził, że stracił do ciebie zaufanie?

To byłoby dla nich lepsze pytanie.

Ty Powiedział w dniu X Dopiero teraz „jasno widać, że doszło do prawdziwego nieporozumienia” pomiędzy Tobą a członkami zarządu. Co to za nieporozumienia?

Nie czuję się jeszcze gotowy, aby o tym rozmawiać. Uważam, że bardzo ważne jest, aby umożliwić przebieg procesu przeglądu. Chętnie porozmawiam o wszystkim, co dotyczy przyszłości. Myślę, że nadejdzie czas, kiedy z radością porozmawiam o tym, co się tutaj wydarzyło, ale nie teraz.

Czy możesz mi powiedzieć, dlaczego nie możesz teraz o tym rozmawiać?

Chcę po prostu odpuścić ten proces i nie zakłócać go.

Mówiłeś o Ilji Suckewrze [OpenAI’s chief scientist] W Twojej notatce [to employees]. Czy możesz mi opowiedzieć trochę o tym, dlaczego zmienił zdanie i zdecydował się stanąć po stronie wszystkich?

Mira Moratti: Nie wiemy. Musisz o to zapytać Elijaha.

Sam, co, z perspektywy czasu, było główną siłą napędową, która skłoniła Cię do powrotu?

Altmana: To było naprawdę interesujące. W sobotę rano kilku członków zarządu zadzwoniło do mnie i zapytało, czy zechciałbym o tym porozmawiać. Moja natychmiastowa reakcja była swego rodzaju wyzwaniem i brzmiała: „Człowieku, jestem zraniony i zły, i myślę, że to jest złe”.

I wtedy od razu zacząłem o tym myśleć. Oczywiście naprawdę kochałem tę firmę i wkładałem w nią całą swoją siłę życiową przez ostatnie cztery i pół roku w pełnym wymiarze godzin, ale właściwie przez większość mojego czasu dłużej. Robimy też ogromne postępy w realizacji misji, na której bardzo mi zależy: bezpiecznej i użytecznej sztucznej inteligencji ogólnej. Ale także ludzie tutaj i wszyscy partnerzy, którzy na nas postawili, a także Mira i zespół kierowniczy oraz wszyscy ludzie tutaj, którzy wykonują świetną robotę. Zajęło mi kilka minut, zanim się otrząsnąłem, pozbyłem się ego i emocji, a następnie powiedziałem: „Tak, oczywiście, że chcę to zrobić”.

Rada poprosiła cię o powrót?

Czy na początku się wahałeś?

Nie na długo. Po tym, co mi się przydarzyło, pojawiło się wiele emocji.

Było jasne, że personel był z tobą. Jak myślisz, jak duży to był czynnik?

Z pewnością poradziliśmy sobie z tym z silniejszym, bardziej zjednoczonym, skoncentrowanym i zaangażowanym zespołem. Myślałem, że wcześniej mieliśmy dużo przekonania i skupienia, a teraz myślę, że mamy o wiele więcej metody. To jest jasna strona tego wszystkiego.

Przez cały ten czas nie straciliśmy ani jednego pracownika ani klienta. Nie tylko utrzymali produkty nawet w obliczu niemożliwego do opanowania wzrostu, ale także dostarczyli nowe funkcje. Postęp badań był kontynuowany.

Chcesz wrócić do rady?

To zabrzmi jak temat PR: nie na tym się teraz skupiam. Mam górę pracy trudnej, ważnej i pilnej. Chcę dobrze wykonywać swoją pracę, ale tak nie jest [being] Na desce czy nie. To nie jest coś, o czym teraz myślę.

Co zrobiłeś „Ulepsz naszą strukturę zarządzania” On ma na myśli? Czy zmieni się struktura holdingu non-profit?

To lepsze pytanie do członków zarządu, ale też nie teraz. Szczera odpowiedź jest taka, że ​​potrzebują czasu, a my będziemy ich wspierać, dopóki się nie załamią i nie pomyślą o tym. Najwyraźniej nasza struktura zarządzania miała problem. Najlepszym sposobem na rozwiązanie tego problemu jest to, że zajmie to trochę czasu. I całkowicie rozumiem, dlaczego ludzie chcą odpowiedzi teraz. Ale też uważam, że oczekiwanie czegoś takiego jest zupełnie nierozsądne.

Dlaczego uważasz, że jest to nierozsądne? Myślę, że ludzie widzą wiele wzlotów i upadków w związku z tym, co się wydarzyło. Wygląda na to, że były to nieporozumienia, a nie naruszenia czy coś w tym rodzaju.

Aha, tylko dlatego, że zaprojektowanie naprawdę dobrej struktury zarządzania, szczególnie w przypadku tak wpływowej technologii, nie jest kwestią jednego tygodnia. Ludziom zajmie dużo czasu, aby się nad tym zastanowić, przedyskutować, poznać perspektywę z zewnątrz i poddać się próbie presji. To po prostu zajmuje trochę czasu.

Czy w wyniku wydarzeń, które właśnie miały miejsce, coś zmieni się w podejściu OpenAI do pracy związanej z bezpieczeństwem?

Moratti: Nie, to nie ma nic wspólnego z bezpieczeństwem.

Raporty o Przełom w modelu Q* Co wszyscy ostatnio robiliście. Co się tam dzieje?

Altmana: Nie ma konkretnego komentarza na temat tego niefortunnego wycieku. Ale to, co mówiliśmy – dwa tygodnie temu, co mówiliśmy dzisiaj, co mówiliśmy rok temu, co mówiliśmy dawniej – jest takie, że oczekujemy, że postęp w tej technologii będzie kontynuowany szybko, a także że spodziewamy się w dalszym ciągu ciężko pracować nad znalezieniem sposobu, aby uczynić je bezpiecznym i użytecznym. Dlatego budziliśmy się każdego dnia wcześniej. Dlatego w przyszłości będziemy się budzić każdego dnia. I myślę, że byliśmy w tym niezwykle konsekwentni.

Nie komentując żadnej konkretnej rzeczy, projektu czy czegokolwiek innego, wierzymy, że postęp to badania. Zawsze możesz uderzyć w ścianę, ale spodziewamy się, że postęp będzie nadal znaczący. Chcemy nawiązać w tej sprawie kontakt ze światem i dowiedzieć się, jak uczynić to tak dobrym, jak to tylko możliwe.

Ostatnie pytanie: jestem pewien, że nadal o tym wszystkim myślisz. Wiem, że to bardzo świeże. Jakiej lekcji wyciągnąłeś z tej całej sagi?

Chyba nie mam jeszcze wymownej i elegancko brzmiącej odpowiedzi. Oczywiście jest tego o wiele więcej, ale ciągle się przez to potykam. To znaczy, zdecydowanie jest wiele do powiedzenia, ale nie sądzę, że mam na to ochotę… jedyne, co chciałbym uzyskać, to w tym momencie długa, chaotyczna odpowiedź.

Cóż, zapiszemy to jeszcze raz.

Gdy się rozłączymy, chwilę później Altman dzwoni.

Nauczyłam się, że firma naprawdę może funkcjonować beze mnie i to jest bardzo piękna rzecz. Bardzo się cieszę, że wróciłem, nie zrozumcie mnie źle. Ale wracam bez presji: „Człowieku, muszę to zrobić, bo inaczej firma mnie będzie potrzebować czy coś”. Samolubnie czuję się dobrze, ponieważ albo wybrałem świetnych przywódców, albo dobrze ich mentorowałem. Miło jest mieć poczucie, że firma poradzi sobie beze mnie, a zespół jest gotowy i na dobrej drodze.