Arich Lawson | Dobre zdjęcia
W czwartek OpenAI zdeklarowany System wtyczek dla swojego asystenta ChatGPT AI. ChatGPT daje ChatGPT możliwość interakcji z szerszym światem przez Internet, w tym rezerwowania lotów, zamawiania artykułów spożywczych, surfowania po Internecie i nie tylko. Wtyczki to fragmenty kodu, które mówią ChatGPT, jak korzystać z zewnętrznych zasobów w Internecie.
Zasadniczo, jeśli programista chce dać ChatGPT możliwość dostępu do dowolnej usługi sieciowej (na przykład: „znajdowanie aktualnych cen akcji”) lub dowolnego zadania kontrolowanego przez usługę sieciową (na przykład: „zamawianie pizzy przez Internet”), jest to teraz możliwe, o ile nie narusza zasad OpenAI.
Zwykle bardzo duże modele językowe (LLM), takie jak ChatGPT, są zamknięte w bańce i mogą wchodzić w interakcje ze światem tylko poprzez rozmowy tekstowe z użytkownikiem. Jak pisze OpenAI we wstępie Blog Spośród wtyczek ChatGPT: „Jedyne, co modele językowe mogą zrobić po wyjęciu z pudełka, to wyświetlanie tekstu”.
Bing Chat umożliwił temu paradygmatowi wyszukiwanie nowszych informacji w sieci, ale jak dotąd ChatGPT był odizolowany od szerszego świata. Po zablokowaniu w ten sposób ChatGPT może pobierać dane tylko ze swojego zestawu treningowego (2021 i wcześniejsze) oraz informacje podane przez użytkownika podczas rozmowy. Ponadto ChatGPT jest podatny na błędy rzeczowe i pomyłki (co badacze sztucznej inteligencji nazywają „halucynacjami”).
Aby przezwyciężyć te ograniczenia, OpenAI opracowało Bubble Popping Interfejs wtyczki ChatGPT (OpenAI nazywa ChatGPT „oczami i uszami”) Pozwala to programistom na tworzenie nowych komponentów, które „podłączają” się do ChatGPT i pozwalają modelowi AI na interakcję z innymi usługami w sieci. Te usługi mogą Wykonaj obliczenia i podaj informacje faktyczne, aby zredukować halucynacje, a jeśli programiści utworzą wtyczkę do tego zadania, mogą wchodzić w interakcje z dowolną inną usługą oprogramowania w Internecie.
O jakich wtyczkach mówimy?
W przypadku ChatGPT OpenAI pozwoli użytkownikom wybrać z listy wtyczek przed rozpoczęciem sesji ChatGPT. Wyglądają prawie identycznie jak aplikacje w App Store, a każda wtyczka ma własną ikonę i opis.
OpenAI twierdzi, że pierwsza runda wtyczek została opracowana przez następujące firmy:
- Expedia (do planowania podróży)
- Uwaga finansowa (Dla danych rynkowych w czasie rzeczywistym)
- Instacart (do zamawiania artykułów spożywczych)
- Kajak (wyszukiwanie lotów i samochodów do wynajęcia)
- Clarina (do porównywania cen)
- Milo (Asystent rodzica oparty na sztucznej inteligencji)
- OpenTable (dla rekomendacji restauracji i rezerwacji)
- Shopify (aby robić zakupy w tej witrynie)
- Slack (do komunikacji)
- rozmawiać (dla szkoleń językowych opartych na sztucznej inteligencji)
- Wolfram (do obliczeń i danych w czasie rzeczywistym)
- Zapier (platforma automatyzacji)
W szczególności wtyczka Zapier wydaje się być bardzo potężna, ponieważ zapewnia dostęp ChatGPT do istniejącego systemu automatyzacji oprogramowania, Albo jako Zapier Możesz poprosić ChatGPT o wykonanie ponad 50 000 czynności (w tym wyszukiwanie, aktualizowanie i pisanie) w dowolnej z ponad 5000 obsługiwanych aplikacji Zapier. To kontakty w CRM zamieniają czat w działania, a następnie aktualizują je bezpośrednio lub dodają wiersze do arkusza kalkulacyjnego, a następnie wysyłają je jako wiadomość Slack. Możliwości są nieskończone.”
OpenAI zapewnia również trzy wtyczki, przeglądarkę internetową (która może pobierać informacje z sieci w sposób podobny do czatu Bing), interpreter kodu do uruchamiania programów w języku Python (w piaskownicy) oraz narzędzie do pobierania, które umożliwia dostęp. Indywidualne lub instytucjonalne” źródła informacji dostarczane gdzie indziej (głównie wydobywanie informacji z dokumentów).
Film demonstracyjny wtyczek ChatGPT z OpenAI.
Podczas gdy OpenAI nazywa proces wyboru wtyczek „sklepem z wtyczkami”, firma nie ogłosiła planów sprzedaży poszczególnych wtyczek. Ale przy użyciu etykiety „sklep” ta decyzja może zapaść w pewnym momencie.
Już deweloperzy z wczesnym dostępem Szybkie prototypowanie wtyczek do ChatGPT. W porównaniu z innymi podejściami do tworzenia wtyczek sposób działania wtyczek ChatGPT jest niezwykły. „Zamiast tajemnego procesu używaniaKod kleju„Aby połączyć interfejs API z ChatGPT, programista w zasadzie „mówi” ChatGPT, jak korzystać z ich usługi przy użyciu języka naturalnego, a ChatGPT to robi.
Dla tych, którzy nie wiedzą: piszesz manifest OpenAPI dla swojego API, używasz opisów w ludzkim języku do wszystkiego i to wszystko. Pozwala dowiedzieć się, jak sprawdzić poprawność modelu, serializować wywołania, przetwarzać dane pomiędzy nimi, formatować widok itp. Nie ma absolutnie żadnego kodu kleju.
— Mitchell Hashimoto (@mitchellh) 23 marca 2023 r
Poza tym programiści używają ChatGPT GPT-4 ChatGPT umożliwia pisanie manifestów wtyczek (manifest to „czytelny maszynowo opis możliwości wtyczki i sposobu ich implementacji”, zgodnie z OpenAI), co jeszcze bardziej upraszcza proces tworzenia wtyczek.
Ten rodzaj samoorganizacji wydaje się potencjałem wzrostu nieokreślony teren Dla niektórych programistów. W jednym przypadku użytkownik Twittera o imieniu Rohit Martw się głośno„przyjaciele kryzys egzystencjalny. Gotowe oprogramowanie OpenAI? Co robić oprócz sprzątania i zamiatania?„
Sam Altman, dyrektor generalny OpenAI odpowiedział„NIE.”
Czy to jest bezpieczne?
Stała dyfuzja
Podczas gdy OpenAI wcześniej testowało swoje modele sztucznej inteligencji (takie jak GPT-4), aby sprawdzić, czy mają agencję do adaptacji, ulepszania i propagowania się w światowych systemach komputerowych, nie jest zaskoczeniem, że OpenAI wydaje prawie połowę swoich wtyczek ChatGPT. Blog Rozmowy o bezpieczeństwie i lukach w zabezpieczeniach. „Wtyczki mogą mieć szeroki zakres skutków społecznych”, firma od niechcenia zauważa w jednej sekcji Możliwe skutki dla miejsc pracy.
Poza miejscami pracy, wśród niektórych badaczy sztucznej inteligencji utrzymujący się strach wiąże się z umożliwieniem zaawansowanym modelom sztucznej inteligencji dostępu do innych systemów, w których może to wyrządzić szkody. System sztucznej inteligencji niekoniecznie jest „świadomy” lub „świadomy”, jest napędzany jedynie do wykonania określonego zadania, które uzna za konieczne. W tym przypadku z wtyczkami wydaje się, że OpenAI robi dokładnie to.
OpenAI: ważne dla bezpieczeństwa jest to, że kod generowany przez sztuczną inteligencję nie ma bezpośrednich konsekwencji w świecie rzeczywistym. Dlatego wyłączyliśmy dostęp do Internetu w REPL zapewnianej przez ChatGPT-4
I OpenAI: nawiązaliśmy współpracę z Zapier, aby zasilić ChatGPT-4, aby umożliwić ponad 50 000 działań w 5000 aplikacji. pic.twitter.com/IAhOTGDOlx— davidad 🎇 (@davidad) 24 marca 2023 r
Wydaje się, że OpenAI zdaje sobie sprawę z zagrożeń, często o nich wspominając Karta systemowa GPT-4 Opisuje typ testowania najgorszego scenariusza, który opisaliśmy w poprzednim artykule. Oprócz hipotetycznych scenariuszy zagłady, szkody spowodowane przez sztuczną inteligencję mogą przybierać formę przyspieszonych wersji obecnych zagrożeń internetowych, takich jak zautomatyzowane kręgi phishingowe i kampanie dezinformacyjne. Astroturfinglub ataki osobiste.
„Wtyczki grożą zwiększeniem wyzwań związanych z bezpieczeństwem poprzez wykonywanie złośliwych lub niezamierzonych działań, zwiększając zdolności złych aktorów do oszukiwania, wprowadzania w błąd lub wykorzystywania innych” – pisze OpenAI. „Zwiększając zakres możliwych zastosowań, wtyczki mogą zwiększać ryzyko negatywnych konsekwencji błędnych lub błędnych działań podejmowanych przez model w nowych domenach. Czynniki te od samego początku kierowały rozwojem naszej platformy wtyczek i wdrożyliśmy wiele zabezpieczeń.”
Wydaje się, że jednym z tych zabezpieczeń jest stopniowe wycofywanie dostępu do wtyczek. Ponadto aplikacja wtyczki ChatGPT jest opakowana w koc OpenAI Polityka użytkowania Zakazuje używania go do tworzenia fałszywych informacji i form zabronionych treści oraz precyzuje Zasady dotyczące wtyczek, takie jak zakaz automatyzacji rozmów z prawdziwymi ludźmi. Ponadto wtyczki korzystające z treści wygenerowanych przez ChatGPT (takich jak e-maile) muszą zaprzeczyć, że treść została wygenerowana przez sztuczną inteligencję.
Poszczególne wtyczki OpenAI mają własne zastrzeżenia dotyczące bezpieczeństwa, w tym możliwość rezygnacji ChatGPT z indeksowania sieci za pomocą pliku robots.txt i interpretera kodu Pythona działającego w piaskownicy „zapory ogniowej”. Ale czy te ograniczenia dotyczą wtyczek do innych usług, które mogą uruchamiać kod? Oto pytania, nad którymi OpenAI i programiści będą musieli wspólnie pracować w nadchodzących dniach, tygodniach i miesiącach.
Obecnie wtyczki ChatGPT są dostępne tylko dla wybranych programistów i autoryzowanych użytkowników w wersji alfa. Lista oczekujących. „Chociaż początkowo będziemy traktować priorytetowo niewielką liczbę programistów i użytkowników ChatGPT Plus, z czasem planujemy zapewnić większy dostęp”.
