ChatGPT dostaje „oczy i uszy” dzięki wtyczkom, które mogą łączyć AI ze światem – Ars Technica

W czwartek OpenAI zdeklarowany System wtyczek dla swojego asystenta ChatGPT AI. ChatGPT daje ChatGPT możliwość interakcji z szerszym światem przez Internet, w tym rezerwowania lotów, zamawiania artykułów spożywczych, surfowania po Internecie i nie tylko. Wtyczki to fragmenty kodu, które mówią ChatGPT, jak korzystać z zewnętrznych zasobów w Internecie.

Zasadniczo, jeśli programista chce dać ChatGPT możliwość dostępu do dowolnej usługi sieciowej (na przykład: „znajdowanie aktualnych cen akcji”) lub dowolnego zadania kontrolowanego przez usługę sieciową (na przykład: „zamawianie pizzy przez Internet”), jest to teraz możliwe, o ile nie narusza zasad OpenAI.

Zwykle bardzo duże modele językowe (LLM), takie jak ChatGPT, są zamknięte w bańce i mogą wchodzić w interakcje ze światem tylko poprzez rozmowy tekstowe z użytkownikiem. Jak pisze OpenAI we wstępie Blog Spośród wtyczek ChatGPT: „Jedyne, co modele językowe mogą zrobić po wyjęciu z pudełka, to wyświetlanie tekstu”.

Bing Chat umożliwił temu paradygmatowi wyszukiwanie nowszych informacji w sieci, ale jak dotąd ChatGPT był odizolowany od szerszego świata. Po zablokowaniu w ten sposób ChatGPT może pobierać dane tylko ze swojego zestawu treningowego (2021 i wcześniejsze) oraz informacje podane przez użytkownika podczas rozmowy. Ponadto ChatGPT jest podatny na błędy rzeczowe i pomyłki (co badacze sztucznej inteligencji nazywają „halucynacjami”).

Aby przezwyciężyć te ograniczenia, OpenAI opracowało Bubble Popping Interfejs wtyczki ChatGPT (OpenAI nazywa ChatGPT „oczami i uszami”) Pozwala to programistom na tworzenie nowych komponentów, które „podłączają” się do ChatGPT i pozwalają modelowi AI na interakcję z innymi usługami w sieci. Te usługi mogą Wykonaj obliczenia i podaj informacje faktyczne, aby zredukować halucynacje, a jeśli programiści utworzą wtyczkę do tego zadania, mogą wchodzić w interakcje z dowolną inną usługą oprogramowania w Internecie.

O jakich wtyczkach mówimy?

W przypadku ChatGPT OpenAI pozwoli użytkownikom wybrać z listy wtyczek przed rozpoczęciem sesji ChatGPT. Wyglądają prawie identycznie jak aplikacje w App Store, a każda wtyczka ma własną ikonę i opis.

OpenAI twierdzi, że pierwsza runda wtyczek została opracowana przez następujące firmy:

• Expedia (do planowania podróży)
• Uwaga finansowa (Dla danych rynkowych w czasie rzeczywistym)
• Instacart (do zamawiania artykułów spożywczych)
• Kajak (wyszukiwanie lotów i samochodów do wynajęcia)
• Clarina (do porównywania cen)
• Milo (Asystent rodzica oparty na sztucznej inteligencji)
• OpenTable (dla rekomendacji restauracji i rezerwacji)
• Shopify (aby robić zakupy w tej witrynie)
• Slack (do komunikacji)
• rozmawiać (dla szkoleń językowych opartych na sztucznej inteligencji)
• Wolfram (do obliczeń i danych w czasie rzeczywistym)
• Zapier (platforma automatyzacji)

W szczególności wtyczka Zapier wydaje się być bardzo potężna, ponieważ zapewnia dostęp ChatGPT do istniejącego systemu automatyzacji oprogramowania, Albo jako Zapier Możesz poprosić ChatGPT o wykonanie ponad 50 000 czynności (w tym wyszukiwanie, aktualizowanie i pisanie) w dowolnej z ponad 5000 obsługiwanych aplikacji Zapier. To kontakty w CRM zamieniają czat w działania, a następnie aktualizują je bezpośrednio lub dodają wiersze do arkusza kalkulacyjnego, a następnie wysyłają je jako wiadomość Slack. Możliwości są nieskończone.”

OpenAI zapewnia również trzy wtyczki, przeglądarkę internetową (która może pobierać informacje z sieci w sposób podobny do czatu Bing), interpreter kodu do uruchamiania programów w języku Python (w piaskownicy) oraz narzędzie do pobierania, które umożliwia dostęp. Indywidualne lub instytucjonalne” źródła informacji dostarczane gdzie indziej (głównie wydobywanie informacji z dokumentów).

Podczas gdy OpenAI nazywa proces wyboru wtyczek „sklepem z wtyczkami”, firma nie ogłosiła planów sprzedaży poszczególnych wtyczek. Ale przy użyciu etykiety „sklep” ta decyzja może zapaść w pewnym momencie.

Już deweloperzy z wczesnym dostępem Szybkie prototypowanie wtyczek do ChatGPT. W porównaniu z innymi podejściami do tworzenia wtyczek sposób działania wtyczek ChatGPT jest niezwykły. „Zamiast tajemnego procesu używaniaKod kleju„Aby połączyć interfejs API z ChatGPT, programista w zasadzie „mówi” ChatGPT, jak korzystać z ich usługi przy użyciu języka naturalnego, a ChatGPT to robi.

Poza tym programiści używają ChatGPT GPT-4 ChatGPT umożliwia pisanie manifestów wtyczek (manifest to „czytelny maszynowo opis możliwości wtyczki i sposobu ich implementacji”, zgodnie z OpenAI), co jeszcze bardziej upraszcza proces tworzenia wtyczek.

Ten rodzaj samoorganizacji wydaje się potencjałem wzrostu nieokreślony teren Dla niektórych programistów. W jednym przypadku użytkownik Twittera o imieniu Rohit Martw się głośno„przyjaciele kryzys egzystencjalny. Gotowe oprogramowanie OpenAI? Co robić oprócz sprzątania i zamiatania?„

Sam Altman, dyrektor generalny OpenAI odpowiedział„NIE.”

Czy to jest bezpieczne?

Podczas gdy OpenAI wcześniej testowało swoje modele sztucznej inteligencji (takie jak GPT-4), aby sprawdzić, czy mają agencję do adaptacji, ulepszania i propagowania się w światowych systemach komputerowych, nie jest zaskoczeniem, że OpenAI wydaje prawie połowę swoich wtyczek ChatGPT. Blog Rozmowy o bezpieczeństwie i lukach w zabezpieczeniach. „Wtyczki mogą mieć szeroki zakres skutków społecznych”, firma od niechcenia zauważa w jednej sekcji Możliwe skutki dla miejsc pracy.

Poza miejscami pracy, wśród niektórych badaczy sztucznej inteligencji utrzymujący się strach wiąże się z umożliwieniem zaawansowanym modelom sztucznej inteligencji dostępu do innych systemów, w których może to wyrządzić szkody. System sztucznej inteligencji niekoniecznie jest „świadomy” lub „świadomy”, jest napędzany jedynie do wykonania określonego zadania, które uzna za konieczne. W tym przypadku z wtyczkami wydaje się, że OpenAI robi dokładnie to.

Wydaje się, że OpenAI zdaje sobie sprawę z zagrożeń, często o nich wspominając Karta systemowa GPT-4 Opisuje typ testowania najgorszego scenariusza, który opisaliśmy w poprzednim artykule. Oprócz hipotetycznych scenariuszy zagłady, szkody spowodowane przez sztuczną inteligencję mogą przybierać formę przyspieszonych wersji obecnych zagrożeń internetowych, takich jak zautomatyzowane kręgi phishingowe i kampanie dezinformacyjne. Astroturfinglub ataki osobiste.

„Wtyczki grożą zwiększeniem wyzwań związanych z bezpieczeństwem poprzez wykonywanie złośliwych lub niezamierzonych działań, zwiększając zdolności złych aktorów do oszukiwania, wprowadzania w błąd lub wykorzystywania innych” – pisze OpenAI. „Zwiększając zakres możliwych zastosowań, wtyczki mogą zwiększać ryzyko negatywnych konsekwencji błędnych lub błędnych działań podejmowanych przez model w nowych domenach. Czynniki te od samego początku kierowały rozwojem naszej platformy wtyczek i wdrożyliśmy wiele zabezpieczeń.”

Wydaje się, że jednym z tych zabezpieczeń jest stopniowe wycofywanie dostępu do wtyczek. Ponadto aplikacja wtyczki ChatGPT jest opakowana w koc OpenAI Polityka użytkowania Zakazuje używania go do tworzenia fałszywych informacji i form zabronionych treści oraz precyzuje Zasady dotyczące wtyczek, takie jak zakaz automatyzacji rozmów z prawdziwymi ludźmi. Ponadto wtyczki korzystające z treści wygenerowanych przez ChatGPT (takich jak e-maile) muszą zaprzeczyć, że treść została wygenerowana przez sztuczną inteligencję.

Poszczególne wtyczki OpenAI mają własne zastrzeżenia dotyczące bezpieczeństwa, w tym możliwość rezygnacji ChatGPT z indeksowania sieci za pomocą pliku robots.txt i interpretera kodu Pythona działającego w piaskownicy „zapory ogniowej”. Ale czy te ograniczenia dotyczą wtyczek do innych usług, które mogą uruchamiać kod? Oto pytania, nad którymi OpenAI i programiści będą musieli wspólnie pracować w nadchodzących dniach, tygodniach i miesiącach.

Obecnie wtyczki ChatGPT są dostępne tylko dla wybranych programistów i autoryzowanych użytkowników w wersji alfa. Lista oczekujących. „Chociaż początkowo będziemy traktować priorytetowo niewielką liczbę programistów i użytkowników ChatGPT Plus, z czasem planujemy zapewnić większy dostęp”.