Chatboty: długa i złożona historia

Eliza, powszechnie uznawana za pierwszego chatbota, nie była tak wszechstronna jak dzisiejsze podobne usługi. Program, który polegał na zrozumieniu języka naturalnego, reagował na słowa kluczowe, a następnie zwracał dialog użytkownikowi. Jednak, jak napisał Joseph Weisenbaum, informatyk z MIT, który stworzył Elisę, w: praca naukowa W 1966 r. „Bardzo trudno było przekonać niektórych ludzi, że Elisa (w jej obecnym charakterystyce pisma) nie jest człowiekiem”.

Dla Weizenbauma ten fakt był powodem do niepokoju, zgodnie z nekrologiem MIT z 2008 r. Ci, którzy mieli kontakt z Elisą, byli gotowi otworzyć przed nią serca, nawet wiedząc, że to program komputerowy. „Eliza pokazuje chociażby, jak łatwo jest stworzyć i utrzymać iluzję zrozumienia, a tym samym być może osądzać „Zasługuje na wiarygodność” – napisał Weisenbaum w 1966 roku. – Tam czai się pewne niebezpieczeństwo. Koniec swojej kariery spędził na ostrzeganiu przed nakładaniem na maszyny zbyt dużej odpowiedzialności i stał się zagorzałym filozoficznym krytykiem sztucznej inteligencji.

Już wcześniej nasz złożony związek ze sztuczną inteligencją i maszynami był widoczny w fabułach hollywoodzkich filmów, takich jak „Ona” czy „Ex-Machina”, nie wspominając już o nieszkodliwych dyskusjach z ludźmi, którzy upierają się, by mówić „dziękuję” asystentom głosowym jak Alexa czy Siri.

Współczesne chatboty mogą również wywoływać silne reakcje emocjonalne użytkowników, gdy nie działają zgodnie z oczekiwaniami – lub gdy stają się tak dobre w naśladowaniu wadliwej ludzkiej mowy, że zostały przeszkolone, że zaczynają wygłaszać rasistowskie i podburzające komentarze. Na przykład nie trwało to długo Nowy bot czatu w Meta Aby wywołać w tym miesiącu pewne kontrowersje, publikując w rozmowach z użytkownikami w dużej mierze niepoprawne komentarze polityczne i antysemickie wypowiedzi.
Zwolennicy tej technologii twierdzą jednak, że może ona usprawnić funkcje obsługi klienta i zwiększyć wydajność w znacznie szerszym zakresie branż. Ta technologia zasila cyfrowych asystentów, a wielu z nas używa jej na co dzień do odtwarzania muzyki, zamawiania dostawy lub sprawdzania zadań domowych. Niektórzy argumentują również, że te chatboty oferują ulgę samotnym, starszym lub odizolowanym. Przynajmniej raz początek Posunął się tak daleko, że wykorzystał go jako narzędzie do utrzymywania przy życiu zmarłych krewnych poprzez tworzenie kopii generowanych komputerowo na podstawie przesłanych czatów.

Tymczasem inni ostrzegają, że technologia stojąca za chatbotami opartymi na sztucznej inteligencji pozostaje bardziej ograniczona, niż niektórzy by sobie życzyli. „Te technologie są naprawdę dobre w udawaniu ludzi i wyglądają jak ludzie, ale nie są głębokie” – powiedział Gary Marcus, badacz sztucznej inteligencji i emerytowany profesor New York University. „Te systemy to imitacja, ale bardzo powierzchowna imitacja. Tak naprawdę nie rozumieją, o czym mówią”.

READ  Wordle 356 Jun 10 Wskazówki - Dzisiejsze Wordle jest zbyt trudne? Poradniki bez spoilerów, które pomogą znaleźć odpowiedź | Gry | zabawa

Jednak w miarę jak usługi te obejmują coraz więcej obszarów naszego życia, a firmy podejmują kroki w celu dalszego dostosowywania tych narzędzi, nasze relacje z nimi również mogą stawać się coraz bardziej złożone.

Ewolucja chatbotów

Sanjeev ur. Khodanpour pamięta rozmowę z Elizą, gdy kończył szkołę. Pomimo swojego historycznego znaczenia w branży technologicznej, powiedział, że nie trzeba było długo czekać, aby zobaczyć jej granice.

powiedział Khodanpur, ekspert w zakresie stosowania metod informatyki teoretycznej w technologiach języka ludzkiego i profesor na Uniwersytecie Johnsa Hopkinsa.

Joseph Weisenbaum, wynalazca Elisy, siedzi przy biurku komputera w Muzeum Komputerów w Paderborn, Niemcy, maj 2005.
W 1971 roku psychiatra Kenneth Colby z Uniwersytetu Stanforda opracował innego wczesnego robota mówiącego, którego nazwał „Barry”, ponieważ miał naśladować schizofrenika paranoidalnego. (The New York Times 2001 pośmiertny W przypadku Colby’ego była to barwna rozmowa, która nastąpiła, gdy badacze połączyli Elisę i Barry’ego.)

Ale w ciągu dziesięcioleci, które minęły od tych narzędzi, nastąpiło odejście od idei „rozmawiania z komputerami”. Dzieje się tak, „ponieważ problem okazał się bardzo trudny” – powiedział Khodanpur. Zamiast tego skupiono się na „dialogu zorientowanym na cel”, powiedział.

Wkrótce nowy chatbot Meta powiedział coś obraźliwego

Aby zrozumieć różnicę, pomyśl o rozmowach, które możesz teraz prowadzić z Alexą lub Siri. Zwykle prosisz tych cyfrowych asystentów o pomoc w zakupie biletu, sprawdzeniu pogody lub odtworzeniu piosenki. Jest to dialog zorientowany na cel, który stał się głównym przedmiotem badań akademickich i przemysłowych, ponieważ informatycy starali się wydobyć coś użytecznego ze zdolności komputerów do skanowania ludzkiego języka.

Chociaż używali technologii podobnej do tej stosowanej w poprzednich programach do czatów społecznościowych, Khodanpur powiedział: „Tak naprawdę nie można ich nazywać chatbotami. Możesz nazywać ich asystentami głosowymi lub po prostu asystentami cyfrowymi, którzy pomogli ci wykonać określone zadania”.

Dodał, że w tej technologii przez dziesięciolecia panowała „cisza”, aż do powszechnego upowszechnienia się Internetu. „Wielki przełom prawdopodobnie nastąpił w tym tysiącleciu” – powiedział Khodanpur. „Wraz z pojawieniem się firm, które z powodzeniem wykorzystały pewnego rodzaju skomputeryzowanego agenta do wykonywania rutynowych zadań”.

Wraz z pojawieniem się inteligentnych głośników, takich jak Alexa, coraz częściej ludzie rozmawiają z urządzeniami.

„Ludzie zawsze denerwują się, gdy ich torby się gubią, a klienci, z którymi mają do czynienia, są zawsze zestresowani całą tą negatywnością, więc powiedzieli, że dajmy to komputerowi” – ​​powiedział Khodanpour. Możesz krzyczeć, co chcesz na komputerze, wszystko, co chcesz wiedzieć, to „Czy masz numer swojej karty, żebym mógł ci powiedzieć, gdzie jest twoja torba? „

Na przykład w 2008 r. uruchomiono Alaska Airlines Jane, cyfrowa asystentka pomagająca podróżnikom. Na znak naszej skłonności do humanizowania tych narzędzi, wczesna recenzja O serwisie w „The New York Times” powiedział: „Jane nie jest denerwująca. Na stronie internetowej jest przedstawiana jako młoda brunetka z delikatnym uśmiechem. Jej głos ma odpowiednią tonację. Napisz pytanie, a ona sprytnie odpowie. wybierzcie się z nią na wycieczkę, powiedzmy, niezdarny tekst na podryw w barze, uprzejmie proponujący powrót do pracy.

Powrót do czatów społecznościowych i problemów społecznych

Na początku XXI wieku naukowcy zaczęli ponownie rozważać rozwój chatbotów społecznościowych, które mogłyby prowadzić dłuższą rozmowę z ludźmi. Chatboty, często szkolone na dużych ilościach danych z Internetu, nauczyły się być bardzo dobrymi symulacjami sposobu, w jaki ludzie mówią, ale ryzykują również naśladowanie najgorszych rzeczy w Internecie.

Na przykład w 2015 r. publiczny eksperyment Microsoftu z chatbotem AI o nazwie Tay roztrzaskany i spalony W mniej niż 24 godziny. Tay miał mówić jak nastolatek, ale wkrótce zaczął wygłaszać rasistowskie i nienawistne komentarze do tego stopnia, że ​​Microsoft go zamknął. (Firma poinformowała, że ​​ludzie podjęli również skoordynowane wysiłki, aby nakłonić Taya do wygłoszenia obraźliwych komentarzy.)

„Im więcej rozmawiasz z Tay, tym mądrzejszy się stajesz, dzięki czemu doświadczenie może być dla Ciebie bardziej spersonalizowane” – powiedział wtedy Microsoft.

READ  Ugaś pragnienie dzięki przedsprzedażowej ofercie Nintendo Switch Sports (USA)

Te refreny zostaną powtórzone przez innych gigantów technologicznych, którzy wydali publiczne chatboty, w tym Meta BlenderBot3, który został wydany na początku tego miesiąca. Chatbot Meta fałszywie twierdził, że Donald Trump nadal jest prezydentem, a między innymi kontrowersyjnymi uwagami jest „z pewnością wiele dowodów” na kradzieże wyborcze.

BlenderBot3 twierdził również, że jest czymś więcej niż tylko botem… w jednej rozmowie twierdził, że „fakt, że jestem żywy i świadomy, czyni mnie człowiekiem”.

Nowy chatbot Meta, BlenderBot3, wyjaśnia użytkownikowi, dlaczego tak naprawdę jest człowiekiem.  Jednak nie trzeba było długo czekać, aby chatbot wywołał kontrowersje poprzez wygłaszanie podżegających uwag.

Pomimo wszystkich postępów, jakie nastąpiły od czasu Elisy i ogromnych ilości nowych danych potrzebnych do trenowania tych programów przetwarzania języka, Marcus, profesor Uniwersytetu Nowojorskiego, powiedział: „Nie jest dla mnie jasne, czy naprawdę można zbudować niezawodnego i bezpiecznego chatbota. „

Męczeństwo 2015 Projekt Facebook o pseudonimie „M” Robotyczny asystent osobisty miał być odpowiedzią tekstową firmy na usługi takie jak Siri i Alexa „Pomysł polegał na tym, że miał to być ten uniwersalny asystent, który pomoże ci zamówić romantyczną kolację i sprawi, że muzycy zagrają dla ciebie i dostarczy kwiaty – daleko od tego, co mógłby zrobić Siri” – powiedział Marcus. Zamiast tego usługa została zamknięta w 2018 roku, po rozczarowującym okresie.

Z drugiej strony Khodanpur pozostaje optymistą co do potencjalnych przypadków użycia. „Mam cały pogląd na to, jak sztuczna inteligencja może wzmocnić ludzi na poziomie indywidualnym” – powiedział. „Wyobraź sobie, że gdyby mój robot mógł czytać wszystkie artykuły naukowe z mojej dziedziny, nie musiałbym czytać ich wszystkich, po prostu myślałbym, zadawał pytania i angażował się w dialog” – powiedział. „Innymi słowy, będę miał alternatywną psychikę, która ma zintegrowane supermoce”.

Dodaj komentarz

Twój adres e-mail nie zostanie opublikowany.