Dla Weizenbauma ten fakt był powodem do niepokoju, zgodnie z nekrologiem MIT z 2008 r. Ci, którzy mieli kontakt z Elisą, byli gotowi otworzyć przed nią serca, nawet wiedząc, że to program komputerowy. „Eliza pokazuje chociażby, jak łatwo jest stworzyć i utrzymać iluzję zrozumienia, a tym samym być może osądzać „Zasługuje na wiarygodność” – napisał Weisenbaum w 1966 roku. – Tam czai się pewne niebezpieczeństwo. Koniec swojej kariery spędził na ostrzeganiu przed nakładaniem na maszyny zbyt dużej odpowiedzialności i stał się zagorzałym filozoficznym krytykiem sztucznej inteligencji.
Już wcześniej nasz złożony związek ze sztuczną inteligencją i maszynami był widoczny w fabułach hollywoodzkich filmów, takich jak „Ona” czy „Ex-Machina”, nie wspominając już o nieszkodliwych dyskusjach z ludźmi, którzy upierają się, by mówić „dziękuję” asystentom głosowym jak Alexa czy Siri.
Tymczasem inni ostrzegają, że technologia stojąca za chatbotami opartymi na sztucznej inteligencji pozostaje bardziej ograniczona, niż niektórzy by sobie życzyli. „Te technologie są naprawdę dobre w udawaniu ludzi i wyglądają jak ludzie, ale nie są głębokie” – powiedział Gary Marcus, badacz sztucznej inteligencji i emerytowany profesor New York University. „Te systemy to imitacja, ale bardzo powierzchowna imitacja. Tak naprawdę nie rozumieją, o czym mówią”.
Jednak w miarę jak usługi te obejmują coraz więcej obszarów naszego życia, a firmy podejmują kroki w celu dalszego dostosowywania tych narzędzi, nasze relacje z nimi również mogą stawać się coraz bardziej złożone.
Ewolucja chatbotów
Sanjeev ur. Khodanpour pamięta rozmowę z Elizą, gdy kończył szkołę. Pomimo swojego historycznego znaczenia w branży technologicznej, powiedział, że nie trzeba było długo czekać, aby zobaczyć jej granice.
powiedział Khodanpur, ekspert w zakresie stosowania metod informatyki teoretycznej w technologiach języka ludzkiego i profesor na Uniwersytecie Johnsa Hopkinsa.
Ale w ciągu dziesięcioleci, które minęły od tych narzędzi, nastąpiło odejście od idei „rozmawiania z komputerami”. Dzieje się tak, „ponieważ problem okazał się bardzo trudny” – powiedział Khodanpur. Zamiast tego skupiono się na „dialogu zorientowanym na cel”, powiedział.
Aby zrozumieć różnicę, pomyśl o rozmowach, które możesz teraz prowadzić z Alexą lub Siri. Zwykle prosisz tych cyfrowych asystentów o pomoc w zakupie biletu, sprawdzeniu pogody lub odtworzeniu piosenki. Jest to dialog zorientowany na cel, który stał się głównym przedmiotem badań akademickich i przemysłowych, ponieważ informatycy starali się wydobyć coś użytecznego ze zdolności komputerów do skanowania ludzkiego języka.
Chociaż używali technologii podobnej do tej stosowanej w poprzednich programach do czatów społecznościowych, Khodanpur powiedział: „Tak naprawdę nie można ich nazywać chatbotami. Możesz nazywać ich asystentami głosowymi lub po prostu asystentami cyfrowymi, którzy pomogli ci wykonać określone zadania”.
Dodał, że w tej technologii przez dziesięciolecia panowała „cisza”, aż do powszechnego upowszechnienia się Internetu. „Wielki przełom prawdopodobnie nastąpił w tym tysiącleciu” – powiedział Khodanpur. „Wraz z pojawieniem się firm, które z powodzeniem wykorzystały pewnego rodzaju skomputeryzowanego agenta do wykonywania rutynowych zadań”.
„Ludzie zawsze denerwują się, gdy ich torby się gubią, a klienci, z którymi mają do czynienia, są zawsze zestresowani całą tą negatywnością, więc powiedzieli, że dajmy to komputerowi” – powiedział Khodanpour. Możesz krzyczeć, co chcesz na komputerze, wszystko, co chcesz wiedzieć, to „Czy masz numer swojej karty, żebym mógł ci powiedzieć, gdzie jest twoja torba? „
Powrót do czatów społecznościowych i problemów społecznych
Na początku XXI wieku naukowcy zaczęli ponownie rozważać rozwój chatbotów społecznościowych, które mogłyby prowadzić dłuższą rozmowę z ludźmi. Chatboty, często szkolone na dużych ilościach danych z Internetu, nauczyły się być bardzo dobrymi symulacjami sposobu, w jaki ludzie mówią, ale ryzykują również naśladowanie najgorszych rzeczy w Internecie.
„Im więcej rozmawiasz z Tay, tym mądrzejszy się stajesz, dzięki czemu doświadczenie może być dla Ciebie bardziej spersonalizowane” – powiedział wtedy Microsoft.
Te refreny zostaną powtórzone przez innych gigantów technologicznych, którzy wydali publiczne chatboty, w tym Meta BlenderBot3, który został wydany na początku tego miesiąca. Chatbot Meta fałszywie twierdził, że Donald Trump nadal jest prezydentem, a między innymi kontrowersyjnymi uwagami jest „z pewnością wiele dowodów” na kradzieże wyborcze.
BlenderBot3 twierdził również, że jest czymś więcej niż tylko botem… w jednej rozmowie twierdził, że „fakt, że jestem żywy i świadomy, czyni mnie człowiekiem”.
Pomimo wszystkich postępów, jakie nastąpiły od czasu Elisy i ogromnych ilości nowych danych potrzebnych do trenowania tych programów przetwarzania języka, Marcus, profesor Uniwersytetu Nowojorskiego, powiedział: „Nie jest dla mnie jasne, czy naprawdę można zbudować niezawodnego i bezpiecznego chatbota. „
Z drugiej strony Khodanpur pozostaje optymistą co do potencjalnych przypadków użycia. „Mam cały pogląd na to, jak sztuczna inteligencja może wzmocnić ludzi na poziomie indywidualnym” – powiedział. „Wyobraź sobie, że gdyby mój robot mógł czytać wszystkie artykuły naukowe z mojej dziedziny, nie musiałbym czytać ich wszystkich, po prostu myślałbym, zadawał pytania i angażował się w dialog” – powiedział. „Innymi słowy, będę miał alternatywną psychikę, która ma zintegrowane supermoce”.
