Chatboty Google i Microsoft kosztują prawdopodobnie nawet 10 razy więcej niż normalne wyszukiwanie

Na początku tego miesiąca Google ogłosił plany uruchomienia Bard, chatbota AI zaprojektowanego, aby pomóc użytkownikom znaleźć informacje za pomocą modelu języka naturalnego. Microsoft ogłosił również nową wyszukiwarkę Bing, z własnym chatbotem, który łączy technologię Microsoft z technologią OpenAI, firmy stojącej za ChatGPT.

Jednak jednym z aspektów całej technologii chatbotów, o którym żadna z tych firm nie mówi zbyt wiele, jest koszt eksploatacji. Nowy raport agencji Reuters zawiera więcej informacji na temat tej części tej nowej technologii. Rozmawiał z prezesem Alphabet, Johnem Hennessym, który stwierdził, że korzystanie z chatbota z dużym modelem językowym prawdopodobnie kosztuje nawet 10 razy więcej niż normalne wyszukiwanie.

we will have to monetize it somehow at some point; the compute costs are eye-watering

— Sam Altman (@sama) December 5, 2022

W grudniu 2022 r., tuż po uruchomieniu ChatGPT, dyrektor generalny OpenAI, Sam Altman, stwierdził na Twitterze , że „koszty obliczeniowe są oszałamiające”. za cenę 20 dolarów miesięcznie.

Reuters wykorzystał raport Morgan Stanley, który oszacował, że kosztowało to Google jedną piątą centa za każdym razem, gdy ktoś przeprowadził wyszukiwanie w jego usłudze w 2022 r. Jednak szacuje, że gdyby umieścić chatbot AI, taki jak Bard, wyszukiwarka Google koszty mogą wzrosnąć nawet o 6 miliardów dolarów w 2024 roku. To przy założeniu, że chatbot obsługuje połowę wyszukiwań Google z odpowiedziami składającymi się z 50 słów.

Oczywiście powodem tych wyższych kosztów jest to, że potrzeba znacznie więcej procesorów, aby wygenerować te wszystkie naturalnie brzmiące odpowiedzi z chatbota AI. Oznacza to również wyższe koszty energii elektrycznej potrzebnej do utrzymania działania tych serwerów.

Co zatem można zrobić, aby obniżyć koszty? Jedną rzeczą, która prawdopodobnie się wydarzy, jest to, że te chatboty staną się po prostu bardziej wydajne, a tym samym będą tańsze w obsłudze, ale nie jest jasne, jak bardzo wpłynie to na obniżenie ceny. Innym rozwiązaniem jest to, że Google i Microsoft mogą wyświetlać linki do reklam w odpowiedziach chatbota, co będzie generować przychody, które zrekompensują koszty obsługi tych serwerów.

Inne rozwiązanie to coś, co ChatGPT już robi; oferując usługę subskrypcji, w której użytkownicy mogą uzyskać szybsze i lepsze odpowiedzi chatbota. Ta opcja może być ostatecznością dla Google i Microsoftu. Ponieważ coraz więcej użytkowników uzyskuje dostęp do tych nowych usług wyszukiwania opartych na sztucznej inteligencji, będą musieli dowiedzieć się, czy koszty spadną na tyle, aby te firmy stały się opłacalne ekonomicznie dla ich wyników finansowych.