OpenAI widzi wyzwania z pełnym AGI i przedstawia plany ich rozwiązania

Sztuczna inteligencja ogólna (AGI) to termin odnoszący się do systemów AI, które mogą wykonywać dowolne zadania, które mogą wykonać ludzie, a nawet lepiej. Osiągnięcie AGI jest jednym z najbardziej ambitnych i kontrowersyjnych celów w dziedzinie sztucznej inteligencji, ponieważ może mieć głębokie implikacje dla przyszłości ludzkości. OpenAI, firma badawcza AI stojąca za ChatGPT, opublikowała niedawno post na blogu, który daje nam wyobrażenie o tym, jak firma poradzi sobie z wyzwaniami związanymi z tworzeniem i zarządzaniem AGI.

OpenAI chce, aby AGI „wzmocniło ludzkość do maksymalnego rozkwitu wszechświata”. W przypadku AGI może wystąpić potencjalne ryzyko i niepewność, takie jak niewłaściwe użycie, wypadki, a nawet zakłócenia społeczne. Aby temu zaradzić, OpenAI zaproponowało zestaw zasad, którymi kieruje się w swojej pracy nad AGI, przeznaczone na krótką metę –

• Wdrażanie i uczenie się na mniej wydajnych systemach sztucznej inteligencji w prawdziwym świecie w celu zdobycia doświadczenia i informacji zwrotnych
• Demokratyzacja dostępu do korzyści i zarządzania AI
• Opracowanie nowych technik dostosowywania w celu zapewnienia, że ​​systemy AI działają zgodnie z ludzkimi wartościami i preferencjami
• Wzmocnienie instytucji na świecie w celu uzgodnienia szerokich granic wykorzystania i regulacji sztucznej inteligencji
• Udostępnianie społeczeństwu informacji o postępach w zakresie sztucznej inteligencji i poszukiwanie opinii różnych interesariuszy

Z pewnością istnieją również inne czynniki, które będą kształtować wpływ rozwoju AGI na ludzkość. Czynniki te obejmują oś czasu (jak długo zajmie stworzenie AGI), prędkość startową (jak szybko AGI poprawi się), koordynację (jak dobrze różne podmioty będą współpracować lub konkurować w rozwoju AGI) i bezpieczeństwo (jak dobrze dopasowane AGI będzie być z ludzkimi celami). OpenAI mówi, że krótsza oś czasu i wolniejsze prędkości startu dadzą więcej czasu na naukę, adaptację i koordynację między rządami, firmami i całą populacją, aby stopniowo zrozumieć, co się dzieje i doświadczyć zarówno zalet, jak i wad technologii.

Powiedziawszy to, OpenAI ostrzega również przed faktem, że rzeczy nie są przewidywalne, a nawet sama firma nie ma wszystkich odpowiedzi i rozwiązań potencjalnych problemów w przyszłości, zwłaszcza po tym, jak AGI stanie się głównym nurtem. Firma ma nadzieję, że na dłuższą metę rozmowa o tym, jak zarządzać tymi systemami, jak sprawiedliwie rozdzielać korzyści i jak sprawiedliwie dzielić się dostępem, będzie koniecznością.

OpenAI podkreślił również, w jaki sposób struktura firmy jest powiązana z jej misją. Statut firmy określa zasady i cele rozwoju AGI. Ma również limit zwrotów, jakie mogą zarobić jej akcjonariusze, a firma jest faktycznie zarządzana przez zarząd non-profit, który nadzoruje jej działalność. Zarząd może również unieważnić wszelkie interesy nastawione na zysk, jeśli są one sprzeczne z misją firmy.

Możesz przeczytać więcej o tym, jak OpenAI planuje przyszłość AGI, klikając tutaj .

Jesteś za czy przeciw pomysłowi AGI? Daj nam znać, co myślisz w sekcji komentarzy poniżej.