Google tymczasowo zawiesza generowanie zdjęć w Gemini ze względu na obawy związane z uprzedzeniami

W zeszłym tygodniu konwersacyjna sztuczna inteligencja Google, Gemini, została poddana analizie pod kątem stronniczości w jej zdolności do generowania obrazów ludzi. Użytkownicy zgłosili , że gdy prosili Gemini o zilustrowanie ludzi w kontekstach historycznych lub fikcyjnych scenariuszach, sztuczna inteligencja częściej przedstawiała postacie o ciemniejszej karnacji. Wzbudziło to uzasadnione obawy dotyczące potencjalnej stronniczości w systemie.

W oświadczeniu Google przyznał , że Gemini nie radziło sobie dobrze, jeśli chodzi o reprezentowanie osób o różnym pochodzeniu etnicznym i pochodzeniu w zrównoważony i włączający sposób. Firma zdecydowała się tymczasowo wyłączyć zdolność swojego chatbota AI do generowania obrazów dla ludzi.

Google stwierdził, że włączenie i różnorodność to dla niego niezwykle ważne zasady. Firma nie chciała, aby jej technologie rozprzestrzeniały się lub były w jakikolwiek sposób podatne na stronniczość w świecie rzeczywistym.

Pracujemy już nad rozwiązaniem ostatnich problemów z funkcją generowania obrazów Gemini. W tym czasie wstrzymamy tworzenie wizerunku ludzi i wkrótce ponownie wypuścimy ulepszoną wersję. https://t.co/SLxYPGoqOZ

— Komunikacja Google (@Google_Comms) 22 lutego 2024 r

Kiedy użytkownicy proszą teraz Gemini o utworzenie obrazu, otrzymują wiadomość wyjaśniającą, że ta funkcja jest obecnie niedostępna, ale powróci po odpowiednim rozwiązaniu problemów z uprzedzeniami.

Eksperci stwierdzili (za pośrednictwem AP News ), że generatory obrazów AI borykają się z różnorodnością ze względu na błędy w danych szkoleniowych, w których często brakuje reprezentacji osób ze wszystkich środowisk. Wydaje się, że Google jest zdeterminowany usunąć te ograniczenia w Gemini przed ponownym włączeniem tej funkcji. Chce mieć pewność, że system będzie w stanie reprezentować wszystkie typy ludzi w sposób obiektywny i zrównoważony.

Posunięcie to jest postrzegane jako proaktywny krok w kierunku uczynienia technologii sztucznej inteligencji sprawiedliwymi i włączającymi . W ramach tego ruchu rząd USA podjął w lutym kroki mające na celu promowanie bezpiecznego rozwoju generatywnej sztucznej inteligencji. Apple, OpenAI i Microsoft dołączyły do ​​pierwszego w historii konsorcjum, którego zadaniem jest opracowanie protokołów związanych ze sztuczną inteligencją.