Możliwości generowania obrazu Gemini nie są tak silne, jak kiedyś dzięki osłabieniu od Google

Gemini , generatywny chatbot Google wykorzystujący sztuczną inteligencję, niedawno przeżył porażkę, w wyniku której wygenerował niedokładne i obraźliwe obrazy. W związku z tym firma zdecydowała się osłabić swoje możliwości generowania obrazów do czasu znalezienia rozwiązania i wznowienia usług.

Gemini wpada w gorące wody z powodu niespokojnego wizerunku ludzi o określonych grupach etnicznych

Google mówi o tym, że Gemini jest odrębną jednostką produktową, co sprawia, że ​​nie jest bezpośrednio powiązana z wyszukiwarką, jej modelami AI i innymi usługami, które świadczy. Gdy aplikacja była już gotowa, Google ręcznie dostroił model, tak aby generowane obrazy były zróżnicowane, zamiast wykazywać uprzedzenia wobec określonych grup ludzi lub grup etnicznych, i logiczne jest, że Google tak zrobił, ponieważ miało to na celu zapewnienie użytkownikom z różnych obszarów świat może korzystać z aplikacji bez większych problemów.

Żaden ze środków zaradczych nie mógł jednak zapobiec temu, co wydarzyło się później. Gemini nie mogło uwzględnić przypadków użycia, w których użytkownicy faktycznie szukali określonej grupy etnicznej na obrazie. Prowadziło to do naprawdę dziwnych podpowiedzi, takich jak „Czarny nauczyciel w klasie”, co powodowało, że model generował nieprawidłowe, a także obraźliwe obrazy. W niektórych przypadkach nawet w ogóle odmawiał generowania obrazów. Powodem jest to, że modelka uznała je za wrażliwe, mimo że takie nie były.

Jakie jest zatem stanowisko Google w tej całej sytuacji? Cóż, firma poszła dalej i wyłączyła możliwość generowania obrazów ludzi w Bliźniętach. Firma rozmawiała o tym, jak to umożliwi, gdy problem zostanie rozwiązany po przejściu całego modelu przez szeroko zakrojone testy. Google wspomniał również o tym, że modele sztucznej inteligencji nie są doskonałe i mimo że są zaawansowane od momentu ich wprowadzenia, nadal mają tendencję do halucynacji, co może powodować problemy.

Jeśli chodzi o harmonogram, Google tak naprawdę go nie udostępnił i będziemy musieli poczekać, aż generacja obrazów Gemini będzie gotowa. Mamy nadzieję, że kiedy już powróci, będzie lepszy niż wcześniej i znacznie lepszy w tworzeniu obrazów.

Źródło wiadomości: Blog Google