Prezes Microsoftu Brad Smith przedstawia, w jaki sposób będzie walczyć z „obraźliwymi treściami generowanymi przez sztuczną inteligencję”

Niedawno internet zalały fałszywe zdjęcia gwiazdy pop Taylor Swift, które zawierały treści wulgarne . Niektóre raporty twierdziły, że obrazy zostały utworzone przez osobę korzystającą z programu Microsoft Designer. Microsoft oficjalnie oświadczył, że nie widział na to żadnych dowodów, ale dodał, że wprowadził zmiany w projekcie, „aby wzmocnić nasze podpowiedzi dotyczące filtrowania tekstu i zaradzić niewłaściwemu korzystaniu z naszych usług”.

Dziś prezes Microsoftu Brad Smith napisał post na oficjalnym blogu firmy . Chociaż nie odniósł się do fałszywych obrazów Taylor Swift ani do rzekomego wykorzystania programu Microsoft Designer do tworzenia tych obrazów, Smith stwierdził, że firma obserwuje „gwałtowny rozwój nadużywania nowych narzędzi sztucznej inteligencji przez złe podmioty”.

Smith nakreślił sześć konkretnych obszarów, na których Microsoft będzie się skupiał, aby zwalczać tego rodzaju „obraźliwe treści generowane przez sztuczną inteligencję”. Pierwszym z nich jest pomoc w zwiększeniu bezpiecznego korzystania z tych narzędzi poprzez działania takie jak blokowanie określonych monitów tekstowych, testowanie i szybkie blokowanie użytkowników którzy nadużywają tych narzędzi.

Kolejnym obszarem, nad którym według Smitha pracował Microsoft, była pomoc w identyfikowaniu treści generowanych przez sztuczną inteligencję. Stwierdził:

Korzystamy już z technologii pochodzenia w narzędziach do tworzenia obrazów Microsoft Designer w Bing i Copilot, a także jesteśmy w trakcie rozszerzania pochodzenia multimediów na wszystkie nasze narzędzia, które tworzą obrazy lub manipulują nimi.

Dodał, że firma rozważa przyszłe „techniki znakowania wodnego i pobierania odcisków palców”. Smith powiedział również, że pracuje nad usunięciem obraźliwych treści opartych na sztucznej inteligencji ze swoich usług, takich jak LinkedIn, i usług gier, takich jak Xbox.

Smith powiedział, że chce także współpracować z innymi podmiotami z branży technologicznej oraz organami ścigania, aby zwalczać deepfake oparte na sztucznej inteligencji. Ponadto powiedział, że Microsoft chce współpracować z rządami świata w celu ustanowienia nowych przepisów zakazujących tego rodzaju treści.

Na koniec Smith powiedział, że Microsoft chce pomóc w edukacji społeczeństwa w zakresie identyfikowania fałszywych treści stworzonych w celu oszukiwania ludzi. Uważa, że ​​będzie to „wymagało nowych narzędzi i programów edukacji publicznej”, aby pokazać, jakie treści są prawdziwe, a jakie fałszywe.