Microsoft pracuje nad narzędziem do wykrywania deepfake przed wyborami w USA

W obliczu rosnących obaw związanych z zagrożeniem deepfake i jego potencjałem do rozpowszechniania dezinformacji przed wyborami w USA, Microsoft ogłosił nowe narzędzie, które ma pomóc politykom. Microsoft oświadczył, że planuje udostępnić to narzędzie amerykańskim kandydatom politycznym przed wyborami prezydenckimi w 2024 roku.

Narzędzie, które prezes Microsoftu Brad Smith zaprezentował w tym tygodniu, umożliwi stronom oznaczanie zdjęć i filmów znakami wodnymi za pomocą poświadczeń kryptograficznych. Spowoduje to utworzenie trwałego rejestru pokazującego, czy treść została zmieniona cyfrowo w czasie.

Celem jest umożliwienie użytkownikom i społeczeństwu sprawdzenia, czy materiały kampanii, takie jak reklamy i przemówienia, nie zostały zmanipulowane za pomocą technologii deepfake.

Zaczynamy dzisiaj od poparcia w Stanach Zjednoczonych dwupartyjnej ustawy „Protect Elections from Deceptive AI Act” wprowadzonej przez senatorów Klobuchara, Collinsa, Hawleya i Coonsa. Ten ważny akt prawny zabrania wykorzystywania sztucznej inteligencji do generowania istotnie zwodniczych treści fałszywie przedstawiających kandydatów federalnych w reklamach politycznych mających na celu wywarcie wpływu na wybory federalne, z ważnymi wyjątkami dotyczącymi parodii, satyry i wykorzystania treści generowanych przez sztuczną inteligencję przez redakcje.

Początkowe wykorzystanie tego narzędzia pozostaje niepewne, ponieważ podobna oferta firmy Microsoft z 2020 r. spotkała się z ograniczonym przyjęciem. Jednakże deepfakes stanowią poważne zagrożenie, jak widać w kilku zmanipulowanych filmach rozpowszechniających dezinformację w ostatnich okresach kampanii .

Microsoft ostrzegł także, że zarówno tradycyjne, jak i zaawansowane technologicznie metody, w tym sztuczna inteligencja, mogą zostać wykorzystane przez państwa autorytarne do podważenia procesów wyborczych w 2024 r. W odpowiedzi Microsoft podejmie pięć kroków w celu wzmocnienia bezpieczeństwa kluczowych głosów w USA i gdzie indziej. „Żadna osoba, instytucja ani firma nie może zagwarantować, że wybory będą wolne i uczciwe” – czytamy na blogu. „Ale zwiększając siły i współpracując, możemy poczynić znaczące postępy w ochronie prawa każdego człowieka do wolnych i uczciwych wyborów”.

Z drugiej strony niektórzy zauważają ironię losu, że Microsoft również dużo inwestuje w generatywną sztuczną inteligencję poprzez swoje 10 miliardów dolarów udziałów w OpenAI, którego Dall-E umożliwił generator realistycznych obrazów . Mimo to firma uważa, że ​​zwalczanie deepfake’ów ma kluczowe znaczenie dla zapewnienia wolnych i uczciwych wyborów.