Jak zablokowanie w Google zdjęcia jego dziecka przez tatę ujawnia zepsuty system recenzji Doliny Krzemowej
Firmy z Doliny Krzemowej wystawiają duży program na temat prywatności i przestrzeni użytkownika, ale większość z nich nie dba o spełnienie kilku podstawowych norm prawnych. NYT niedawno doniósł o historii, w której Google dożywotnio zakazał rodzicom małego dziecka z powodu zdjęć ich własnego dziecka, które zostały zapisane w chmurze.
Mark, który pracuje zdalnie ze swojego domu w San Francisco, zauważył infekcję w okolicy pachwiny syna. Jego żona użyła jego telefonu, aby zrobić kilka wysokiej jakości zdjęć i przesłać je do systemu przesyłania wiadomości dostawcy opieki zdrowotnej przed skonsultowaniem się z lekarzem. Na szczęście była to powszechna infekcja, która ustąpiła po kilku dawkach przepisanych antybiotyków.
Na nieszczęście dla Marka, Google oznaczył zdjęcia na jego telefonie jako materiał potencjalnie przedstawiający wykorzystywanie seksualne dzieci (CSAM) i zawiesił jego konto. Dokonano tego zaledwie dwa dni po zrobieniu zdjęć, a Google powiedział, że konto zostało zawieszone z powodu złośliwej zawartości, która może być nielegalna zgodnie z zasadami Google.
W tym momencie, gdy konto zostało oznaczone jako zawartość CSAM, nikt nie może prosić o pomoc. Incydenty te są natychmiast zgłaszane do Narodowego Centrum Dzieci Zaginionych i Wykorzystywanych (NCMEC), które następnie analizuje materiały. W międzyczasie Mark przeżywa trudności, ponieważ stracił dostęp do wszystkich swoich usług Google, w tym Gmaila, usługi mobilnej Google Fi i innych.
W dzisiejszych czasach profil online danej osoby jest ważną częścią jej tożsamości. Zwykle ludzie zapisują wszystkie swoje dane w chmurze, wszystkie kontakty i zdjęcia. Zablokowanie konta jest dla tych firm przykrym obowiązkiem, ale ma ogromny wpływ na życie danej osoby. Mark miał nadzieję, że dana osoba będzie gdzieś zaangażowana w proces weryfikacji, a jej konto zostanie odblokowane, gdy ktoś wyświetli jego formularz z prośbą o sprawdzenie rozwiązania Google, w którym wyjaśnił wszystkie testy.
Zepsuty system recenzji Big Tech
Przegląd systemu Apple CSAM
Metoda Apple do wykrywania znanych CSAM została zaprojektowana z myślą o prywatności użytkowników. Zamiast skanować obrazy w chmurze, system wykonuje dopasowywanie na urządzeniu przy użyciu bazy danych znanych skrótów obrazów CSAM dostarczonych przez NCMEC i inne organizacje zajmujące się ochroną dzieci. Następnie Apple przekształca tę bazę danych w nieczytelny zestaw skrótów, który jest bezpiecznie przechowywany na urządzeniach użytkowników. Technologia mieszania o nazwie NeuralHash analizuje obraz i konwertuje go na unikalną liczbę charakterystyczną dla tego obrazu. Tylko inny obraz, który wydaje się prawie identyczny, może dać tę samą liczbę; na przykład obrazy różniące się rozmiarem lub jakością transkodowania nadal będą miały tę samą wartość NeuralHash.
Jak można przeczytać w białej księdze Apple na temat CSAM, system opiera się na bazie danych dostarczonej przez NCMEC, a wszelkie dopasowania są natychmiast zgłaszane. Ale system może również wykrywać potencjalnie obraźliwe obrazy poza bazą danych, wykorzystując sztuczną inteligencję i treści związane z eksploatacją, które nie są częścią bazy danych. Zwykle nasilają się, ponieważ mogą oznaczać nową ofiarę, która nie została jeszcze zidentyfikowana.
Ale, jak słusznie stwierdza raport NYT, nie wszystkie zdjęcia nagich dzieci są pornograficzne, wyzyskujące lub obraźliwe. Jest tu również wiele kontekstu, a zakaz uruchamiania szczęśliwych firm technologicznych nie pomaga w rozwiązaniu problemu. Tak czy inaczej, CSAM to genialne narzędzie, które prawdopodobnie uratowało tysiące dzieci przed potencjalnym wykorzystywaniem. Problem tkwi w gigantach Doliny Krzemowej, których procesy weryfikacji są wysoce zautomatyzowane i nieefektywne, a nawet po udowodnieniu niewinności trudno odzyskać konto.
Jeśli chodzi o Marka, miał do czynienia z czymś podobnym. W grudniu 2021 r. otrzymał kopertę z Departamentu Policji San Francisco. Koperta zawierała wszystkie szczegóły dochodzenia, w tym szczegóły wszystkich danych przekazanych organom ścigania przez Google. Jednak śledczy, po przestudiowaniu wszystkich danych, uniewinnił Marka od popełnienia przestępstw i sprawa została zamknięta. Ale to nie wystarczyło Google, ponieważ Mark nadal nie miał dostępu do żadnego ze swoich kont Google. W pewnym momencie rozważał nawet pozwanie Google, ale uznał, że nie jest to warte 7 000 USD opłat prawnych.
Dodaj komentarz