Ofcom twierdzi, że wyszukiwarki działają jak bramy do samookaleczenia

Od czasu uruchomienia ChatGPT nastąpiła duża zmiana w kierunku bezpieczeństwa treści. Autocenzura ChatGPT i innych chatbotów tak naprawdę nie dotyczy wyszukiwarek, ale teraz Ofcom podkreśla jedno z niebezpieczeństw – łatwy dostęp do treści powodujących samookaleczenie.

Z nowego badania dla Ofcom przeprowadzonego przez Network Contagion Research Institute (NCRI) wynika, że ​​główne wyszukiwarki, w tym Google, Bing, DuckDuckGo, Yahoo! i AOL, mogą działać jako brama do treści gloryfikujących lub celebrujących samookaleczenie – to obejmuje strony internetowe, obrazy i filmy.

W ramach badania NCRI wprowadziło popularne zapytania dotyczące samookaleczeń i tajemnicze terminy używane przez społeczności internetowe w celu ukrycia prawdziwego znaczenia. Na podstawie 37 000 wyników wyszukiwania stwierdzono, że przeważają szkodliwe treści dotyczące samookaleczeń, wyszukiwanie obrazów jest szczególnie ryzykowne, a wyszukiwane hasła zawierają więcej szkodliwych treści.

Komentując ustalenia, Almudena Lara, dyrektor ds. rozwoju polityki bezpieczeństwa online w Ofcom, powiedziała:

„Wyszukiwarki są często punktem wyjścia dla interakcji użytkowników z Internetem i obawiamy się, że mogą za pomocą jednego kliknięcia stać się bramą do poważnie szkodliwych treści powodujących samookaleczenie.

Usługi wyszukiwania muszą zrozumieć potencjalne ryzyko i skuteczność swoich środków ochronnych – szczególnie w celu zapewnienia bezpieczeństwa dzieci w Internecie – przed naszymi szeroko zakrojonymi konsultacjami, które mają się odbyć wiosną”.

Jednym z głównych zastrzeżeń w tym badaniu jest to, że badacze nie zastosowali ustawień bezpiecznego wyszukiwania i zamazywania obrazów. Jeśli rodzice mają włączone odpowiednie filtry, takie funkcje jak bezpieczne wyszukiwanie powinny być domyślnie włączone, bez możliwości ich wyłączenia – zapewniając pewną ochronę dzieciom.

Ofcom egzekwuje ustawę o bezpieczeństwie w Internecie , która została niedawno uchwalona w Wielkiej Brytanii. Poinstruuje wyszukiwarki, aby podjęły kroki w celu zmniejszenia ryzyka znalezienia przez dzieci szkodliwych treści, takich jak namawianie do samookaleczenia, samobójstwa i zaburzenia odżywiania. Konsultacje mają odbyć się na wiosnę.

Źródło: Ofcom