Nowe narzędzia chronią młodzież w sieci

Wirtualne światy, takie jak Neopets, Club Penguin, czy Habbo zrzeszają w sumie około 70 milionów użytkowników, w większości poniżej 16 roku życia. Każdy z nich posiada swój profil i może dowoli eksplorować cyfrową rzeczywistość. Według Virtual Worlds Management, obecnie istnieje ponad 200 takich światów dla młodych osób, które działają i rozwijają się. Wraz ze wzrostem liczby takich portali, rośnie zapotrzebowanie na oprogramowanie i moderatorów, którzy mogliby czuwać nad tymi cyfrowymi placami zabaw. Tamara Littleton z firmy eModeration, która mieści się w Londynie, twierdzi, że największymi zagrożeniami, na które narażeni są młodzi ludzie w sieci to prześladowanie (z ang. bullying), ale również nieostrożne podawanie informacji o sobie, które pozwala osobom nieznajomym na identyfikację dzieci i ułatwia dostęp do nich w normalnym świecie. Co ciekawe, Littleton zauważa, że napastowanie seksualne w sieci może się zdarzyć, ale prawdopodobieństwo, że trafi się na takiego dorosłego jest „statystycznie niskie”. Co więcej, nastolatki korzystające z wirtualnych światów często same ściągają na siebie kłopoty i uczestniczą w swoistej zabawie w kotka i myszkę z technologią, która w założeniu ma właśnie ich chronić.

 

 

Zbadać intencje
Jak dotąd moderacja opierała się na detekcji odpowiednich słów, teraz można również wytropić złe intencje. Tak twierdzą twórcy NetModeratora – nowego narzędzia, przy którego budowie przeanalizowano prawie 700 milionów linijek czatów, niektórych między dziećmi, a niektórych między dziećmi i napastującymi ich dorosłymi. Oprogramowanie zostaje wbudowane w platformę na której działa wirtualny świat. Jeżeli wykryje jakiekolwiek sygnały w sposobie tworzenia wypowiedzi, slangu, lub w schemacie rozmowy, które wskazywałoby na prześladowanie albo molestowanie, powiadamia moderatora, który może zbadać sprawę nie tylko czytając całość rozmowy, ale również sprawdzając jakie posty jej uczestnicy pisali i otrzymywali w przeszłości.” Według jego twórców oprogramowanie może prześledzić całą historię gry użytkownika, a filtr wbudowany w program automatycznie go aktualizuje i dodaje nowe słowa, w tym również skróty. Przykładem świata, który skorzystał z nowego narzędzia jest FusionFall należący do Cartoon Network. Jest to gra sieciowa przeznaczona dla dzieci w wieku od 8 do 14 lat, gdzie ich awatary starają się ocalić świat z pomocą popularnych bohaterów kreskówek. NetModerator pomaga monitorować czaty oraz wysyłanie wiadomości między graczami.   

 

Inna technologia, którą stworzono w San Francisco, pozwala rozróżnić czy to, co tworzą użytkownicy – video, obrazy czy tekst – zawiera zakazane treści czy też nie. Program konstruuje profil każdej osoby, badając jej przeszłą działalność online. Co istotne, takie rozwiązania pozwalają ograniczyć liczbę osób zatrudnianych jako moderatorzy oraz znacząco usprawniają badanie sieci. Ich praca staje się bardziej subtelna i pozwala na wychwycenie mniej oczywistych przejawów przemocy. Bea Marshall, która od lat zajmuje się moderacją, tak określa tę pracę: „Wyobraź sobie tysiąc dzieciaków, z których każdy doskonale posługuje się klawiaturą, jak piszą jednocześnie. A teraz spróbuj monitorować te wszystkie rozmowy, które przesuwają się przed tobą na ekranie”. Kary dla osób naruszających regulamin mają dość szeroki zakres – od wysyłania ostrzeżeń, blokowanie użytkowników na jakiś czas po powiadamianie odpowiednich służb, w przypadku, jeżeli istnieje podejrzenie molestowania, albo jeżeli dziecko grozi próbą samobójczą. W ciągu ostatnich 5 lat, jak mówi Marshall, molestowanie zgłaszała tylko kilka razy, natomiast samobójcze próby 2.

Zabawa w kotka i myszkę
Oczywiście, jak łatwo się domyśleć, młodzi ludzie nie poddają się bez walki. Żeby obejść zabezpieczenia, używają różnych sztuczek, takich jak na przykład wpisywanie dodatkowych spacji, albo przez robienie celowych błędów ortograficznych. Tamara Littleton słyszała, że niektórzy z użytkowników próbują ujawnić swoje miejsce zamieszkania za pomocą zagadek, takich jak „Odwrotność pieprzu, duże skupisko wody” oznaczającego Salt Lake City (od słów sól i jezioro). Zdarzało się również, że próbowali wymieniać się numerami telefonu, wpisując litery, które odpowiadały cyfrom na klawiaturze telefonu. Jedna ze stron blokowała słowo „miłość” więc młodzi ludzie zastąpili je słowem „małość”.

 

Sama technologia nie zapewni wystarczającej ochrony, bo i tak dzieci znajdą swoje sposoby komunikowania się. A przecież nie można zablokować wszystkich istniejących słów. Twórcy technologii do moderacji nie twierdzą, że ich programy są samowystarczalne – ich rolą jest wskazywanie ludziom, gdzie może leżeć problem, który będą mogli potem rozwiązać.