Microsoft stworzył program, który ma pomóc w walce z pedofilią w internecie

Projekt Artemis jest narzędziem analizującym rozmowy w komunikatorach internetowych. Ma on automatycznie wykrywać przypadki, w których dochodzi do tzw. child groomingu (ang. uwodzenia dzieci) i zgłaszać administratorom programu. Jest on dostępny bezpłatnie.

Child grooming

Opracowany przez Microsoft zautomatyzowany system wykrywania przypadków niestosownych rozmów z dziećmi jest już dostępny i każda firma może z niego skorzystać za darmo. Działa on na zasadzie wychwytywania słów i schematów wyrażeń, które program ocenia (przykładowo od 1 do 10) i odnotowuje, czy są to przypadki child groomingu, czy nie. Po tym, jak administratorzy dostają zgłoszenie zagrożenia, mogą zidentyfikować i ocenić pedofila.

Projekt powstał we współpracy z The Meet Group, grą multiplayer Roblox, komunikatorem Kik i działającej na rzecz ochrony dzieci w internecie organizacją Thorn. Ta ostatnia od 10 stycznia zajmuje się licencjami związanymi z projektem.

Krok naprzód, ale nie panaceum

Jak twierdzi Microsoft, Artemis nie jest panaceum na całe zło, a jedynie narzędziem ułatwiającym proces wyszukiwania przestępców seksualnych. – Uwodzenie i wykorzystywanie seksualne dzieci w internecie jest poważnym problemem. Ale nie przeszkadza nam złożoność i zawiłość tych kwestii. Wręcz przeciwnie, udostępniamy to narzędzie i zapraszamy do zaangażowania w projekt inne firmy oraz organizacje technologiczne, które mogą przyczynić się do ciągłego doskonalenia narzędzia – pisze na blogu Microsoftu Courtney Gregoire, dyrektorka ds. bezpieczeństwa cyfrowego.

Ryzyko?

Chociaż twórcy programu kierowali się szlachetnymi pobudkami przy jego opracowywaniu, nie brakuje wątpliwości co do skuteczności jego działania. System może wskazywać wiele fałszywych trafień, ponieważ sztuczna inteligencja nadal ma problemy ze zrozumieniem niektórych znaczeń i wyczytywanie ich z kontekstu wypowiedzi. Jest to jednocześnie wyzwanie dla firm stojących za mediami społecznościowymi, które chcąc skorzystać z programu, będą musiały zatrudnić więcej moderatorów dbających o weryfikowanie zgłoszeń.

Źródła:

• blogs.microsoft.com,
• technologyreview.com,
• thorn.org.

Autorem tekstu jest Adam Zamczała. Zdjęcie główne artykułu pochodzi z unsplash.com.

Oferty pracy z