Sexting, tedy zasílání fotografií s nevhodným obsahem, se v současné době rozšířil mezi děti a teenagery do té míry, že na to zareagovaly zahraniční sociální úřady a developeři telefonních aplikací. Nová aplikace SafeToNet mu má zabránit.
V posledních dvou letech zaznamenaly sociální pracovnice v základních školách ve Spojených státech a Británii zvýšené procento šikany u dětí od 8 do 13 let. Z větší části se jednalo o nevhodný obsah, který vznikal pod nejrůznějšími pohrůžkami a byl dále spolužáky sdílen.
Vývojáři aplikace ale neměli spadeno jen na šikanu v rámci škol, zaměřili se také na pedofily, kteří pokoutně a pod falešnými přezdívkami lákají od dětí intimní fotografie.
Rozpozná fotografie a zablokuje telefon
Aplikace SafeToNet funguje oboustranně a řídí ji umělá inteligence. Sama se učí a zdokonaluje častým používáním. Analyzuje obsah všech fotografií a vyhledává v konverzacích a zobrazených webových stránkách specifická klíčová slova a tvoří si statistiky frekvence užití.
Na základě těchto vyhodnocení zabraňuje přijímání a odesílání nevhodného obsahu, upozorní na výraznou odchylku v chování dítěte a odhalí možnou hrozbu.
Rozpozná také obsah fotografie, a pokud ji dítě chce odeslat (nebo vložit na sociální síť), aplikace mu tuto možnost okamžitě zablokuje. Blokace trvá přibližně 20 minut. Pokud se dítě i přesto snaží o odeslání, telefon i kamera se zablokují na ještě delší dobu. Po čtyřech pokusech systém automaticky odešle textovku rodičům.
Kvůli zachování práva na soukromí dítěte rodiče nikdy neuvidí obrazový obsah textovek, pouze dostanou zprávu s informací.
Aplikace se učí, v prvních týdnech ale dělá chyby
Za krátkou dobu na trhu si aplikace vysloužila už několik ocenění. Její hlavní výhodou je plná automatizace, která nevyžaduje po úvodním jednoduchém nastavení žádné další zásahy. Sama se aktualizuje a zpřesňuje.
Většina rodičů je z aplikace nadšená, ale existují i tací, kteří kritizují využití umělé inteligence. Aplikace potřebuje krátký čas, aby si provedla analýzu dat a naučila se vzorce chování a výběr užívaných slov. A v tom je kámen úrazu. Často v prvních týdnech po spuštění mylně vyhodnotí obsah fotky a telefon zablokuje. Firma teď slibuje velký update aplikace, který zkrátí proces učení na dny. Zatím je dostupná pro androidí telefony, iOS verze se připravuje.
