Čoraz menej ľudí v poslednej dobe baví navštevovať diskusie pod článkami. Hlavným dôvodom sú príspevky niektorých diskutérov, ktorých obsah prekypuje nenávistnými, vulgárnymi a útočnými príspevkami, ktoré nemajú nič spoločné so slušnou debatou. Preto sa skupina študentov Fakulty informatiky a informačných technológií STU (FIIT STU) rozhodla vytvoriť softvér moderateIT, ktorého cieľom je pomôcť moderátorom internetových diskusií vyčistiť diskusiu od negatívnych príspevkov plných vulgárnosti a nenávisti.
Inšpiráciou bola participácia na súťaži
Štvorčlenný tím pozostavajúci z Moniky Filipčikovej, Jakuba Adama, Andreja Šveca a Filipa Vozára sa chcel pred rokom zúčastniť celosvetovej súťaže pre študentov Imagine Cup zameranej na technológie. Vďaka svojmu projektu ModerateIT tím študentov postúpil v konkurencii 200 krajín a regiónov do semifinále, ktoré prebehne online a finále sa bude konať v Spojených štátoch. Hoci sa najprv chceli zaoberať odlišnou témou, ktorá taktiež súvisí s internetom, následne sa obrátili na problematiku vulgarizácie diskusií. „Najskôr sme chceli riešiť tému kyberšikany na sociálnych sieťach, pretože je to dosť rozšírený problém, žiaľ, nevedeli sme, koho upovedomiť, ak by sa nám to aj náhodou podarilo detekovať. Tak sme rozmýšľali ďalej a napadlo nám, že dnes je čím ďalej, tým viac diskusií na internete a často sa tam ľudia vyjadrujú nevhodne, urážajú sa. Vyriešenie tohto problému nás nadchlo, a tak sme sa ním ďalej zaoberali,“ tvrdí Monika Filipčiková.
Projekt je zároveň aj súčasťou ich bakalárskej práce, čo im umožňuje venovať mu ešte viac času na jeho zdokonaľovanie.
Moderátorov nenahradí, iba im pomôže
Program moderateIT je softvér, ktorého cieľom je primárne pomôcť moderátorom diskusií a uľahčiť im prácu, čo sa týka detekcie a selektovania príspevkov s vulgárnym a urážlivým obsahom. Softvér dnes okrem slovenského jazyka podporuje aj angličtinu.
Text komentára obsahuje rozličné údaje, ktoré sa vyťahujú a následne transformujú do formy grafov, ktoré sú pre používateľa veľmi zrozumiteľné a priehľadné. Ako ďalej vysvetľuje Filipčiková, „základom algoritmu je strojové učenie, ktoré spracováva hodnoty týkajúce sa komentára. Z textu komentára vyťahujeme číselné hodnoty ako napríklad počet nadávok alebo linky nachádzajúce sa v texte a číselnou formou reprezentujeme aj to, do akej miery je text komentáru mimo témy článku, ku ktorému sa komentár vzťahuje. Ďalšie aspekty, ktoré berieme do úvahy sú informácie o histórii používateľa, napríklad ako dlho je registrovaný alebo frekvenciu mazania jeho príspevkov. Moderátor môže klikať na rôzne ikonky v programe, napríklad si môže zistiť vlastnosti komentára, kde si nájde mieru jeho kvality. V moderateIT je prítomná aj ikonka používateľa, ktorá znamená jeho reputáciu či povesť.“
Úspešnosť zaraďovania nevhodných príspevkov je dnes podľa tvorcov okolo 65 percent, ale vďaka konkrétnym príkladom sa to bude zlepšovať. V budúcich komentároch už ľahšie identifikuje, ktoré sú dobré a zlé.
Nepôjde o cenzúru?
Pri predstave mazania príspevkov mnohým napadne, že ide o cenzúru. To však nie je pravda. Každá internetová diskusia má písané „pravidlá slušnosti,“ ktoré je potrebné dodržiavať a zapojením do diskusie prehlasujeme, že ich akceptujeme. Komentáre nie sú mazané pre odlišný názor, ale pre to, akou formou boli vyjadrené. Aby bola diskusia k článku aspoň do určitej miery kvalitná, je otázkou času, kedy portály siahnu po takomto systéme moderovania diskusií. Avšak tak, ako človek, ani program nemôže fungovať dokonale. „Stopercentná úspešnosť je veľmi nepravdepodobná. Ani moderátori diskusií sa nedokážu vždy na sto percent zhodnúť, či má byť komentár zablokovaný alebo nie. Často je totiž pomerne diskutabilné, či daný príspevok už prekročil hranice únosnosti alebo nie.“
