Umelá inteligencia proti rasizmu

S rasovou neznášanlivosťou sa v online svete stretávame vďaka slobode prejavu. Nenávistné príspevky čítame na každom kroku, čo však neznamená, že sú aj akceptované. Ako reagujete na podobný príspevok vy? Ak ide o známeho, upozorníte ho alebo sa tvárite, že nič nevidíte? V dlhotrvajúcom boji proti rasizmu pomáha aj umelá inteligencia. Výsledkom je detekcia a následné eliminovanie nenávistných či priamo rasistických príspevkov.

Riešenie existuje

AI model zameriavajúci sa na vyhľadávanie príspevkov s rasistickým obsahom nie je žiadnou novinkou. Odvracanie sa či nevyjadrovanie sa k daným príspevkom nie je cesta, a tak vznikli rôzne modely detegujúce nenávistný príspevok. Cieľom bolo nie len ho nájsť, ale samotný príspevok aj zablokovať. Fungovali však len na 77 %. Klasifikátory boli nastavené na známe slová ako “čierny”, “transgender” či “gay”. Na prvý pohľad je detekcia jednoduchá. Stretávali sa však s početnou skupinou falošne pozitívnych výsledkov, a to napr. u príspevkov od afrických Američanov, ktorých vyjadrovanie bolo príčinou pre falošnú zhodu. Umelá inteligencia tak bojovala proti neexistujúcemu rasizmu.umela inteligencia proti rasizmu

zdroj: lordsse_design, Pixabay

USC model

Model z Univerzity v Južnej Karolíne (USC) prišiel na zásadný rozdiel, ktorý odlišuje ich model od doteraz využívaných. Podstatou je sústredenie sa na kontext príspevku, ktorému predošlé modely nevenovali pozornosť, výsledkom čoho bola ich nižšia presnosť.

Po zameraní sa na kontext, sa po stanovení klasifikátorov, zlepšila presnosť modelu o 13 % oproti existujúcim modelom. Samozrejme výsledok 90 % nie je dych berúci, ale ide o postupné zlepšovanie sa v danej oblasti. Tento posun je znakom toho, že boli uskutočnené kroky správnym smerom a časom bude nevhodný príspevok vymazaný skôr, než si ho prečítajú stovky návštevníkov stránky.

Na jednu stranu, vymazávať príspevky nie je možno najvhodnejšia cesta, avšak meniť myslenie ľudí je na dlhšie lakte. Môžeme byť radi, že niekto sa tejto citlivej téme venuje a snaží sa proti rasizmu postaviť hoci „len“ umelú inteligenciu.

 

 

Zdroj:

https://viterbischool.usc.edu/news/2020/07/context-reduces-racial-bias-in-hate-speech-detection-algorithms/

Pridaj komentár

Vaša e-mailová adresa nebude zverejnená. Vyžadované polia sú označené *