Spravodajské články spoločnosti Yahoo majú veľa nechutných komentárov, podobne ako zvyšok internetu, preto sa tím Yahoo rozhodol použiť ich sekciu s komentármi s cieľom vyvinúť algoritmus, ktorý by dokázal úspešne identifikovať najhorších páchateľov. Ich nový algoritmus detekcie zneužitia funguje 90 percent času, čo je podľa nich efektívnejšie ako pokusy iných organizácií o podobné úspechy a je to považované za veľký krok vpred v tejto oblasti. 90 percent robí znie to celkom dobre, pripúšťam.
Drôtové uvádza, že Yahoo v rámci svojho projektu boja proti zneužívaniu zverejňuje aj prvú verejne dostupnú databázu nenávistných prejavov online. To znamená, že iné weby budú môcť použiť databázu komentárov spoločnosti Yahoo na navrhovanie vlastných algoritmov. Algoritmus spoločnosti Yahoo bol vyvinutý na základe strojového učenia a tiež na údajoch o ich komentároch uvádzaných používateľmi.
Najkomplikovanejšou časťou každého algoritmu na moderovanie komentárov je riešenie falošných poplachov. Mnoho algoritmov na zisťovanie zneužitia vyhľadáva konkrétne slová alebo frázy, ako napríklad nadávky alebo bežné urážky, a komentáre automaticky označuje moderovaním. To však vedie k tomu, že komentáre budú označené, aj keď napríklad odkazujú na nadávku v súvislosti s tvrdením, že to nie je vhodné, alebo ak je komentár sarkastickým napodobnením trolla. Algoritmus spoločnosti Yahoo zjavne dokáže detekovať určité rečové vzorce a je navrhnutý tak, aby dokázal rozoznať rozdiel medzi vtipným sarkazmom a skutočným zneužitím. (Samozrejme, ak sa váš veselý komentár nedá odlíšiť od skutočného zneužitia, som si istý, že algoritmus ho bude stále označovať, ale nemôžem s istotou povedať, ako táto časť AI funguje.)
Spoločnosť Yahoo zaradila vyškolených moderátorov komentárov, aby pomohli zdokonaliť algoritmus, a tiež zaplatili niektorým neškoleným moderátorom. Zistili, že vyškolení moderátori boli oveľa lepší v tom, ako zistiť, ktoré komentáre sú vhodné (trochu bez rozmýšľania, ale hej). V priebehu vytvárania AI Yahoo zistil, že práca týchto vyškolených ľudských moderátorov bola nevyhnutná pre udržanie účinnosti algoritmu a zdokonalenie jeho detekčných techník.
Samozrejme, algoritmy majú stále skreslenia , čo by si vyžadovalo (dúfajme, že rôznorodý) tím ľudských moderátorov, aby pokračovali v opakovaní metodík použitých na klasifikáciu komentárov. Znie to ako ťažká práca, ale prinajmenšom Yahoo teraz chápe dôležitosť tréningu a oceňuje úlohy tak dobre vyškolených ľudských moderátorov, ako aj ich nových kolegov z oblasti umelej inteligencie.
kate mara fantastické štyri parochne
(cez Budúci web , obrázok cez Michael Cordedda / Flickr )
