U poslednje vreme, korisnici popularne platforme Discord suočili su se sa problemom blokiranja svojih naloga usled greške u sistemu za moderaciju. Ova situacija, koja traje od maja 2026. godine, izazvala je zabrinutost među korisnicima, budući da su njihovi nalozi pogrešno blokirani.
Tim za podršku Discorda je nedavno na društvenoj mreži X objavio detalje o ovom incidentu, navodeći da je greška u alatima za moderaciju dovela do blokiranja oko 8.200 naloga, od čega je oko 200 naloga pogođeno tokom proteklog vikenda. Svi korisnici koji su bili pogođeni ovom greškom su vraćeni na platformu.
Kako su objasnili, problem je nastao zbog pogrešnog označavanja slika koje su imale kvadratnu mrežu, koje je sistem greškom identifikovao kao sadržaj povezan sa seksualnim zlostavljanjem dece. Ovo je uključivalo sve, od Excel tabela do šahovskih ploča, što je rezultiralo nepravednim blokiranjem naloga.
Discord koristi veštačku inteligenciju za moderaciju sadržaja, ali su priznali da ovaj sistem može da daje lažno pozitivne rezultate. Obično, označeni nalozi se dodatno pregledaju od strane tima za poverenje i bezbednost pre nego što se preduzmu bilo kakve mere. U ovom slučaju, došlo je do greške u kodu koja je sprečila automatsko ukidanje blokade nakon što su nalozi pregledani i odobreni.
U izvinjenju, kompanija je naglasila da se ovakve greške ne bi trebale dešavati i da će svi nalozi koji su blokirani kao lažno pozitivni biti vraćeni u funkciju. Ova situacija je podsetila na važnost pažljivog upravljanja sistemima za moderaciju i potencijalne rizike koji dolaze sa upotrebom veštačke inteligencije.
