Роблокс воведе нов систем за модерација со вештачка интелигенција, кој во реално време ги следи и анализира сцените во игрите за да ги идентификува содржините што претходно можеби биле пропуштени.
Новата мултимодална AI модерација не се фокусира само на индивидуални елементи, туку ги анализира целокупните сцени, вклучувајќи аватари, текст и 3D објекти, за да утврди дали комбинацијата ги крши стандардите на заедницата на Роблокс.
Како функционира новиот систем за модерација?
За разлика од претходните алатки кои оценуваа еден објект во исто време, новиот систем ги разгледува целите сцени. На пример, ако некој користи алатка за цртање за да нацрта навредлив симбол, системот го препознава контекстот и реагира соодветно.
Кога се детектираат повторени прекршувања во една игра, системот го исклучува само тој сервер, а не целата игра. Од воведувањето, околу 5,000 сервери се исклучуваат секој ден.
Што значи ова за креаторите на Роблокс?
Креаторите имаат пристап до нова графика во Creator Dashboard, која покажува колку сервери на нивните игри се исклучени поради лошо однесување на корисниците. Ова им овозможува да ги прегледаат и прилагодат своите алатки и емоции пред ситуацијата да се влоши.
Нов сертификациски програм за чистење на онлајн игрите
Роблокс, заедно со Keyword Studios и Riot Games, развива DLC Leadership Program за менаџери и модератори на онлајн заедници. Истражувачкиот психолог Рачел Коверт, која е директор на истражување во Games for Change, го води академскиот дел. Целта е да се создаде стандардизирана обука базирана на докази за управување со гејминг заедници.
Роблокс веќе подолго време ги зајакнува своите безбедносни мерки, од родителски контроли до филтри за разговори според возраст, а оваа нова надградба е најамбициозниот потег досега.