Искусственный интеллект будет бороться с токсичностью в онлайн-играх

unsplash.com
Исследователи разработали модель искусственного интеллекта, который может обнаруживать токсичное поведение в режиме реального времени во время онлайн-игр, сообщает издание IEEE Spectrum.
По мнению авторов материала, геймеры все чаще употребляют ненормативную лексику во время онлайн-игр. Это негативно влияет на игровой процесс и наносит психологический вред другим участникам. Разработанный искусственный интеллект поможет бороться с этой проблемой.
Эксперты отметили, что основная сложность, с которой они столкнулись, заключается в субъективности определения понятия «токсичное поведение».
«Дифференциация того, что люди считают токсичным, а что нет, является большой проблемой в этом контексте, когда игроки принимают такой токсичный язык как норму в своих сообществах или используют язык, который другие могут считать токсичным без злого умысла в своей группе друзей. Кроме того, эти нормы различаются в разных игровых сообществах», – цитирует издание участника исследования, доцента Утрехтского университета Джулиана Фроммеля.
Чтобы понять, как научить искусственный интеллект определять, где есть токсичность, а где нет, учёные провели эксперимент. Они отобрали людей, которым показывали отрывки матча из компьютерной игры Overwatch. Участникам предлагалось оценить поведение игроков по 100-балльной шкале. Оказалось, что один и тот же момент зрители оценивали по-разному.
На основе данных специалисты построили модель искусственного интеллекта, которая может определить токсичность с точностью 86,3%. По словам Фроммеля, эта модель простая, не требует существенных вычислительных мощностей. Её можно автоматизировать и применять как неинвазивный подход в играх, использующих внутриигровые голосовые чаты. Отмечается, что разработку будут совершенствовать.
Инженеров по ИИ и экологической безопасности начнут готовить в магистратуре с 2022 года
Читать подробнее
Высшее образование
Научись создавать компьютерные игры на факультете гейм-дизайна и разработки игр
Ты станешь настоящим экспертом, способным воплощать идеи с помощью программирования, гейм-дизайна и сценарного мастерства.
Узнать, как поступить