상단여백
HOME 게임 이슈
막말 유저를 AI가 쫓아낸다? 'CS:GO', AI로 2만여명 계정 정지시켜

멀티플레이 게임을 즐기다 보면 다른 사람이 채팅을 통해 나에 대해 안좋은 이야기를 하거나 비난, 심지어 욕을 하기도 한다. 이럴 경우 피해자가 해당 채팅 내용을 캡쳐하거나 신고 버튼을 눌러 제재를 요청하곤 한다.

그런데 인공지능(AI)가 이를 자동으로 파악해 해당 계정을 제재하는 것이 현실로 다가오고 있다. 실제로 이를 통해 2만명이 넘는 유저의 게임 계정이 정지된 것으로 나타났다.

밸브가 서비스 중인 온라인 FPS 게임 '카운터스트라이크 : 글로벌 오펜시브'(이하 CS:GO)에서는 AI가 채팅 메시지를 분석해 자동으로 경고 및 제재를 내린 것으로 확인됐다.

구글 클라우드와 구글 기술 인큐베이터인 직소, 그리고 안티 치트 및 게임 통계 플랫폼인 페이스잇 등 3사가 협력해 개발한 AI 시스템인 미네르바가 이번 제재의 주인공이다.

미네르바는 지난 8월 말부터 CS:GO의 채팅 메시지를 수동 개입 없이 분석해 게임 중 유해한 내용의 채팅을 하면 그 내용은 스팸으로 처리되고, 경기 종료 후 언어 폭력에 대한 경고를 해당 유저에게 발송했다.

머신러닝을 통해 학습된 미네르바는 8월부터 9월까지 한 달 반 동안 2억개의 전체 메시지 중 7백만개를 유해한 것으로 표시하고, 이중 9만개의 경고를 발송한 것으로 나타났다. 

그리고 8월에 집계된 24만명의 유해 메시지 발송자 중 정도가 심하고 다수의 메시지를 보내 여러 번 경고를 받은 27,028명의 유저의 계정을 정지시킨 것으로 나타났다. 이 모든 조치는 사람의 개입 없이 모든 과정이 자동으로 이뤄졌다고 한다.

실제로 이러한 경고 및 제재가 발생하자 미네르바 가동 전 228만개에 달하던 유해 메시지는 한 달 뒤 182만개로 20% 이상 감소한 것으로 나타났다. 

미네르바 개발을 총괄한 페이스잇 측은 "게임 내 채팅 탐지는 미네르바의 첫 응용 기능이자 가장 단순한 기능이며, 우리의 비전을 향한 첫 걸음이다. 이번 결과는 모든 학대 행위를 실시간 탐지하고 해결할 때까지 미네르바를 개선할 강력한 기반"이라며 몇 주 내에 미네르바의 훈련을 지원할 새로운 시스템을 발표할 것이라고 언급했다. 그에 따라 AI가 유해 채팅을 100% 가려내는 것은 물론, 유해 음성 채팅까지 가려내는 것이 머지 않아 실현될 것으로 보인다.

박상범 기자  ytterbia@gamevu.co.kr

<저작권자 © 게임뷰, 무단 전재 및 재배포 금지>

박상범 기자의 다른기사 보기
icon인기기사
기사 댓글 0
전체보기
첫번째 댓글을 남겨주세요.
여백
여백
여백
여백
Back to Top