게임 중 욕하면… 인공지능이 '옐로카드'
입력 : 2016.04.07 03:06 | 수정 : 2016.04.08 17:18
인기 게임 '리그 오브 레전드'… 인공지능으로 '욕설 방지' 실험
윤리적 개념 입력 안했지만 신고된 대화 패턴 인식해서 게이머들의 나쁜 말 가려내
구글의 인공지능 '알파고'는 이세돌 9단과의 바둑 대결에서 승리하고 나서 다음 도전 종목으로 온라인 게임 '스타크래프트'를 지목했다. 하지만 이미 인공지능은 온라인 게임과 치열한 전투를 벌이고 있다. 세계에서 가장 유명한 온라인 게임인 '리그 오브 레전드(League of Legends·LoL)'에서 사이버 폭력을 일삼는 악성(惡性) 게이머와의 전투이다. 인공지능은 채팅 창을 더럽히는 악성 게이머를 적발할 뿐 아니라 잠재적인 악성 게이머를 선도하는 역할도 맡고 있다. 익명(匿名)에 숨은 어두운 인간 본성과 인공지능 간의 또 다른 세기적 대결이 벌어지고 있는 것이다.
◇인공지능이 게이머 대화 자가 학습
LoL은 전 세계에서 하루 2700만명이 즐기는 대표적인 온라인 게임이다. 라이엇 게임즈사(社)는 이 게임으로 지난해 12억5000만달러(1조4450억원)의 매출을 올렸다. LoL에서 인터넷으로 연결된 다섯 명의 게이머는 각자 다른 능력을 가진 게임 캐릭터가 돼 한 팀으로 적과 싸운다. 한국 팀끼리 맞붙은 작년 LoL 세계대회는 3600만명이 인터넷을 통해 관람할 정도로 인기를 끌었다.
◇인공지능이 게이머 대화 자가 학습
LoL은 전 세계에서 하루 2700만명이 즐기는 대표적인 온라인 게임이다. 라이엇 게임즈사(社)는 이 게임으로 지난해 12억5000만달러(1조4450억원)의 매출을 올렸다. LoL에서 인터넷으로 연결된 다섯 명의 게이머는 각자 다른 능력을 가진 게임 캐릭터가 돼 한 팀으로 적과 싸운다. 한국 팀끼리 맞붙은 작년 LoL 세계대회는 3600만명이 인터넷을 통해 관람할 정도로 인기를 끌었다.
국제학술지 '네이처'는 지난달 31일 인공지능이 LoL에 난무했던 반(反)사회적인 발언을 줄이는 데 크게 기여했다고 발표했다. 팀원 간의 협동이 중요한 게임인 만큼 LoL 화면 아래에는 게이머끼리 서로 대화를 나눌 수 있는 창이 있다. 작전을 짜고 협력하는 데 요긴한 기능이지만 누군가 실수를 하면 폭언이 쏟아지는 통로가 된다. 미국에서 이뤄진 조사에 따르면 청소년의 52%가 대화창의 폭언과 같은 사이버 폭력을 경험했다. 인종주의, 여성 비하, 동성애 혐오 등의 폭언들이 여과 없이 쏟아지기도 했다.
라이엇 게임즈의 심리학자인 제프리 린 박사는 게이머 중에 자원자를 뽑아 재판소를 만들어 반사회적인 대화를 심판하도록 했다. 단순히 처벌만 하지 않고 '개선 카드'에 무슨 말이 잘못됐는지 명시해 제시했다. 스스로 잘못을 깨닫도록 한 것이다. 그러자 처벌 후 3개월간 다시 나쁜 말을 하는 이른바 '재범률'이 30%로 떨어졌다. 단순 처벌 때 재범률(50%)보다 훨씬 낮아졌다.
문제는 개선 카드가 발급되기까지 최소 2주가 걸린다는 점이었다. 라이엇 게임즈는 인공지능에 재판소에 신고된 반사회적인 대화와 판결 기록을 스스로 학습하도록 했다. 인공지능은 윤리 개념에 대한 사전 학습이 없어도 신고된 대화와 판결의 패턴을 인식해 나쁜 말을 가려낼 수 있게 됐다. 인공지능이 개선 카드 작업에 동원되면서 재범률은 8%로 떨어졌다.
카타르 컴퓨터 연구소의 곽해운 박사 연구진은 2014년 인공지능이 게이머의 사이버 폭력을 사람만큼 정확하게 판단할 수 있음을 입증했다. 곽 박사는 "인공지능은 유죄와 무죄가 명백한 경우는 88% 정확도로, 그보다 모호한 경우는 80% 정확도로 재판소 배심원들의 투표 결과를 예측했다"고 밝혔다.
이런 방법은 다른 인터넷 분야에도 적용된다. 지난해 미국 스탠퍼드대와 코넬대 연구진은 18개월 동안 CNN 뉴스 사이트 등에 올라온 4000만건의 댓글을 인공지능에 학습시켜 반사회적인 내용의 댓글을 쓸 인터넷 사용자를 80% 정확도로 예측할 수 있었다고 밝혔다. 인공지능은 나쁜 글을 남기는 사람이 특정 주제에만 글을 남기는 특성 등을 파악해 댓글 행동을 예측했다.
◇인간 본성 연구의 실험실이 된 게임
게임은 인간 행동을 연구하는 실험 대상이기도 하다. 린 박사팀은 LoL 게임의 대화 분석을 통해 인간 본성에 대한 새로운 사실도 밝혀냈다. 예상과 달리 욕을 입에 달고 사는 게이머는 1%에 불과했다. 또 이들의 욕설이 대화창의 전체 언어폭력에서 차지하는 비중은 5%에 불과했다. 결국 99%의 평범한 다수가 익명성에 기대 가끔 내뱉은 욕설이 게임 대화창을 욕설의 소굴로 만든다는 것이다.
MIT 집단지성연구센터의 김영지 박사는 LoL 게임 기록을 통해 여러 사람이 모여 만드는 집단지성의 특성을 연구했다. 연구 결과 다른 사람들을 이해하는 능력, 즉 사회적 감수성이 높을수록, 또 구성원들이 대화에 동등하게 참여할수록 집단지성이 높다는 사실을 밝혀냈다. 김 박사는 "LoL 279팀을 분석한 결과, 게이머들의 집단지성이 높을수록 게임을 더 잘한다는 것을 확인했다"고 밝혔다. 다시 말해 같은 팀에 상대를 배려하는 사람들이 많을수록 게임을 더 잘한다는 말이다.
라이엇 게임즈의 심리학자인 제프리 린 박사는 게이머 중에 자원자를 뽑아 재판소를 만들어 반사회적인 대화를 심판하도록 했다. 단순히 처벌만 하지 않고 '개선 카드'에 무슨 말이 잘못됐는지 명시해 제시했다. 스스로 잘못을 깨닫도록 한 것이다. 그러자 처벌 후 3개월간 다시 나쁜 말을 하는 이른바 '재범률'이 30%로 떨어졌다. 단순 처벌 때 재범률(50%)보다 훨씬 낮아졌다.
문제는 개선 카드가 발급되기까지 최소 2주가 걸린다는 점이었다. 라이엇 게임즈는 인공지능에 재판소에 신고된 반사회적인 대화와 판결 기록을 스스로 학습하도록 했다. 인공지능은 윤리 개념에 대한 사전 학습이 없어도 신고된 대화와 판결의 패턴을 인식해 나쁜 말을 가려낼 수 있게 됐다. 인공지능이 개선 카드 작업에 동원되면서 재범률은 8%로 떨어졌다.
카타르 컴퓨터 연구소의 곽해운 박사 연구진은 2014년 인공지능이 게이머의 사이버 폭력을 사람만큼 정확하게 판단할 수 있음을 입증했다. 곽 박사는 "인공지능은 유죄와 무죄가 명백한 경우는 88% 정확도로, 그보다 모호한 경우는 80% 정확도로 재판소 배심원들의 투표 결과를 예측했다"고 밝혔다.
이런 방법은 다른 인터넷 분야에도 적용된다. 지난해 미국 스탠퍼드대와 코넬대 연구진은 18개월 동안 CNN 뉴스 사이트 등에 올라온 4000만건의 댓글을 인공지능에 학습시켜 반사회적인 내용의 댓글을 쓸 인터넷 사용자를 80% 정확도로 예측할 수 있었다고 밝혔다. 인공지능은 나쁜 글을 남기는 사람이 특정 주제에만 글을 남기는 특성 등을 파악해 댓글 행동을 예측했다.
◇인간 본성 연구의 실험실이 된 게임
게임은 인간 행동을 연구하는 실험 대상이기도 하다. 린 박사팀은 LoL 게임의 대화 분석을 통해 인간 본성에 대한 새로운 사실도 밝혀냈다. 예상과 달리 욕을 입에 달고 사는 게이머는 1%에 불과했다. 또 이들의 욕설이 대화창의 전체 언어폭력에서 차지하는 비중은 5%에 불과했다. 결국 99%의 평범한 다수가 익명성에 기대 가끔 내뱉은 욕설이 게임 대화창을 욕설의 소굴로 만든다는 것이다.
MIT 집단지성연구센터의 김영지 박사는 LoL 게임 기록을 통해 여러 사람이 모여 만드는 집단지성의 특성을 연구했다. 연구 결과 다른 사람들을 이해하는 능력, 즉 사회적 감수성이 높을수록, 또 구성원들이 대화에 동등하게 참여할수록 집단지성이 높다는 사실을 밝혀냈다. 김 박사는 "LoL 279팀을 분석한 결과, 게이머들의 집단지성이 높을수록 게임을 더 잘한다는 것을 확인했다"고 밝혔다. 다시 말해 같은 팀에 상대를 배려하는 사람들이 많을수록 게임을 더 잘한다는 말이다.