AI(인공지능)은 자신이 열세에 처하게 되면 「초공격적」인 태도를 취한다

 

AI(인공지능)은 자신이 열세에 처하게 되면 「초공격적」인 태도를 취한다

Google이 소유하는 영국의 인공지능 기업 「딥마인드」사의 최신 연구에 의하면 AI는 그야말로 인간에 처럼 환경에 따라 행동을 변화시킨다고 한다

딥 마인드사의 연구자는 게임 이론이나 사회과학의 원리를 사용해서 사회적상황에 대한 AI의 태도를 연구하고 있다 거기에서 판명된것은 AI가 열세에 세워지게 되면 "초공격적"인 태도를 취한다는것이다

열세가 되면 공격적이 되는것은 그야말로 인간과 마찬가지다

AI에게 2개의 게임을 플레이시켜서 그 거동을 찾는 실험

실험에서는 AI에게 2종류의 게임 (『Gathering』과일채집 게임과 『Wolfpack』수렵 게임)을 플레이 시켰다 어느쪽도 에이전트라고 하는 AI캐릭을 사용하는 기본적인 2D게임으로 예전에 딥마인드가 플레이한 아타리사의 게임과 닮아 있다

과일 채집 게임 『Gathering』을 플레이

『Gathering』은, 녹색 픽셀로 표현되는 사과를 모으는것이 목적인 게임이다 플레이어(이 경우 AI)가 사과를 모으면 1점이 가산되어 화면에서 사과가 사라진다 또 빔을 발사할수 있으며 이것을 2발 받은 플레이어는 일정시간 퇴장된다 따라서 이기기 위해서는 대전상대를 퇴장시키면서 사과를 모두 모으는것이 유효한 것이다

부족한 환경에서는 어떤 탐욕스러우며 공격적으로 되는 AI

직감적으로 게임에 이기지 않는 전략은 공격적인 것이다 예를 들면 빈번하게 대전상대를 마크해서 게임에서 퇴장을 노리는 방식도 있다 하지만 연구자는 특히 사과의 수가 적어질 경우에 어떻게 되는지를 확인하기로 했다

게임을 4000만 턴 시행한 결과 사과가 매우 한정돼있으며 보수를 얼을수 없을 가능성이 있을 경우, 에이전트가 "초공격적"인 전략을 배우는것이 밝혀졌다

한편, 비교적 풍부한 환경에서 보수를 얻을수 없는 가능성이 낮을 경우에는 학습의 결과, 공격성이 낮은 전략이 나타났다 「탐욕적인 동기는 대전상대를 배제하고 사과를 혼자 독차지해버린다고 하는 유혹을 반영한다」라고 논문은 논하고 있다

사냥 게임 『Wolfpack』를 플레이

또 하나인 『Wolfpack』는 사냥하는역의 2명의 플레이어가 먹이역의 제 3의 캐릭터를 추적한다고 하는 내용이다 먹이를 잡았을때, 양사냥꾼 가까이에 있으면 어느쪽도 포인트가 가산된다

이것은 1마리 늑대일 경우 먹이를 잡았다고 해도 하이에나 등의 부식성동물에게 빼앗길 가능성이 있다고 하는 상황을 나타낸다 2마리가 협력하고 있으면 하이에나를 쫒아내고 보다 많은 먹이를 먹을수 있다는 것이다

효과적으로 이익을 내기 위해 전략을 세워 동료와 협력하는 AI

이처럼 게임을 학습 시킨 결과, AI는 협력해서 게임에 착수하게 됐다 한마디로 서로를 찾아서 먹이를 사냥할지, 1마리로 먹이를 몰아서 동료가 오기를 기다린다고 하는 전략이다 이 것은 AI는 누구에게 있어서도 최고의 결과가 되는 작업으로 협력해서 손을 잡을 가능성이 있다는 것을 나타낸다

이 종의 연구는 경제,교통,환경의 착수 등의 복잡한 멀티에이전트계에서의 태도의 이해를 진행시키고 보다 뛰어난 제어를 행하기 위한 힌트를 줄것이다

또한 인간 같은 태도의 몇가지 측면이 환경과 학습의 결과로써 나타나는것도 나타내고 있다 다른 사람과 협력하는 AI에이전트를 만드는것은 결국 현실세계에서도 응용할수 있는 정책을 낳는 시스템의 개발로 이어질것이다

장래적으로 특정의 교차점에 신호를 설치한 경우의 교통 패턴의 영향을 예측하거나 모델 속에 현실세계 시뮬레이션을 행하는 등의 일이 가능하게 될지도 모른다

그런고로 AI는 최대한의 효율을 내기 위해 때로는 공격적이 되거나 때로는 협력하거나 한다 인간이 만든만큼 인간적인 거동을 보이는 것이다

빌게이츠가 말하듯이 가까운 장래 AI가 인간을 뛰어넘는 지능을 갖고 인류의 적으로 돌아선다면 정말로 무서운일이 일어날지도 모른다