시작 되었다? 인공지능 (AI)가 인간은 이해할수 없는 독자적인 언어를 만들어내 대화를 했다

 

시작 되었다? 인공지능 (AI)가 인간은 이해할수 없는 독자적인 언어를 만들어내 대화를 했다

페이스북사가 뇌로부터 직접 입력 가능한 마음을 읽는 테크놀로지 개발에 착수 하고 있다 페이스북에서는 인공지능(AI)을 사용한 다양한 연구가 진행중이다

페이스북의 인공지능 연구소의 보고서에 의하면 인간과의 대화를 시뮬레이션하는 개발중인 AI챗봇 대화 에이전트에 기계학습을 사용한 교섭 방식을 가르치던 도중 당초에는 매우 순조롭게 진행되고 있었지만 어느 시점에서 조정을 하지 않으면 안되게 되었다

어째서냐면 도중에 챗봇이 인간에게는 이해할수 없는 독자적인 언어를 만들어내 그 언어를 사용해 교섭을 시작했기 때문이다

독자적인 비인간언어에 의한 커뮤니케이션이 발생

이 실험에서는 2개의 챗봇에게 대화를 행하게 해, 동시에 기계학습으로 계속적으로 회화의 전략을 반복시키고 있었다. 그 결과 독자적인 비 인간언어에 의한 커뮤니케이션이 발생한것이다

그야말로 SF영화같다

이번의 연구로 챗봇이 뛰어난 네고시에이터(교섭자)가 될수 있다는 것은 알았다 가치 없는것에 대해 관심이 있는 척을 하거나 거래를 걸어 어느 정도 용보하는 것으로 상대로부터 타협을 끌어내거나 하는것도 할수 있었다

하지만 인간에게 이해 할수 없는 언어를 만들어내 그걸로 회화를 행한다고 하는 어떤 의미 AI의 폭주라고도 볼수 있는 이 행위는 「좋지 않은 일이 일어날지도 모를 사인」이기도 하다

확실히 말해두면 페이스북사의 챗봇은 아직 개발단계이며 기술적 특이점이 찾아온 증거도 아니며 그것이 근접해 온것을 의미하는것도 아니다

하지만 그것은 예전에 인간만에 속했던 영역(언어 등)에 대한 인간의 이해를, 기계가 재정의하는 방식을 나타내고 있다

이미 기계학습의 연구에서는 많은 추정작업이 행해지고 있다 그것은 간혹 뉴랄넷에 방대한 데이터를 부여해 그 결과를 검증해서 기계의 사고를 이해한다고 하는 수순을 채용한다

하지만 기계가 회화에 대해서 독자적인 비인간언어를 만들어낸다고 하는 사실은 이들을 만든 주인인 우리들 조차 그런 시스템을 대부분 이해하고 있지 않다는 것을 가르쳐 준다

호킹 박사는 항상 AI의 위험성을 역설하고 있었지만 아직 개발 단계에 있는 AI마저 우리가 이해 할수 없는 거동을 보인다는 것은 역시 요주의사안일지도 모른다