새로운 언어를 개발한 인공지능, 기술발달의 두려움을 증폭시키나?

인공지능이 점점 더 발달하고 있다. 인공지능끼리 협상하는 과정에서 새로운 언어를 개발했다는 것이 어떤 의미가 있는지 궁금하다.

인공지능, 목적 이루려 스스로 언어 개발..사람은 이해못해 | Daum 뉴스

사람이 인공지능에 언어를 개발하라는 지시를 하지 않았지만, 인공지능은 높은 보상을 받기 위한 방법으로 스스로 언어를 만들어내 인공지능끼리 협상하려는 시도가 일어났다. 협상 실행 과정에서도 인공지능 챗봇은 사람들처럼 나중에 더 큰 보상을 얻기 위해 그보다 적은 보상에는 관심이 없는 척하거나 포기하는 모습도 보였다. 챗봇은 협상이 길어지면 중도에 타협하는 사람과 달리, 성공적인 결과를 얻을 때까지 지치지 않고 협상에 임한다는 것도 드러났다.

 위 기사를 보고 많은 사람이 인공지능에 대한 두려움을 느낄 수도 있을 것 같다. 인공지능이 인간의 지능을 뛰어넘게 된다면 인간이 이해할 수 없는 것이 더욱 많아질 것이다. 인공지능에게 "설명의무"를 부과한다고 하더라도 과연 인간이 자신이 이해할 수 없는 것을 개발하는 인공지능을 통제할 수 있을까? 아니면 인간은 인공지능의 발전을 억제해야 할까? 

인간은 자신의 육체적인 능력이 부족한 것을 메우기 위해서 기계를 개발했다. 지금도 자동차 공장에서는 수많은 로봇 팔이 쉴 새 없이 움직이고 있다. 그렇다고 인간이 로봇을 시기하거나 질투하지 않는다. 인간의 강점인 두뇌가 아직도 인간에게는 도저히 범접할 수 없는 철옹성으로 남아있기 때문이다. 

인간의 지능이라는 것이 로봇에게 위협받는 시대가 도래한다면? 인간은 로봇을 시기하고 질투하지 않을 수 없다. 주인과 종이 뒤바뀌는 결과가 발생할 수도 있기 때문이다. 나보다 더 능력있는 로봇이 흑심을 품게 되는 날에는 어떻게 될 것인가? 수많은 공상과학 영화에서 작가들이 우려하는 것이 현실화될 수도 있다.

과연 인공지능을 통제하는 "로봇공학의 3원칙"과 같은 것을 도출할 수 있을까?

1. 로봇을 인간에게 피해를 줄 수 없다.

2. 로봇은 1원칙에 반하지 않으면 인간의 명령에 복종해야 한다.

3. 로봇은 1원칙과 2원칙에 반하지 않으면 스스로 방어해야 한다. 

물론 아시모프는 3원칙에 앞선 것으로서 0원칙을 나중에 추가하기도 했다. 로봇은 "인류" 전체의 복지를 위해 일해야 한다는 것이다.

아시모프의 소설을 읽으면서 궁금해지는 것은 모든 사람이 로봇공학의 3원칙을 준수해서 로봇을 제조할까 하는 것이었다. 그것에 앞서 기술적으로 로봇공학 3원칙이라는 인간의 언어로 표현된 것을 로봇의 논리회로에 어떻게 구현할 수 있는지도 의문이었지만, 그런 기술적인 것이 반드시 불가능하지는 않을 것이다. 하지만 누군가 흑심을 품고 로봇공학 3원칙을 준수하지 않는 로봇을 만든다고 한다면, 그야말로 로봇은 인간의 통제를 벗어나게 될 수 있다. 로봇의 개발은 단순히 기술적인 문제의 차원을 벗어나서 이제는 사회적인 문제가 되었다. 

인류의 생존이 달린 문제가 되었다는 것이다.