인공지능 심판은 과연 공정할까?

Posted in IT/IT인터넷 by 약간의여유

인공지능이 과인 인간을 대체해서 경기 심판을 맡을 수 있을까?

이것에 대해서는 긍정적인 입장을 취하는 견해도 있고, 부정적인 견해도 있다. 

일단 인공지능이 인간보다 공정할 것이라고 기대되므로 인공지능 심판을 찬성한다. 대체적으로는 그렇게 생각하는 사람이 더 많은 것 같다. 기계는 인간의 편파성을 갖고 있지 않다는 기대는 어느 정도는 타당하다. 

하지만 경기에 관한 모든 판단을 인공지능에게 맡기는 것은 지금의 인공지능 기술 수준에 비추어 어딘지 꺼림직하다. 

그려서 여전이 인간이 관여해야 할 부분을 인정하게 된다.

오심·편파성 우려 없는 로봇, 스포츠 심판 대체할까? : IT : 경제 : 뉴스 : 한겨레

하지만 많은 경기 종목에서 선 위반을 판단하는 선심 역할은 호크아이와 같은 기계에 대체되겠지만 다양한 정보를 종합하고 경기 흐름 속에서 최종적 판단을 순간적으로 해야 하는 주심 역할까지 기계로 대체될 수 있을지는 의문이다. 앞으로 주심은 선심들과 협업하는 대신 로봇심판의 정보를 기반으로 경기 상황에 적합한 최종 결정을 내리는 역할을 하게 될 가능성이 크다. 기술적으로는 공에 센서를 부착해 구기종목도 기록경기처럼 기계가 승부를 결정하게 할 수 있지만 스포츠 팬과 선수들은 기계를 보조적으로 활용하고 최종 판단은 여전히 사람에게 맡기는 것을 기대할 것이기 때문이다.

 반면, 인공지능도 여전히 인간과 같은 편파성을 지니게 될 것이라고 우려하는 목소리도 있다. 

 When artificial intelligence goes wrong – 01RAD

In preparation, the algorithm had studied hundreds of images of past beauty contests, training itself to recognize human beauty based on the winners. But what was supposed to be a breakthrough moment that would showcase the potential of modern self-learning, artificially intelligent algorithms rapidly turned into an embarrassment for the creators of Beauty.AI, as the algorithm picked the winners solely on the basis of skin colour.

 인공지능은 여전히 인간이 구성한 데이터를 바탕으로 학습하기 때문에 인간의 편견이 인공지능 학습에도 끼어들게 되어 있다는 것이다. 위에서 링크된 기사에 따르면, 당초 공정할 것으로 기대되었던 인공지능이 결국 피부색을 기준으로 미인을 뽑았다는 것이다. 

인공지능이 편파적인 판정을 내리는 것은 개발자가 의도하지 않는 경우가 많은데, 이 경우에는 편파적인 판정을 공정한 것으로 착각하게 됨에 따라 더 많은 문제점이 발생할 것이다. 

인공지능의 판정이 공정하든 공정하지 않든 인간이 어느 정도 개입하는 것이 필요하고, 인공지능의 학습 알고리즘을 개발하는 데 있어서는 인공지능이 갖는 한계성을 언제나 인식할 필요가 있다.