'편견 없는 AI'를 설계하려는 MS의 방법론
http://m.zdnet.co.kr/news_view.asp?article_id=;20181128140651&re=zdk#imadnews
공정성-투명성 핵심…'윤리적 AI' 만들어야
구글 인공지능(AI) 연구조직 '구글 브레인은' 지난 2016년 흥미로운 논문을 한편 발표했다. AI의 편견을 극복하는 방법을 주제로 한 연구 논문이었다.
이 논문에서 연구진은 AI가 편견을 가질 수 있다고 지적했다. 편향된 데이터로 편향된 판단을 내릴 위험이 충분하다는 경고였다. 한 걸음 더 나가 사람에게 영향을 미칠 수 있는 수많은 판단 결과로 누군가를 차별할 수도 있다고 봤다. 이런 차별 문제는 수학적 방법론만으론 해결할 수 없다는 견해를 제시했다.
요컨대 편향된 데이터를 근거로 한 AI의 판단은 공정하지 않다. 사람들에게 신뢰를 못 준다. 의심스러운 AI는 인간 사회에 융화할 수 없다. 이 상황이 바뀌지 않는 한, AI 개발과 활용은 현실적인 문제가 된다. 아직 주류 AI의 역할은 제한적이다.
단순한 정보 탐색 및 제공이나 일상적인 편의를 돕는 데 그친다. 당장 기업 환경의 거래와 계약, 인명을 다루는 의료, 법집행과 같은 영역에서 AI가 널리 쓰이지 못한다. 믿을 수 있는 데이터로 투명한 판단 과정을 거쳐 사람들에게 설명이 가능한, 이해될 수 있는 결과를 제공하는 AI가 개발, 보급되지 못해서다.
관심있는 분은 참고바랍니다.
