지난 2015년 미국 뉴욕에서 일하는 한 흑인 프로그래머는 자신의 트위터에 구글 사진 캡처 화면과 함께 '내 친구는 고릴라가 아니다'라며 욕설이 담긴 글을 올렸다.
발단은 구글 포토서비스 중 얼굴 자동인식 기능 오류다. 이 서비스는 AI가 사진을 분석하고 사진 속 주인공을 인식해 이름을 태그(Tag)해준다. 문제는 구글 포토서비스가 주인공의 흑인 여자친구를 고릴라로 인식하고 태그하면서 비롯됐다. 구글은 '기능의 오류'라며 즉각 사과하고 재발 방지를 약속했다.
김효은 한밭대 인문교양학부 교수는 이 사례가 단순 오류가 아니라고 판단했다. 기술적 오류가 아닌 AI(인공지능)의 학습으로 표출된 우리 사회의 모습이라는 게 김 교수의 생각이다. <☞ '2018 비즈워치 포럼' 바로가기>
| ▲ 김효은 한밭대 인문교양학부 교수 |
김효은 교수는 “최근 AI는 인간이 모든 것을 알려주는 방식이 아니라 스스로 학습하면서 수많은 데이터를 쌓는다”며 "흑인 여자를 두고 고릴라라고 칭한 것은 AI의 오류가 아니라 우리 사회가 흑인을 어떻게 인식하고 있는지를 보여주는 사례"라고 지적했다.
실제 구글에서 '미국인(Americans)’에 대한 이미지를 검색하면 대부분 백인이다. AI는 이 같은 정보를 바탕으로 학습한 까닭에 흑인 여성을 제대로 인식하지 못했다는 주장이다.
김 교수는 “구글이 의도적으로 흑인 여성을 고릴라로 칭하는, 비윤리적인 AI를 만들지는 않았을 것"이라며 "제작자도 예측하지 못한 결과가 AI 학습을 통해 나타난 사례로, AI 알고리즘 제작 초기부터 윤리적 문제에 대한 고려가 필요한 이유를 보여준다”고 강조했다.
AI가 탑재된 지능형 로봇의 활용 범위가 계속 넓어지고 있다는 점에서 앞선 사례는 로봇 윤리 문제와도 무관치 않다. 로봇에 의해 사고 혹은 문제가 발생했을 때 이에 대한 책임 소재가 불분명하기 때문이다. 로봇 산업과 기술의 발전과 함께 로봇 윤리가 다뤄지는 주된 이유가 여기에 있다.
김효은 교수는 “로봇에도 인격을 주자는 EU(유럽연합) 주장이 논란인 근본 이유는 책임 문제 때문"이라며 "로봇의 책임 문제는 여러 단계에 거쳐 나뉘어 있어 명확하게 규정하기 힘들다"고 설명했다.
애초 로봇 설계 단계부터 사고 발생이 예상됐다면 로봇 개발 및 제작자에게, 그렇지 않고 로봇을 사용하는 과정에서 사고가 났다면 사용자에게 책임을 묻는 식이다. AI가 제공된 정보를 통해 학습하고, 이 결과로 인한 사고라면 정보 제공자에게도 책임을 물을 수 있다.
아울러 AI와 로봇 등이 4차 산업혁명의 핵심인 만큼 로봇 윤리는 4차 산업을 기반으로 비즈니스를 하는 기업들에도 필요한 부분이다. 이에 대한 고민이 없다면 4차 산업을 영위하는 기업들이 성공하기가 쉽지 않다는 게 김 교수의 생각이다.
김효은 교수는 “최근 테슬라의 일론 머스크를 비롯해 미국의 여러 기업이 AI와 로봇 윤리에 관심을 두고 투자를 진행하는 이유에 대해 많은 생각을 하게 됐다"며 “사회에 해를 끼치는 윤리적 문제가 발생했을 때 기업의 존폐까지 영향을 주는 큰 위기로 이어질 수 있다는 점에서 로봇 윤리 등은 기업에 반드시 필요한 부분"이라고 말했다.
| ▲김효은 한밭대 인문교양학부 교수 /사진=이명근 기자 qwe123@ |
로봇과 함께하는 시대가 다가오면서 앞으로 인간과 로봇 간 소통 방식도 더욱 발전할 전망이다. 특히 인간과 로봇의 협력이 중요해진 까닭에 서로에 대한 이해도 로봇 윤리를 정의하는데 중요한 요소가 될 수 있다.
김효은 교수는 “로봇은 인간을 닮아야 하는 만큼 로봇 제작 과정에서 기술적 분야는 물론 심리학 등 다양한 분야에 대한 연구가 이뤄진다"며 "즉 인간이 로봇을 어떻게 만들 것인가가 중요한데, 이를 위해서는 인간 사회와 철학을 포함한 윤리적 고민이 로봇에 담겨 있어야 한다”고 강조했다.
다만 김효은 교수는 로봇 윤리에 대한 광범위한 논의와 최근 지능형 로봇에 대한 두려움 등에 대해선 다소 과장된 측면이 있다고 본다. AI는 초인공지능과 범용 인공지능, 특정 분야에 대해서만 활용할 수 있는 협의의 인공지능이 있는데 현재 기술력은 협의의 인공지능 수준이라는 설명이다.
김 교수는 “초인공지능과 범용 인공지능 등은 앞으로 관련기술이 더 발전된 이후 논의해도 충분하며, 일단은 우리 앞에 다가온 협의의 인공지능과 이를 탑재한 로봇에 대한 윤리 문제에 집중할 필요가 있다”며 "'로봇이 인류를 지배할 수도 있다'는 우려 역시 시기상조다”라고 말했다. [시리즈 끝]
