#2020년 말 출시된 대화형 인공지능 챗봇 서비스 '이루다'는 출시 한달도 안 돼 서비스를 접어야 했다. 개발사의 의도와 달리 개인 정보 침해나 특정 성별 혐오, 외설적 목적 사용 등 부작용이 많았기 때문이다.
디지털 전환이 가속화되고 서비스가 확대되면서 이루다 서비스 사례와 같은 예기치 못한 상황이 벌어지고 있다. 이를 대비한 정책적 방안이 필요하다는 목소리가 나온다.
28일 한국과학기술기획평가원 보고서(디지털 전환의 미래 사회 위험 이슈 및 대응 전략: 인공지능 역기능을 중심으로)에 따르면 디지털 전환은 경제·사회와 일상에 빠르게 접목되고 있고 이는 더욱 가속화될 전망이다.
글로벌 시장조사 기관 리서치앤마켓에 따르면 디지털 전환 시장은 2020년 4698억달러(약 590조원)에서 2025년 1조98억달러까지 성장할 것으로 예측된다.
인공지능·빅데이터·5G 네트워크 등 디지털 전환 관련 핵심 기술들의 빠른 발전과 코로나19에 따른 디지털 수요 급증은 전 분야의 디지털 전환을 가속화하고 있다.
디지털 전환이 순기능만 있는 것은 아니다. 디지털 전환이 가속화될수록 인공지능 편향성과 개인정보 오남용, 딥페이크, 사물인터넷(IoT) 기기의 보안, 인공지능 윤리 등 문제가 함께 떠오르고 있다.
해외에서는 역기능에 대응하기 위한 발 빠르게 정책을 마련하고 있다. 하지만 우리나라는 아직 다양한 정책 수단에 대한 고민이 부족하고 이에 대한 사회적 합의나 정책의 거시적 방향 설정도 부족하다는 지적이다.
보고서에 따르면 미국·일본·중국·유럽연합(EU) 등 주요 국가들은 2016~2017년도부터 인공지능 기술에 초점을 맞춰 디지털 전환 역기능 대응을 위한 정책적 기틀을 마련했다.
반면 한국은 상대적으로 늦은 2019년 말부터 인공지능 기술에 집중한 디지털 전환 역기능 대응 정책을 수립·추진하고 있다.
보고서는 "정부가 경쟁력과 기술 확보 등을 위해 디지털 전환 촉진 정책을 적극적으로 추진하는 반면 디지털 전환의 위험에 대한 이해와 이를 방지할 수 있는 정책 추진에는 상대적으로 더딘 편"이라고 지적했다.
이어 "현재 디지털 전환 미래 사회 위험 이슈에 대한 정책적 대응 방향은 아직 정답이 없는 사안"이라며 "국내의 사회적·규범적·법적 여건 등을 검토해 역기능 대응 정책의 큰 방향성(규제 수준 및 수단)을 설정하고 이에 맞춰 세부 수단들을 정비·구축해 나아가야 할 것"이라고 했다.
