정부가 내년 1월 시행 예정인 '인공지능(AI) 기본법'의 하위법령 제정에 나선다. AI를 사용한 작업물의 경우 사전에 고지하거나, 결과물 표시(워터마크)를 의무적으로 하도록 했다. 다만 육안으로 볼 수 없고, 홈페이지나 프로그램으로 AI 활용 여부를 확인할 수 있는 '비가시적 워터마크'를 허용한다.
과학기술정보통신부는 17일 서울 중구에서 AI 기본법 하위법령 제정방향과 관련한 기자스터디를 열었다. 정부는 민간전문가 80여명으로 구성된 '하위법령 정비단'을 지난 1월부터 구성해 운영했다. 산업계, 학계, 시민단체, 관계부처로부터 총 74차례 의견을 수렴한 끝에 하위법령 초안을 마련했으며, 지난 8일 국가 AI전략위원회 첫 회의에서 공개했다.
하위법령은 △시행령 △고영향AI 기준·예시 가이드 △안전성 확보 고시·가이드 △사업자 책무 고시·가이드라인 △AI 투명성 확보 투명성 가이드 △AI 영향평가 가이드 등으로 구성됐다.
정부는 국가 AI경쟁력 강화라는 제정 취지, 해외 동향을 고려해 시행령에는 필요한 규제사항을 최소한으로 포함시켰다고 설명했다. 김경만 인공지능정책국장은 "AI 분야가 워낙 빠르게 발전해 최신 규제동향을 법에 담아도 조금만 지나면 현실과 맞지 않는 규정이 된다"면서 "가능한 한 규제는 최소화하고 산업 진흥에 중점을 뒀다"고 설명했다.
먼저 국방·국가안보 목적으로만 사용되는 AI는 AI기본법 적용 대상에서 제외된다. 또한 국가AI위원회는 국가AI전략위원회로 명칭을 변경하며, 기능으로 부처간 정책 조정, 이행점검, 성과관리 사항을 추가한다. 최고AI책임자(CAIO)와 CAIO협의회의 운영근거도 마련하기로 했다. 연구개발(R&D), 데이터 구축, AI 도입·활용 등 산업 육성을 위한 지원 근거 규정을 마련하고 시행령에서 대상과 기준, 내용을 구체화한다.
또한 생명이나 신체, 기본권에 중대한 영향을 미치거나 위험을 초래할 수 있는 AI 시스템인 '고영향 AI'에 대한 영역별 판단 기준을 만든다. 고영향 AI는 에너지나 보건의료, 원자력, 교통, 교육 등에서 활용되는 AI 시스템으로, 위험관리방안과 이용자보호방안 등 신뢰성을 확보하기 위한 방안도 규정한다.
신뢰성 확보를 위해 생성형·고영향AI 이용자에게 사전에 AI를 활용했다고 고지하고, 최종 결과물에 워터마크 삽입 의무를 부여하도록 했다. 약관·UI(이용자 인터페이스)를 통한 사전고지와 비가시적 워터마크가 모두 인정된다.
비가시적 워터마크는 특정 웹사이트나 프로그램으로 AI 사용 여부를 확인할 수 있고, 육안으로는 볼 수 없는 워터마크를 의미한다. 어도비, 아마존, 구글 등이 모여서 꾸린 '콘텐츠 출처 및 진위 확인을 위한 연합'(C2PA)의 워터마크가 그 예다. 오픈AI의 생성 이미지 등에 C2PA 워터마크가 쓰이고 있다.
심지섭 과학기술정보통신부 사무관은 "워터마크를 모두 표시하게 되면 (생성형 AI) 결과물을 활용하는 콘텐츠 산업이나, 개인의 창작을 저해할 수 있는 우려가 있다"고 안내했다.
단 딥페이크(AI 기술을 활용해 합성한 사진 또는 영상) 등 사실과 구별하기 어려운 결과물은 주된 이용자의 연령, 신체적 조건(장애 등)을 고려해 워터마크를 표기하거나 사전에 고지하도록 했다.
사업자가 AI제품이나 서비스를 제공할 시 사람의 기본권에 미치는 영향평가를 자율적으로 실시하도록 했다. 고영향AI에 대해서는 영향평가 실시 노력의무를 규정한다.
전년도 매출액 1조원 이상, AI서비스 부문 매출액이 100억원을 넘는 외국 AI사업자는 국내 대리인을 지정하도록 했다. 일 평균 국내 이용자 수가 100만명을 넘거나, AI서비스 관련 사고로 자료 제출을 요구받은 경우에도 국내 대리인을 지정해야 한다.
AI기본법 시행 초기 기업들의 혼란을 최소화할 수 있도록 실질적인 규제 유예와, 동일한 효과를 달성할 수 있는 고태료 계도기간을 운영할 예정이다. 안전이나 신뢰성 검·인증, 영향평가의 경우 컨설팅, 비용 지원 등을 통해 기업 부담을 덜고, 인센티브 부여로 자발적 참여를 유도한다.
정부는 산·학·연 및시민단체 등 이해관계자 대상 하위법령 주요 내용 설명과 의견수렴을 거쳐, 다음달 중 행정입법 절차를 추진할 계획이다.
