에이전트 AI가 금융권의 새로운 경쟁력이자 생존 전략으로 떠오르고 있다. 그러나 금융권 전문가들은 기술 도입 속도에 앞서 AI 거버넌스와 보안 체계 구축, 데이터 활용 규제 개선이 선행돼야 한다고 입을 모았다. 

규제 차이 등으로 인해 글로벌 은행과 국내 은행의 AI 접근 방식에 대한 차이도 흥미를 더했다. 국내 은행들이 업무 효율화·자동화 등에 초점을 맞춘다면 상대적으로 규제 문턱이 낮은 글로벌 은행은 고객향 AI 전략을 염두에 두고 전략을 세우고 있었다.

지난 20일 서울 중구 더존을지타워에서 열린 싱귤래리티 금융 소사이어티(SFS) 2기 포럼에서는 씨티은행과 신한은행이 AI 에이전트  도입 사례와 AX 추진 방향을 발표했다.  

장은영 씨티은행 정보보안본부 상무(CSIO)는 630개의 에이전트 AI를 자체 등록·관리하는 글로벌 거버넌스 체계를, 김금주 신한은행 AX·디지털총괄부장은 본업 핵심 영역에서 전문 버티컬 에이전트와 '1부서 2에이전트' 전략으로 AX 컴퍼니 지향 접근법을 각각 소개했다. ▷관련기사 : [SFS 2.0]630개 에이전트 AI 관리하는 씨티의 원칙…'촘촘한 내부통제', [SFS 2.0]AX로 바뀌는 신한은행 영업현장…"기술보다 현장이 답"(7월22일) 

발표 이후 토론에서는 에이전트 AI 시대를 대비하기 위한 과제와 우려점에 대한 논의가 이어졌다. AI에게 완벽한 자율성이 주어질 때 권한과 책임을 어디까지 물을지도 쟁점으로 떠올랐다. 특히 해외 금융사보다 엄격한 규제로 인해 전통금융이 역할을 잃을 수 있는 만큼 시급한 규제 완화 필요성도 제기됐다. 

이날 토론은 △윤종규 성균관대 특임교수(전 KB금융지주 회장)가 좌장을 맡았다. 발제자를 비롯해 △김병칠 전 금융감독원 부원장(이하 가나다 순) △김병환 전 금융위원장 △김철웅 신한은행 상임감사위원 △김효봉 태평양 변호사 △박정림 전 KB증권 경영자문역 △서영경 연세대 국제학대학원 객원교수(전 한국은행 금융통화위원) △손병두 토스인사이트 대표(전 금융위 부위원장) △신관호 고려대 교수(한국금융학회장) △유명순 한국씨티은행장 △유재수(간사) △윤종원 서울대 특임교수(전 청와대 경제수석) △이종섭 서울대 교수 등이 토론자로 참석했다.

AI가 고객 대신 금융상품을 고르는 시대 

토론은 현재 국내 금융기관들이 에이전트 AI 시대를 맞이할 준비가 되었느냐는 질문으로 시작됐다. 
 
박정림 전 KB증권 경영자문역은 "지금까지 소개된 에이전트 AI는 은행 입장의 자동화에 머물러 있는데 고객 입장의 에이전트 AI는 완전히 다른 문제"라며 "고객이 미션만 주면 에이전트가 대신해 가장 좋은 선택과 실행을 해주는 때가 온다면 금융기관들은 이에 대한 준비가 돼있느냐"고 물었다. 

김금주 부장은 "현재는 고객이 아닌 직원향 AI에 집중하고 있다"며 "고객이 펀드나 상장지수펀드(ETF) 상품 하나를 조회하려 해도 투자성향 분석을 해야 하기 때문에 상품목록 조차 제시할 수 없는 게 현실"이라고 말했다.

에이전트 AI 기술이 발달한다고 해도 소비자보호 규제로 AI가 상품을 비교·추천·실행하는 데는 한계가 있다는 설명이다. 김 부장은 "(규제로 인해) 아직까지는 시간이 필요하다"고 진단했다. 

이같은 규제로 글로벌 금융사와 국내 금융사의 AI 접근법도 차이를 보이고 있다. 유명순 한국씨티은행장은 "씨티그룹은 AI가 자율적으로 모든 행동을 할 것을 대비해 펀더멘털을 다지고 있다"며 "반면 국내 다른 금융기관들은 내부 업무 효율성을 높이는 쪽으로 접근하고 있다"고 분석했다. 

손병두 대표는 "신한은행은 내부 업무 자동화 효율화에 초점을 맞춘 현실적 접근을 하고 있고, 씨티은행은 AI가 금융앱을 뛰어넘어 에이전트 AI 간 거래하는 먼 미래를 염두에 두고 AI 전략을 추진하는 것으로 보인다"며 "(규제 등으로 인해) 접근 방식의 차이가 있다"고 분석했다.

신관호 고려대 경제학과 교수는 "최근 JP모건, 뱅크오브아메리카, 씨티그룹 등 미국 대형 은행들의 수익을 크게 개선시킨 AI 활용 성과는 소프트웨어 개발, 법률·컴플라이언스, 금융사기 탐지, 백오피스 효율화의 4대 핵심 분야에 집중돼 있다"고 언급했다. 이어 "국내 금융권은 고객 서비스 및 자산관리 분야에 초점을 맞추고 있는데, 실질적인 경영 효율화를 끌어낼 수 있는 핵심 영역부터 AI 활용을 적극 추진하고 성과를 바탕으로 범위를 확대하는 전략이 필요하다"고 강조했다.

실제 고객과 상품을 고르고 판단하는 AI의 분리 문제도 지적됐다. 유재수 간사는 "고객이 AI 에이전트를 통해 은행별 대출을 쇼핑한다고 해도 은행은 AI 에이전트에게 대출을 해주는 게 아니기 때문에 여전히 그 뒷단에 있는 사람을 대상으로 신용평가를 한다"면서 "여기서 굉장한 미스매치가 발생한다"고 지적했다.

좌장을 맡은 윤종규 성균관대 특임교수는 이 같은 논의를 세 갈래로 정리했다. 그는 "에이전트 AI는 스스로 상품을 비교, 의사결정, 실행까지한다지만 우리 체계로는 현재 불가능한 상황"이라며 "일일이 고객 동의와 절차를 밟아야 하는데 이 대목을 앞으로 어떻게 대응할지 논의가 필요하다"고 말했다.

또한 은행이 핀테크사 등 외부 에이전트 AI를 활용하거나 고객이 가진 에이전트 AI를 활용하는 방법과 은행이 마이데이터를 활용해 자체 에이전트 AI를 고객에게 사용하도록 하는 두가지 방법 중 선택이 필요하다는 점도 제시했다.

윤 교수는 "다만 어느쪽이든 현재로선 고객 동의·녹취 등 절차를 풀어주지 않으면 아무것도 할 수 없다"며 "이러한 세상이 온다는 걸 전제로 지금부터 법률적으로 어떻게 풀어나갈지를 준비해야 한다"고 강조했다. 

서영경 연세대 국제학대학원 객원교수는 은행이 구글 등 외부 빅테크사와 AI 활용을 계약할 때 안전장치가 충분한지에 대한 우려도 제기했다. 그는 "고객 정보 등 데이터 학습 미사용, 인메모리 방식 후 정보 삭제 등 계약상 안전장치를 두고 있지만 실제 보안성을 충분히 담보할 수 있는지 의문"이라고 말했다. 

AI가 사번 받는 시대…통제 주체는 누가? 

AI에 대한 관리 책임 우려도 제기됐다. 손병두 토스인사이트 대표는 "AI가 사람 또는 사람 이상의 일을 한다고 가정하고 등록·관리하게 되면 결국 AI한테도 사번을 부여해 일을 시키는 시대가 되는 것"이라며 "사람 임직원에게 책무와 통제 책임을 부여하듯이 AI에이전트에도 업무 범위, 승인권한 등을 정해줘야 안정과 혁신의 균형을 이룰 것"이라고 제언했다. 

이어 "나중에는 AI를 하나의 사원이나 임원처럼 관리해야 한다"면서 "향후 문제와 책임소재를 밝히기 위해서는 AI에 대한 책무구조도도 나와야 할 것"이라고 덧붙였다. 

김철웅 신한은행 상임감사위원은 "AI 거버넌스를 개발부서와 보안부서 누가 통제할 것이냐도 굉장히 중요한 주제가 될 것"이라고 말했다.

그는 "금융소비자보호법의 적합성·적정성 원칙, AI 기본원칙의 보조수단성 원칙 모두 결국 '휴먼 인 더 루프'를 기본으로 하고 있어 씨티나 신한 모두 같은 고민을 하고 있다"면서 "금융권이 함께 극복해 나가야 할 과제"라고 강조했다. 

AI의 자율성 단계와 인간 개입에 따른 우려도 나왔다. 김병칠 전 금융감독원 부원장은 "결국 '인 더 루프'든 '온 더 루프'든 중심에는 사람이 있는데, 휴먼 에러는 또 어떻게 관리할지도 생각해볼 지점"이라고 말했다. 

그는 "궁극적으로 직원이 배제된 채 AI 에이전트끼리 자동으로 거래가 실행되는 환경도 염두에 둬야 한다"고 덧붙였다. 

AI 목표가 손익? 고객 이익과 충돌 우려

AI 목표를 어디에 둘 것인지에 대한 언급도 나왔다. 윤종원 서울대 특임교수는 "AI의 목표를 손익으로 했을 때 고객의 만족도나 이익을 침해할 가능성이나 은행 리스크를 초래할 가능성도 함께 고려해야 한다"면서 "초기 단계부터 손익 중심으로 가면 고객 이익과 반대 방향으로 갈 공산이 크다"고 말했다. 

그는 또 "정부가 발표한 금융 분야 AI 가이드라인에 책임성, 설명 가능성 같은 요소들이 담겨 있는데, 제대로 작동하려면 관련 거버넌스 구조와 내부통제를 어떻게 설정할지가 중요하다"면서 "결국 책임은 사람이 지도록 돼있는데 AI의 자율성과 인간 책임 사이 상충을 어떻게 볼지도 고민해야 한다"고 지적했다.

이와 관련해 김철웅 상임감사위원은 "신한은행은 에이전트 AI 자체를 고객관리나 고객분석, 자산관리에 초점을 맞추고 있다"고 언급했다. 그는 "손익 증대나 MAU(월간 활성사용자 수) 증가는 결국 에이전트를 통해 직원들이 실질적인 효과를 낼 수 있도록 어떤 AI를 만들지에 대한 목표"라고 설명했다. 

"데이터 없이는 AI도 없다"

이종섭 서울대 경영대학 교수는 데이터 활용 범위와 책임소재가 함께 정의돼야 AI가 금융서비스에 제대로 활용될 수 있다고 짚었다. 

이 교수는 "AI를 통해 소비자가 정말 효용을 얻으려면 고객 데이터를 폭넓게 활용할 수 있는 에이전트가 필요하다"면서 "데이터 거버넌스 구조가 정확히 확립되지 않으면 금융서비스 제공자 입장과 수용자 입장의 활용 사례가 뒤섞여버린다"고 말했다. 

그는 또 "기존 업무를 효율화·자동화하는 데는 AI가 유용하지만, 부서 간 협업(호리즌탈)에서는 여러 문제가 생긴다"면서 "부서마다 AI 도입 수준이 다르고, 어떤 데이터가 결합 가능한지에 대한 거버넌스가 없으면 협업 사례가 나오기 힘들어 AI 활용이 전사적으로 확산되지 못하는 경우도 많다"고 설명했다. 

금융 계열사간 데이터 결합으로 신용평가 예측력 등을 높일 수 있지만 국내에서는 규제로 막혀 있어 소비자가 손해를 볼 수 있다는 지적도 이어졌다. 

손병두 대표는 "계열사 간 정보공유를 위한 법 개정도 필요하다"면서 "동일 금융사 내에서도 부서별 이해관계와 데이터 소유권이 다르다 보니 공유가 잘 되지 않는 부분이 있는데 내부에서도 이러한 노력이 필요하다"고 말했다. 

김철웅 상임감사위원은 "합성데이터나 기타데이터 활용이 사실상 한정돼 있다"면서 "AI 내부모델 학습을 위한 데이터는 예외사항으로 허용해 주는게 필요하다"고 제언했다.

김효봉 태평양 변호사는 "일본과 EU는 이미 수집한 목적 외에도 AI 학습과 통계 목적 사용은 동의 없이도 활용이 가능하도록 법이 개정됐다"면서 "해외에서는 이미 다양한 상품과 서비스들이 나오고 있고 특히 디지털자산 시장에서는 토큰화된 증권을 관할권에 상관없이 지갑을 통해 거래하고 있어 개인정보보호법, 망분리 규제 등이 적시에 보완되지 않으면 전통금융의 역할이 상당부분 규제되지 않은 디파이(탈중앙화 금융) 시장으로 넘어갈 수 있다"고 우려했다.