올해 상반기 국내 금융권을 타깃으로 한 해킹이 가장 많은 것으로 나타났다. 국외에서는 국제 분쟁 여파로 공공분야 공격이 심했다. 보안업체인 SK쉴더스는 네트워크 접근 통제를 강화하고 AI 보안 연계 서비스로 해킹에 대비해야 한다고 조언했다.
SK쉴더스는 2일 2024년 상반기 주요 보안 트렌드를 분석하고 AI LLM(거대언어모델) 보안 대응전략을 제시하는 미디어 세미나를 통해 이같이 밝혔다.
이날 발표는 SK쉴더스의 EQST(이큐스트, Experts, Qualified Security Team)가 상반기에 직접 경험한 해킹 사고 사례와 연구 결과를 토대로 분석한 내용을 바탕으로 진행됐다. 특히, 최근 주목받고 있는 AI LLM 취약점을 이용한 공격 3가지를 시연하고 보안 대책에 대해 발표했다.
EQST는 가상자산 탈취, 딥페이크 해킹 공격 등이 상반기에 화제가 됐다고 밝혔다. 올해 1월에는 전 세계적으로 사용되고 있는 이반티(Ivanti) 가상사설망(VPN) 솔루션에서 제로데이 취약점이 발견돼 다양한 산업 분야에서 피해를 입었다.
제로 데이 공격(Zero-Day Attack)은 컴퓨터 소프트웨어 취약점을 공격하는 기술적 위협으로, 해당 취약점에 대한 패치가 나오지 않은 시점에서 이뤄지는 공격을 말한다.
2월에는 중국 정부 지원을 받는 것으로 알려진 볼트 타이푼(Volt Typhoon)이 미국 주요 인프라 내부망을 공격했다는 사실이 밝혀졌다. 또한 딥페이크로 구현된 화상회의에 속아 340억원의 거금을 송금한 사례가 있었으며 3월에는 오픈소스 'XZ Utils'에서 백도어가 발견됐다.
백도어는 인증되지 않은 사용자에 의해 컴퓨터의 기능이 무단으로 사용될 수 있도록 컴퓨터에 몰래 설치된 통신 연결 기능을 말한다.
4월에는 LLM에 의해 작성된 악성 스크립트가 사용된 악성 메일 공격이 발생했으며, 5월에는 블록체인 기반의 게임 플랫폼이 해킹돼 300억원의 가상자산을 도난 당하는 사건이 있었다.
업종별로는 국내에서는 금융업을 대상으로 한 침해사고가 20.6%로 가장 높은 비중을 차지했다. 비트코인 ETF 승인 등의 이슈로 가상자산의 가치가 상승해 이를 노린 해킹 공격이 지속됐다. 국외에서는 러시아, 이스라엘 등 국제 분쟁으로 인해 정부와 공공기관을 대상으로 한 공격이 26.7%로 가장 높은 순위를 차지했다.
유형별로는 취약점 공격이 45%로 가장 많이 발생했는데, VPN, 라우터 등 네트워크 장비를 통한 APT(지능형 지속 위협) 공격 때문인 것으로 조사됐다. 사람의 심리를 이용해 기밀을 탈취하는 수법인 소셜 엔지니어링 공격이 26%로 뒤를 이었다.
이번 상반기에는 네트워크 장비의 신규 취약점을 활용한 공격이 성행했는데, 작년 동기에 비해 2배 이상 증가하는 수치를 보였다. 이 외에도 보안 패치가 발표됐지만 패치를 적용하지 않은 상태를 노린 1-Day 취약점을 악용하거나 합법적인 도구를 사용한 랜섬웨어 공격들이 발생했다.
EQST는 생성형 AI가 급속도로 발전하며 AI가 가져올 수 있는 보안위협에 관한 연구결과도 발표했다. 특히, 비영리단체인 OWASP에서 발표한 AI LLM 서비스에서 발생 가능한 10가지의 취약점을 분석하고 위험도가 높은 3가지를 시연했다.
이 가운데 하나인 '프롬프트 인젝션(Prompt Injection)'은 악의적인 질문을 통해 AI 서비스 내 적용된 지침 혹은 정책을 우회해 본 목적 이외의 답변을 이끌어내는 취약점으로 악성코드 생성이나 마약 제조, 피싱 공격 등에 악용될 수 있다.
'불안전한 출력 처리'의 경우 LLM이 생성한 출력물을 시스템이 적절하게 처리하지 못할 때 발생하는 것으로, 다른 2차 공격으로 이어질 수 있어 위험도가 높다.
개인정보가 포함되거나 애플리케이션의 권한 관리 미흡으로 생길 수 있는 '민감 정보 노출' 취약점도 주목됐다. SK쉴더스는 LLM 애플리케이션에서 자주 발생하는 취약점을 LLM 서비스 운영단계, 개발단계, 모델 개발 및 의존 단계로 나누어 분석해 각각의 보안 대책을 설명했다.
SK쉴더스는 "LLM 사용시 프롬프트 보안 솔루션을 도입하거나, 데이터 정제 솔루션을 고려해볼 수 있다"며 "EQST가 제시하는 AI 서비스 보안 체크리스트를 통해 AI 서비스 개발과 사용 시 보안 위협을 점검해 볼 수 있다"고 밝혔다.
김병무 정보보안사업부장(부사장)은 "전 산업 분야에 AI 기술 접목이 확산되면서 이를 노린 보안 위협이 현실화되고 있어 체계적 대비가 필요하다"며 "선제적으로 보안 트렌드 변화에 발맞춘 연구 결과물을 지속적으로 공개하며 생성형 AI 시대의 보안 전략을 제시해 나가겠다"라고 밝혔다.
