AI가 고객 대신 송금·투자⋯금융권 ‘새 리스크’ 대응은

국제금융센터 “AI발 뱅크런·금융사기 위험 커져” 보고서
금융위 AI 가이드라인 마련·금보원 AI보안연구소 신설
은행권도 보안 체계 고도화⋯“정보 공유·제도 정비 필요”

AI가 고객을 대신해 금융거래를 수행하는 시대가 다가오면서 금융권의 인증·보안 체계를 새롭게 설계해야 한다는 분석이 나왔다. 금융당국과 은행권도 AI 금융사기와 보안 위협에 대비해 제도 정비와 보안 체계 고도화에 나서고 있다.

29일 금융권에 따르면 국제금융센터는 최근 ‘글로벌 은행산업 트렌드’ 보고서에서 에이전틱 AI(Agentic AI) 확산이 은행권의 새로운 인증·보안 과제로 떠오르고 있다고 진단했다. AI가 고객을 대신해 금융거래를 수행하는 환경에서는 기존 거래 체계의 보완이 불가피하다는 분석이다.

특히 에이전틱 AI 확산으로 거래의 진위뿐 아니라 AI의 권한과 책임을 어떻게 검증할 것인지가 새로운 문제로 부상할 것으로 내다봤다. AI가 사기나 오류를 일으켰을 경우 법적 책임과 권한 범위가 불분명한 만큼 향후 1~2년 내 주요 규제 이슈가 될 가능성이 크다는 것이다.

아시아·태평양 지역 은행 경영진의 86%는 향후 1년 내 에이전틱 AI를 가장 큰 사기 취약 요인 가운데 하나로 꼽았고, 78%는 정상적인 AI 활용과 악의적인 활용을 구분하기 어려울 것으로 전망했다. 보고서는 이를 근거로 에이전틱 AI가 금융 시스템의 새로운 리스크로 떠오르며 ‘AI발 뱅크런’ 가능성까지 제기된다고 경고했다.

AI 기반 금융사기 피해도 현실화하고 있다. 영국 금융단체 UK Finance는 연례보고서에서 범죄자들의 AI 활용 확산으로 지난해 영국의 금융사기 피해 규모를 13억파운드(약 2조4000억원)로 추산했다.

이 같은 변화에 맞춰 금융당국도 제도 정비에 속도를 내고 있다. 금융위원회는 최근 금융권 AX(인공지능 전환) 현장 간담회를 열고 금융분야 AI 가이드라인을 마련했다. AI 활용이 상품 추천을 넘어 가입과 결제까지 확대될 가능성을 고려해 거버넌스와 위험관리, 소비자 보호 원칙을 제시했다.

금융보안원도 AI 기반 금융사기 방어 체계를 강화하고 있다. 최근 카카오뱅크·케이뱅크·토스뱅크와 연합학습 기반의 보이스피싱 탐지 AI 공동모델을 개발해 실제 금융 현장에 적용하기로 했다. 또 원장 직속 ‘금융AI보안연구소’를 신설하고 AI 보안 위협 연구와 금융권 공동 방어 체계를 마련 중이다.

은행권 역시 AI 시대에 맞춘 보안과 내부통제 체계 고도화에 속도를 내고 있다. KB금융은 AI 거버넌스 체계를 고도화하고 기술적 품질 기준과 민감정보 유출 차단을 위한 보안 가드레일을 구축해 AI 서비스의 안전성과 신뢰성을 높인다는 계획이다. 신한은행은 AI 기반 이상금융거래탐지시스템(FDS)을 활용하고 있으며, 생성형 AI를 악용한 금융사기에 대비해 통신사 위험정보 연계 등 탐지 체계를 지속적으로 고도화하고 있다.

하나은행은 통합보안관제를 통한 상시 모니터링 체계를 운영하고 있으며, 실시간 위협정보 기반 보안체계와 서버백신, EDR, 호스트 IPS를 활용해 침해 대응 역량을 강화하고 있다. 우리은행은 생성형 AI 기반 이상금융거래탐지시스템(FDS)을 운영하고 'AX보안 전담조직'을 신설해 신·변종 금융사기 탐지 역량을 높이고 있다.

시중은행 관계자는 “현재 보안 체계만으로도 일정 수준의 방어는 가능하지만, AI 서비스가 확대될수록 사이버 공격도 함께 고도화될 것으로 보고 있다”며 “금융권 공동 위협정보 공유와 디지털 환경 변화에 맞춘 제도 정비가 함께 이뤄져야 할 것”이라고 말했다.