BC카드, 금융 특화 AI 검색 모델 공개… KT 그룹사 AI 서비스 선적용

BC카드가 금융 특화 생성형 인공지능(AI) 서비스의 검색 정확도를 높이는 자체 개발 임베딩(Embedding) 모델을 공개했다고 오늘(2일) 밝혔습니다.

'임베딩 모델'은 질문과 문서의 의미를 AI가 이해할 수 있는 좌표값(숫자)으로 변환해 가장 관련성이 높은 정보를 찾아 사용자에게 제공하는데 특화돼 있습니다.

기존 임베딩 모델은 가맹점, 카드 결제 등 국내 금융 분야의 전문 용어와 문맥을 충분히 이해하지 못한다는 한계가 제기돼 왔습니다. 

BC카드는 이러한 문제 해결을 위해 오픈소스 플랫폼에 공개했던 182만건 규모 데이터셋을 활용해 금융 특화 임베딩 모델을 개발했습니다.
 
이번에 개발된 모델은 서비스 목적에 맞춰 경량형, 고품질형 2가지 라인업으로 구성됐습니다.

먼저, 경량형 모델은 약 6억(0.6 B)개의 피라미터 규모로 일반 CPU로 이용 가능합니다. 

이 모델은 공개 직후 글로벌 벤치마크 SOTA(State Of The Art) 평가 항목에서 타 모델 대비 최대 15%까지 향상된 성능을 보이며 전세계 1위를 기록했습니다.

고품질형 모델은 약 40억(4.0B)개의 파라미터로 GPU환경에서만 활용할 수 있습니다. 

경량형 모델 대비 약 10% 가량 성능이 뛰어나며, 정밀한 검색이 필요한 업무에 적합합니다.
 
빠른 응답이 필요한 서비스에는 경량형 모델을, 높은 검색 정확도 필요한 시에는 고품질형 모델을 선택적으로 적용할 수 있습니다.

해당 모델은 글로벌 오픈소스 플랫폼인 허깅페이스(Hugging Face)를 통해서도 공개할 예정입니다. 

BC카드는 향후 KT 그룹사 AI 서비스 적용을 시작으로 정부와 금융기관 등을 대상으로 금융 AI 검색 플랫폼 사업도 확대해 나갈 계획입니다.

오성수 BC카드 상무(AI데이터본부장)은 "자체 개발한 금융 특화 모델과 데이터셋을 개방과 공유해 금융권 전반의 AX 저변 확대와 한국형 금융 AI 생태계 구축에 기여할 것"이라고 밝혔습니다.