[뉴스토마토 장선영 기자] 한국신용정보원이 금융회사들이 활용할 수 있는 오픈소스 인공지능(AI) 언어모델의 신뢰성과 안전성을 평가하기 위한 공통 기준 마련에 나섭니다. 금융사가 AI 모델을 도입하기에 앞서 성능과 보안 위험 등을 1차적으로 점검할 수 있는 기준을 마련하는 것인데요. 모델 선별과 기술검증(PoC)에 부담을 느껴온 중소형 금융사의 AI 도입 문턱을 낮추는 데 도움이 될 것이라는 기대가 나옵니다. 다만 실제 금융 업무에 적용하기 위한 추가 검증과 정보보안 체계 구축이 필요하다는 지적이 나옵니다.
한국신용정보원은 오는 9월 10일까지 '금융권 AI플랫폼 언어모델 신뢰성 평가 용역' 입찰 제안서를 받습니다. 주요 과제는 △금융권 특화 신뢰성 평가지표 마련 및 평가 프레임워크 확정 △금융권 특화 신뢰성 평가 데이터셋 구축 △금융권 AI플랫폼 업로드 대상 언어모델에 대한 신뢰성 평가 등입니다.
생성형 AI는 크게 인터넷망을 통해 제공되는 상용 AI와 금융회사 내부 시스템에 설치해 활용할 수 있는 공개형 AI 모델로 나뉩니다. 상용 AI는 다양한 업무에서 높은 성능을 제공하지만 주로 금융회사 통제권 밖의 클라우드 환경에서 서비스됩니다.
반면 오픈소스 AI 모델은 비교적 적은 컴퓨팅 자원으로도 구동할 수 있고, 금융회사 내부망에 직접 설치할 수 있습니다. 따라서 내부 정보를 활용한 사내 규정 챗봇이나 문서 작성·콘텐츠 제작 등 다양한 내부 업무에 활용할 수 있습니다. 다만 금융사가 직접 적합성과 안전성을 판단하기 까다롭습니다. 누구나 모델을 수정하거나 재배포할 수 있어 다양한 변형 모델이 존재하기 때문입니다.
이에 신정원은 이 같은 공개형 AI 모델을 대상으로 일차적인 신뢰성 평가를 진행할 계획입니다. 금융기관이 AI 모델 도입 시 성능과 안전성을 판단하는 데 참고할 수 있는 공통 기준을 마련한다는 것이 골자입니다. 평가 대상은 AI 모델 플랫폼 '허깅페이스' 등 공개된 언어모델입니다. 금융사의 개별 서비스에 적용하기 전 단계에서 모델 자체의 신뢰성과 위험요인을 살펴보는 방식입니다.
평가지표에는 시스템 위험, 안전·보안 위험, 금융업무 리스크, 관련 법령 위반 리스크 등 언어모델을 금융업무에 활용할 때 고려해야 할 요소들이 포함될 예정입니다. 이를 토대로 세부 평가지표도 세웁니다. 구체적인 평가 기준과 수준은 용역 수행 과정에서 논의할 방침입니다.
생성형 AI 서비스를 자체적으로 개발하고 검증하는 데는 상당한 비용과 전문인력이 필요합니다. 특히 상대적으로 규모가 작은 중소형 금융사는 자체 AI 모델을 구축하고 개별 모델의 성능과 안전성을 검증하는 데 한계가 있습니다. 이에 업권에서는 신용정보원의 공통 평가체계가 AI 활용의 진입장벽을 낮추는 데 도움이 될 것으로 기대하고 있습니다.
금융권 한 관계자는 "중소형 금융사들은 비용과 인력 문제 때문에 대형사보다 상대적으로 AI 개발이 더뎠다"며 "1차적 신뢰성 검증이 이뤄진다면 향후 AI 개발과 AI 전환(AX)에 조금 더 도움을 받을 수 있을 것으로 생각한다"고 말했습니다.
다만 신뢰성 평가와 별개로 실제 업무에 AI를 적용하기 위한 추가 검증은 각 금융기관의 과제로 남습니다. 현 단계에서 AI는 임직원의 업무를 지원하는 보조수단으로 활용되는 만큼, 최종 의사결정과 이에 따른 책임 역시 임직원에게 있기 때문입니다.
이와 관련 금융위원회는 올해 6월 '금융권 AX 현장 간담회'를 열고 자율규제 '금융분야 AI 가이드라인' 개정안을 발표했습니다. 개정안에는 △거버넌스 △합법성 △보조수단성 △신뢰성 △금융안정성 △신의성실 △보안성 등 7대 원칙이 담겼습니다.
가이드라인에 따르면 금융기관은 AI를 활용하는 서비스의 특성에 따라 최종 책임 수행체계와 인적 개입 원칙 등을 마련해야 합니다. AI 활용 과정에서 발생할 수 있는 보안 위험에 대응하기 위한 보안성 기준과 점검·개선 체계도 갖춰야 합니다.
또 다른 금융권 관계자는 "내부망에서도 활용할 수 있는 AI 모델에 대한 신뢰도 평가가 이뤄진다면 향후 중소형 금융사들이 AI를 개발하고 활용하는 데 도움이 될 것"이라면서도 "그럼에도 금융사의 정보가 외부로 유출되지 않도록 정보보안 체계를 구축하는 것이 우선돼야 한다"고 강조했습니다.
(사진=연합뉴스)
장선영 기자 line0@etomato.com
이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 김의중 금융부장이 최종 확인·수정했습니다.
ⓒ 맛있는 뉴스토마토, 무단 전재 - 재배포 금지