< 금융분야 AI 활용 활성화 및 신뢰 확보 방안 주요내용 >

① 가명정보 재사용을 허용하는 ｢금융 AI 데이터 라이브러리｣ 구축

② ｢5大 금융분야별 AI 개발‧활용 안내서｣ 발간

③ 가명정보 등을 활용하는 AI 개발‧테스트 서버에 대해 망분리 예외 허용

④ 테스트용 데이터 및 컴퓨팅 자원 지원을 위한 ｢AI 테스트베드｣ 구축

⑤ AI 기반 신용평가모형 및 AI 보안성 검증체계 구축

❶ AI 데이터 라이브러리 구축

ㅇ 현재는 가명정보를 이용목적 달성 후 파기해야 함에 따라 대량의 가명정보 데이터 셋 구축·운영 곤란

⇒ 규제 샌드박스 등을 통해 데이터 결합 후 데이터 재사용을 허용하는｢금융 AI 데이터 라이브러리｣ 구축

❷ 협업을 통한 데이터 공동 확보

ㅇ AI 개발에 대량의 비정형·전문데이터가 필요하나, 데이터 확보 비용 등으로 AI 개발·활용에 애로

⇒ 협회, 금융분야 데이터 인프라 기관 등을 중심으로 협업을 통해 금융권이 공동 사용 가능한 AI 빅데이터 구축

❸ 데이터 전문기관 추가 지정

ㅇ AI 개발 활성화를 위해 데이터 결합 활성화 환경·인프라 구축 필요

⇒ 데이터 결합 활성화에 적극적으로 기여할 수 있는 신뢰성, 전문성, 개방성 등을 갖춘 데이터 전문기관 추가 지정

❶ AI 개발‧활용 안내서 발간

ㅇ ’21.7월「금융분야 AI 가이드라인」이 마련되었으나, 실제 AI 서비스 도입시 참고 가능한 기능·서비스별 안내서가 필요하다는 현장의 의견 제기

⇒ 신용평가·여신심사, 로보어드바이저, 챗봇, 맞춤형 추천, 이상거래탐지(FDS)등 5대 서비스별 ｢AI 개발·활용 안내서｣ 마련

❷ 설명가능한 AI 요건 마련

ㅇ AI를 통한 의사결정으로부터 소비자 보호 등을 위해 국내·외에서 설명가능한 AI(XAI) 관련 논의 활발

⇒ 연구용역 등을 통해 금융분야 관련 설명가능한 AI(XAI) 정의 및 요건, 구현사례(신용평가분야 XAI 모범사례 등) 등 안내서 발간

❸ 망분리 및 클라우드 규제 개선

ㅇ 원활한 AI 개발·활용을 위해서는 외부 API 및 클라우드 활용 필요

⇒ 가명정보를 활용하는 개발·테스트 서버에 대해서는 규제샌드박스 등을 통해 물리적 망분리 예외 허용 추진

❶ 금융 AI 테스트베드 구축

ㅇ 금융 AI의 정확성 및 신뢰성 등 확인을 위해서는 다양한 데이터를 통해 검증하는 과정이 중요

⇒ 금융분야 인프라 기관* 등을 통해 다양한 금융분야 AI 테스트가 가능한 검증 데이터 셋 및 테스트 환경 구축

 * 신용평가(신정원), 금융사기방지(금결원), 금융보안(금보원)

❷ AI 기반 신용평가모형 검증체계 마련

ㅇ 금융회사와 핀테크·플랫폼 업체들의 다양한 비금융정보와 AI 방법론을 활용한 신용평가모형 개발·운용 시도 확대

⇒ ｢개인신용평가체계 검증위원회｣를 통해 AI 기반 신용평가 검증체계 마련·운영

❸ AI 보안성 검증체계 구축

ㅇ AI 활용 시 개인정보 유출, 알고리즘 오작동 등 다양한 보안 위험요소 상존

⇒ 금융회사의 자체검증, 금보원 검증 지원 등 ｢AI 보안성 검증체계｣ 구축·운영

단계

구분

내용

평가‧

검증

단계

점검

항목

AI를 활용한 시스템별 성능 지표 선정 및 목표 수준을 설정하고 충족여부를 확인하였는가?

체크

리스트

1) AI 기반 모형의 성능을 평가하기 위한 지표를 선정하고 있는가?

- AI 모형 성능에 대한 유지 목표 및 평가지표를 선정하고, 해당 모형이 적정한 성능으로 운영되고 있는지 확인한다.

(예) AR 일정 이상, PSI 일정 미만을 유지하도록 분기별로 점검

YES □ | NO □ | N/A □

2) 선정한 성능 평가 지표에 따라 목표 수준의 달성 여부를 점검하고 미달하였을 경우 조치하고 있는가?

- 성능 평가 결과가 목표 수준에 미달하였을 경우 원인을 분석하여 모형 재개발 여부를 검토하여 필요시 조치한다.

- 특정 학습데이터에 과적합이 되지 않았는지 다양한 테스트를 수행하고, 테스트 데이터에 따른 변동성을 모니터링하고 있는지 확인한다.

YES □ | NO □ | N/A □

준수

사례

(예시)

- A은행은 AI를 적용한 신용평가·여신심사 모형을 운영하면서, 모형의 성능을 변별력과 안정성, 신용평점 및 등급의 서열화 등의 측면에서 확인하고 있으며, 변별력은 AR(Accuracy Ratio), K-S 통계량 등을 통해, 안정성은 PSI(Population Stability Index)를 통해 점검한다. 또한 평가지표가 적정기준에 미달하는 경우, 모형의 재개발을 고려한다.

- B은행은 다양한 유형의 데이터 샘플을 이용하여 모형의 성능을 점검하며, 급격한 변별력 하락이 일어나는 경우 과적합으로 판단하고 모형 수정 또는 재학습을 수행한다.