◈ 제1차 ｢디지털 금융협의회 데이터 분과회의(도규상 부위원장 주재)｣를 통해 AI활성화 및 신뢰제고를 위한 ｢금융분야 AI 가이드라인｣ 발표   ◈ 금융분야 AI 가이드라인은 다음의 주요내용으로 구성  ∎ AI윤리원칙-AI전담조직-위험관리정책 수립의 3重 내부통제장치 마련  ∎ AI학습 데이터에 대한 조사·검증 강화, 개인신용정보 오·남용 방지  ∎ 불합리한 소비자 차별 등이 없도록 시스템 위험관리 및 공정성 제고  ∎ 소비자에 AI서비스에 대한 충분한 설명 및 권리행사를 보장

1

디지털금융협의회 개요

 

□ 금융위원회 도규상 부위원장은 ‘21.7.8.(목) 14:00 제1차 ｢디지털금융협의회 데이터 분과회의｣를 개최하였습니다.

 

‣ 일시 / 장소 : ‘21.7.8.(목) 14:00~15:00 / 온라인 영상회의 ‣ 참석 : 금융위 부위원장(주재), 금감원 김동성 부원장보    - (분과위원) 동국대 강경훈 교수, KCB 이욱재 상무, 신한은행 김철기 디지털혁신단장    - (AI 활성화 T/F위원) 서울대 고학수 교수, 농협은행 김봉규 센터장, 하나금융TI 이성만 실장, 에이젠글로벌 강정석 대표    - (금융유관기관) 신용정보원 심현섭 센터장, 지능정보산업협회 임선경 국장, 보험개발원 양경희 팀장

 

□ 금번 회의에서는 인공지능(Artificial Intelligence, 이하 AI) 기반 금융서비스 개발을 위한 ｢금융분야 AI 가이드라인｣이 발표되었습니다.

2

부위원장 모두말씀

(☞ 모두말씀 원문 별첨)

 

□ 도규상 금융위 부위원장은 모두발언을 통해 이하 내용을 언급.

 

ㅇ 최근 우리 금융산업은 금융규제 혁신과 새로운 혁신적 Player들에 의해 금융의 외연이 확장되는 양적 변화를 경험

ㅇ 앞으로는 AI 등 기술혁신이 금융의 질적변화를 주도할 전망

 

 - AI를 통해 비정형·비금융 데이터 활용이 활성화되면서 금융데이터가 부족한 금융소외계층을 포용할 수 있게 되고,

 

 - 데이터 처리의 속도와 정확성이 제고되면서 금융거래비용은 낮아지고 금융 중개기능의 효율성은 높아질 것임 

 * 美 10대 대형은행 주택담보대출 심사시간 단축(1시간→ 5분), 

   英 Monzo사 AI 사기방지시스템 운영으로 직불카드 사기율 하락(0.84%→0.01%)

 

ㅇ 반면, AI 기술의 안전성 등에 대한 사회적 신뢰가 충분하지 않은 만큼, ｢금융분야 AI 가이드라인｣을 통해 AI 금융서비스에 대한 사회적 신뢰를 공고히 하고 지속가능한 금융혁신 환경 조성 추진

 

□ ｢AI 가이드라인｣에서는 4가지 핵심가치를 구현하고자 하였음

 

❶ 금융산업의 책임성 강조

 

- 서비스 개발·운영에 따른 발생가능한 위험을 명확히 인지하고 금융서비스 목적에 맞게 위험을 통제하기 위한 전사적 노력 추진

 

❷ AI 학습용 데이터의 정확성·안전성 확보

 

- 안전하고 효율적인 데이터 관리를 위해 AI 학습데이터의 품질을 엄격히 관리하고 개인정보보호 체계도 한층 강화

 

❸ AI 금융서비스의 투명성·공정성 담보

 

- 금융서비스가 합리적이고 공정한 기준에 따라 제공·관리된다는 금융소비자의 믿음을 확보할 수 있도록 일반적이고 건전한 상식·사회규범에 어긋나지 않는 AI 서비스 운영 도모

 

❹ 금융소비자 권리의 엄격한 보장

 

- 사람에 의한 금융서비스를 제공받을 때와 같이, 금융소비자가 서비스를 이해하고, 자신의 권리를 불편함없이 행사토록 지원

 

□ AI 기술혁신의 과실이 금융소비자에게 돌아갈 수 있도록 금융권의 지속적인 협조와 노력을 당부

3

금융분야 AI 가이드라인 주요내용

(☞ 가이드라인 원문 별첨)

❶ AI 서비스의 책임있는 운영을 위해 AI 윤리 원칙 마련, AI 조직 구성, 위험관리정책 수립의 3重 내부 통제장치가 마련됩니다.

 

□ (대상) AI를 금융거래 및 대고객서비스에 적용한 全금융업권

 

ㅇ 비금융업이라도 AI 활용의 결과가 금융거래에 미치는 영향이 큰 경우(예 : 신용평가회사의 개인신용평점 개발) 확대 적용

 

□ (AI윤리) 금융회사는 회사별 가치, AI 활용 상황(고객군, 서비스 내용 등)등에 따라 AI 서비스 개발·운영시 준수해야할 원칙·기준 수립

 

□ (AI조직) AI의 잠재적 위험을 평가·관리할 구성원의 역할·책임·권한을 서비스 全단계(기획·설계·운영·모니터링)에 걸쳐 구체적 정의

 

□ (위험관리) AI 서비스 자체 평가·관리정책을 마련하고, 개인권리에 중대한 위험을 초래할 수 있는 서비스에는 강화된 위험관리 적용

 

ㅇ (고위험AI) AI 의사결정이 개인의 금융거래계약의 체결·유지*에 중대한 영향을 가져오는 경우, 이에 대한 내부통제·승인절차 등을 마련하고 별도의 책임자를 지정 

 * 예 : 신용평가, 대출심사, 보험심사, 카드발급 심사 등

 

ㅇ (통제가능성) AI가 사람의 의사결정과정을 대체하는 경우, 필요시 사람에 의한 AI시스템 감독·통제가 가능*하도록 시스템 설계

 

 * 이자율 산정 등 금융관련 중요 의사결정을 대체한 AI에 대해 결과의 설명 및 사후검증을 할 수 없다면 금융거래 투명성 및 신뢰성 저하 발생

 

ㅇ (모니터링) AI시스템 성능을 주기적으로 모니터링하고, AI 개발 환경의 보안취약성 점검 시스템 마련 등 위험완화 조치 시행

 

☞ AI 가이드라인 적용 例   ㅇ AI를 통한 신용평가 및 여신심사시스템을 운영하고자 하는 경우, - (1단계) AI의 결정이 금융거래계약 체결·유지에 중대한 영향을 미치므로 미리 지정된 승인책임자가 위험관리정책에 비추어 AI가 신용평가시스템에 활용되어도 효율성·안정성·신뢰성에 영향이 없는지 내부점검 후 활용승인   - (2단계) AI의 결정이 기존 사람의 신용평가결정을 대체하므로, 사람에 의한 통제가능성 확보를 위해 필요시 사람에 의한 신용평가의 적정성 점검·보완 등이 가능토록 하고, 외부 이의제기시 사람에 의한 신용평가 절차 등 마련

❷ AI 개발·학습단계에서 질 좋은 데이터가 활용되도록 하고, 개인신용정보 오·남용이 없도록 정보보호를 강화하겠습니다.

 

□ (학습데이터 관리) AI 학습에 사용되는 데이터의 출처·품질·편향성·최신성 등을 조사·검증하고 개선노력 지속

 

문제상황의 인식	선제적 개선
‣ AI시스템의 성능은 학습데이터에 좌우 - 데이터에 오류·불균형·편향성이 존재할 경우, AI시스템이 잘못된 학습을 통해 오류·불균형·편향성 확대 재생산 예) ‘21. AI 챗봇 ’이루다‘ 개발과정에서 편향된 데이터, 혐오발언 등이 정제되지 않고 AI학습에 활용되면서, 여성·장애인·동성애 등에 대한 다양한 차별·혐오발언을 생산	‣ 금융회사가 AI학습 데이터의 품질을 지속조사하고 개선하는 시스템 구축  * 데이터 출처 파악, 규격 문서화, 품질 검증(누락, 중복, 불일치 등), 편향되지 않은 충분한 데이터 확보, 무결성 검증, 주기적 갱신 등   →AI 시스템의 오류·불균형·편향성 발생 가능성을 시스템적으로 통제가능하며, AI 결과에 대한 객관성·신뢰성 제고

 

□ (개인정보 보호) AI 개발 과정에서 개인신용정보 오·남용을 방지하고, 불필요한 개인신용정보 처리를 최소화하는 시스템 마련

 

ㅇ 특히, 사생활정보 등 민감정보를 활용하고자 하는 경우, 비식별 조치 등 안전한 정보 활용을 위한 충분한 조치를 거친 뒤

 

ㅇ 해당 정보 미사용시 AI 시스템에 성능 저하가 발생하는지, 해당 정보 사용시 효과와 혜택을 보는 집단은 누구인지* 등 정보활용 필요성을 면밀히 평가하고 재식별·유출 등 방지

 

 * 예 : 해당 정보를 활용하지 않는 경우 보호대상 집단에 불이익이 초래되는 경우 등에는 해당 정보를 활용해야 할 정당성이 인정

 

문제상황의 인식	선제적 개선
‣ AI 학습에 활용된 다양한 개인신용정보의 처리과정에서 동의없는 정보처리 등 정보 오·남용, 과도한 프라이버시 노출 등 다양한 개인정보 문제 발생 가능	‣ AI 학습용 데이터는 동의받은 데이터, 엄격한 비식별조치를 갖춘 데이터 등으로 안전하게 관리·활용됨에 따라 개인신용정보 오·남용 사례 축소   ‣ 사생활정보 등 민감정보는 사생활 노출 우려 등이 없도록 안전하게 처리되고 금융소외계층 등 다수의 금융 소비자 편익을 제고할 수 있는 경우 등 필요최소한의 범위에서 처리

❸ AI 활용결과 불합리한 소비자 차별 등이 나타나지 않도록 서비스 특성별로 위험요인을 통제하고, 서비스 공정성을 제고하겠습니다.

 

□ (성능평가) AI 시스템 운영과정에서 나타날 수 있다는 다양한 위험요인*을 서비스 특성에 맞게 합목적적으로 통제 

 * 은행이 대출부적격자를 걸러내기 위해 여신심사를 강화하는 경우 대출적격자(True)에 대한 여신이 거절(False)되는 경우도 증가

 

	❶ 소비자에게 금융거래 기회를 제공하는 서비스*는 적격자의 금융거래가 거절될 수 있는 위험을 최소화하는데 초점    * 신용평가, 대출심사, 신용카드 발급 심사 등
	❷ 사기탐지, 규제 미준수 등 위법·부당사례를 탐지하는 서비스의 경우, 사기·불법 거래 등을 탐지하지 못하는 위험을 최소화

 

□ (공정성 제고) AI에 따른 집단간 차별 등 기본권 침해행위가 발생하지 않도록 서비스 특성별 공정성 기준을 설정·평가

ㅇ 금융소외계층에 대한 금융접근성 제고를 목적으로 한 정책금융상품 등 결과적 평등이 중요한 금융상품의 경우, 집단간 대출 승인율 등 인구통계적 동등성 지표를 기준으로 공정성 평가

 

ㅇ 소속 집단 등과 무관하게 자격이 있는 소비자를 판단해야 하는 신용평가, 카드발급심사 등의 경우, 집단간 재현율* 등 기회의 균등 기준을 기준으로 공정성하게 서비스가 개발되었는지 평가

 

 * 재현율(True Positive Rate) : 전체 대출적격자 중 AI가 대출적격자로 예측한 비율

 

문제상황의 인식	선제적 개선
‣ AI 평가 등이 특정집단 차별 등 공정성을 담보하지 못한다는 지적이 제기 예) ‘19.11. 애플사가 발급한 애플카드가 동일 신용도에도 불구 남성의 신용카드한도를 여성 대비 10~20배 이상 높게 설정했다는 이슈가 제기되어 AI 차별이 이슈화	‣ AI 금융서비스에 따른 예기치 못한 차별 발생 가능성을 선제적으로 차단→ 금융소비자의 금융신뢰를 확보하고, 정확하고 공정한 신용평가 등으로 자금의 효율적 배분 기능 제고

❹ 금융소비자가 AI 서비스에 대한 충분한 설명을 듣고, 자신의 권리를 충분히 행사할 수 있도록 지원하겠습니다.

 

□ 금융소비자에게 AI가 활용된다는 사실을 사전고지하고, 소비자의 권리 및 이의신청·민원제기 등 권리구제 방안 등을 알기쉽게 안내

 

ㅇ 특히, AI를 통해 신용평가, 보험가입 등 금융거래·계약체결 여부 결정 등을 한 경우 ‘설명요구·정정요구권*’이 있음을 고지

 

 * ｢신용정보법｣ 제36조의2 ‘프로파일링(Profiling) 대응권’

 

- 소비자는 AI 평가결과 및 주요 평가기준, 사용된 기초정보에 대한 설명을 들을 수 있고, AI 평가에 활용된 자신에 대한 정보의 정정·삭제요구, 결과 재산출 등을 요구할 수 있음

 

☞ AI 가이드라인 적용 例   ㅇ AI를 통한 신용평가 및 여신심사 시스템을 운영하고자 하는 경우, - (1단계) 대출신청 단계에서부터 ‘신용평가가 AI에 의해 이루어진다는 사실’을 안내하고, AI 평가결과에 불만족할 경우 이의제기·설명요구를 할 수 있다는 사실 및 이의제기·민원제기 채널 등을 고지   - (2단계) 금융회사는 미리 마련된 위험관리정책 등에 따라 금융소비자에게 신용평가결정의 기준, 사용된 정보의 종류 등에 대한 충분한 설명을 제공하고, 필요시 금융소비자가 제공한 신규 데이터를 반영하여 재평가·재심사 등 실시

 

❺ AI 서비스 외부위탁 개발·운영시에도 금융회사가 직접 개발·운영할 때와 똑같이 안전한 개발·운영이 가능하도록 하겠습니다.

 

□ (위험관리) 외부기관에 대한 AI시스템 개발·운영 위탁시 수탁기관이 준수하여야 할 위험관리지침을 마련하고, 주기적 보고·점검 

 

□ (손해배상) AI 서비스로 인한 소비자 피해 발생시 조속한 피해구제가 가능하도록 명확한 손해배상 처리 절차 등을 마련

 

 * 예 : 문제사례별 명확한 책임주체 및 손해배상 절차 등을 상세히 마련

4

향후 추진계획

 

가. 가이드라인 등 시행

 

□ (가이드라인) 금융권의 내실있는 ｢금융분야 AI 가이드라인｣ 이행을 위하여 충분한 준비기간을 거쳐 가이드라인이 연내 시행되도록 할 계획입니다.

 

□ (실무지침) 금융업권 및 기능·서비스별 특성을 고려하여 가이드라인을 구체화한 세부 실무지침도 마련할 계획입니다.

 

ㅇ 가이드라인은 AI 활용 활성화를 위해 AI서비스 신뢰제고에 필요한 필요최소한의 준칙을 제시하는데 초점을 맞추었습니다.

 

- 반면, AI 서비스 개발·운영 과정에서의 규제 불확실성 등을 해소하기 위해서는 업권·기능·서비스 특성 등을 고려한 보다 구체적 행위지침이 필요하다는 금융권 실무자들의 의견이 있었습니다.

 

ㅇ 이에 금융업권협회 등을 중심으로 실무지침 제정반을 구성·운영하여 3분기 내 실무지침을 마련할 예정입니다.

 

- 금융서비스 특성 등에 맞추어 실무지침을 세부적으로 마련하고, 금융업법상 규제를 AI 서비스에 적용할 때 나타날 수 있는 규제 불확실성을 해소*할 수 있도록 지원하겠습니다.

 

 * 예 : AI 챗봇을 통한 금융상품 설명시 금융업법상 설명의무를 이행한 것으로 간주될 수 있는 적정한 AI 설계·운영 절차 등

 

나. 금융분야 AI 활성화 추가방안

 

□ 금융권의 AI 활용을 촉진·지원하기 위한 ｢AI 인프라 정비 방안｣도 Working Group 논의 등을 거쳐 3분기 중 발표할 계획입니다.

 

ㅇ AI 개발 데이터를 제공하는 ‘데이터 인프라(Data Library)’와 소규모 핀테크 회사 등도 손쉽게 AI 서비스를 개발하고 검증할 수 있도록 지원하는 ‘AI 테스트베드’ 등이 구축될 예정입니다.