온투금융사 피플펀드는 여신심사 및 평가 분야에서 사용될 ‘설명가능한 AI모델(XAI모델)’ 4종을 자체 개발해 상용화한다고 29일 밝혔다.
XAI는 인공지능(AI)의 작동원리 및 의사결정의 근거 등을 사용자가 이해하고 믿을 수 있게 하는 방법론을 말한다. 피플펀드 관계자는 “당사 XAI모델의 특장점은 AI신용평가시스템의 차입자 평가 근거를 설명할 뿐만 아니라, 사용 중인 신용평가모형이 동일 시점의 시장 상황 변화에 잘 적응하고 있는지, 모형 성능이 유지되고 있는지 판단 및 설명하는 기능까지 포함하고 있다는 점”이라며 “이는 피플펀드의 AI신용평가시스템을 도입하려는 금융기관의 요구에 특화돼 있다”고 설명했다.
이번에 개발‧상용화된 피플펀드의 XAI모델은 총 4가지다. ▲AI신용평가시스템이 도출한 차입자의 신용평가 결괏값에 대해 서로게이트 모형을 이용해 각 변수 항목이 미치는 긍정‧부정 요인과 그 영향도를 개별 고객들이 이해할 수 있도록 설명하는 XAI모델 ▲대출을 신청한 차입자가 수개월 후에 우량해질 가능성을 분석함으로써 잠재 우량도를 설명하는 XAI모델 ▲대출 신청을 위해 현재 유입되는 잠재 차입자의 데이터가 AI신용평가시스템이 과거 학습한 데이터와 얼마나 유사한지 실시간으로 평가함으로써 모형의 신뢰 수준을 설명해주는 XAI모델 ▲거시경제 및 금융시장 상황의 변화에 따라 모형의 성능 저하 정도 및 교체 필요성을 평가해주는 XAI모델로 구성돼 있다.
피플펀드 관계자는 “XAI모델 개발을 통한 신뢰받는 AI 구축의 필요성은 피플펀드의 AI신용평가시스템 예비 수요자인 여러 금융기관의 문의에 대응하면서 대두됐다”며 “2금융권 금융기관이 대출을 거절한 차입자에 대해 당사가 승인을 내주는 것에 관해 금융기관들이 근거 설명을 요청하면서 당사 AI신용평가시스템의 산출값을 입체적으로 설명할 수 있는 XAI모델들을 개발하게 된 것”이라고 말했다.
강민승 피플펀드 CTO 겸 AI연구소장은 “아직 AI의 투명성, 공정성에 대한 사회적 신뢰가 충분치 않은 상황에서 알고리즘의 판단 결과를 충분히 설명하지 못하면 AI신용평가기술이 꾸준히 확대되기 어렵다고 판단해 XAI모델들을 개발했다”면서 “피플펀드의 향후 XAI 기술 개발의 키워드는 ‘편향성’으로, AI신용평가시스템에서 새롭게 발견되는 차별, 불공정 요소들을 빠르게 탐지하고 해결하기 위한 기술 연구에 집중할 것”이라고 말했다.
한편, 피플펀드의 AI신용평가시스템은 지난 6개월간 국내 다수의 금융기관을 통해 성능 비교 평가를 거쳤다. 검증 결과, 국내 금융시장의 신용평가 및 여신심사 분야에서 상당히 높은 수준의 성능 지표를 안정적으로 산출함을 입증했다. 이에 따라, 현재 여러 금융기관이 피플펀드의 AI신용평가시스템 전체 혹은 일부를 B2B SaaS 솔루션 형태로 도입해 사용하는 것을 검토하고 있는 것으로 알려졌다.
파이낸셜투데이 양지훈 기자