카카오뱅크, AI 리스크 관리 본격화…금융권 최초 ‘AI 서비스 품질관리 프레임워크’ 도입

카카오뱅크가 금융권 최초로 ‘AI 프로덕트 평가 프레임워크(이하 AI 프레임워크)’를 자체 도입하며, AI 서비스 품질관리 영역에서도 새로운 기준을 제시했다.

‘AI 프레임워크’는 AI 서비스 기획부터 개발, 출시, 운영까지 전 생애주기를 체계적으로 관리하기 위한 품질관리 표준체계다. AI 검색, AI 금융계산기 등 기존 서비스는 물론, 향후 공개될 신규 AI 서비스 전반에도 적용된다.

이번 도입으로 카카오뱅크는 기술 관리 수준을 넘어 AI 리스크를 사전에 통제할 수 있는 ‘AI 거버넌스’ 체계를 한층 강화했다.

AI 프레임워크는 △서비스 기획 △모델 평가 △기능 테스트 △품질 및 신뢰성 검증 △보안 점검 △대고객 출시 △운영 및 개선 등 AI 서비스의 전 과정을 포괄하는 절차로 구성됐다.

특히 LLM(대형언어모델) 특성상 동일 질문에도 답변이 달라질 수 있는 점을 고려해, 평가 결과를 수치화하고 반복 검증하는 정량 평가 체계를 도입했다. 이를 통해 AI 응답의 불확실성을 줄이고, 개발 효율성과 서비스 안정성을 동시에 높인다.

AI 프레임워크 도입으로 카카오뱅크는 AI 품질 평가·검증의 내부 표준을 확립했다. 개발자, 기획자, 운영자가 동일한 기준으로 서비스 완성도와 신뢰성을 점검할 수 있게 됐으며, 축적된 평가 결과와 노하우는 향후 신규 서비스 개발 및 고도화에 활용된다.

카카오뱅크는 “AI 서비스가 빠르게 확산되는 지금, 품질과 안전을 보장하는 체계적 기준이 금융권의 새로운 경쟁력이 되고 있다”며 “이번 프레임워크 도입은 카카오뱅크가 ‘AI 네이티브 뱅크’로 자리매김하는 만큼 책임 있는 AI를 실천하고, AI 품질관리 표준을 제시하는 중요한 출발점이 될 것”이라고 밝혔다.

/ 포춘코리아 김타영 기자 young@fortunekorea.co.kr

• “부자 많은데 기업 일자리 없네…” Z세대의 궁여지책
• Z세대 파멸적 소비? 비난보다 이해가 먼저
• 매출 뛰는데 주가 꺾였다… 서클의 3분기 어닝 역설
• “관세는 증세, 물가 올리고 성장 깎는다” UBS의 경고
• “IQ 이겨도 EQ 못 이긴다” 사노피 CEO가 본 AI