AI 답변 신뢰성 검증 기업 티냅스가 KB국민은행과 함께 ‘스타트업 OI #금융권’에서 최고상인 올해의 협력상, 금융위원장상을 수상했습니다.
이번 행사는 디캠프와 한국핀테크지원센터가 주최한 금융권 오픈이노베이션 프로그램으로, 금융기관과 스타트업의 실질적인 협업 성과를 발굴하고 공유하기 위해 마련됐습니다. 지난 5월까지 접수된 44건의 협업 사례 중 사전 심사를 거쳐 5개사가 본선에 올랐고, 티냅스는 KB국민은행과 함께 생성형 AI 답변 신뢰성 검증 협업 사례를 발표했습니다.
이번 수상은 단순한 기술 검증을 넘어, 금융권에서 생성형 AI를 실제 업무에 적용하기 위해 무엇이 필요한지를 보여준 사례라는 점에서 의미가 있습니다.
금융권 AI의 다음 과제는 ‘정확한 답변’입니다
금융권에서 생성형 AI 활용은 빠르게 확대되고 있습니다. 내부 업무 지원, 상품 상담, 여신 심사 보조, 외환·수신·퇴직연금 업무 등 다양한 영역에서 AI가 임직원의 업무 생산성을 높이는 도구로 자리 잡고 있습니다.
하지만 금융 AI는 일반적인 챗봇과 다릅니다. 답변 하나가 고객 상담에 활용될 수 있고, 잘못된 안내가 실제 거래 정정이나 고객 불편으로 이어질 수 있습니다. 특히 금융상품, 규정, 내부 업무 기준은 작은 표현 차이도 중요한 판단 근거가 됩니다.
따라서 금융권 AI 운영에서 핵심은 “AI가 답변을 생성할 수 있는가”가 아니라 “그 답변을 믿고 업무에 사용할 수 있는가”입니다.
AI가 근거 없는 내용을 만들어내지는 않았는지, 관련 규정과 일치하는지, 내부 정책을 위반하지 않는지, 고객에게 전달되기 전에 위험한 답변을 차단할 수 있는지가 중요해지고 있습니다.
KB국민은행과 함께 만든 AI 답변 검증 체계
KB국민은행은 매달 약 7,000명의 임직원이 생성형 AI 포털을 활용하고 있으며, 기업여신·개인여신·수신·외환·퇴직연금·자금세탁방지 등 10개 업무 영역에서 AI 기반 업무 지원을 운영하고 있습니다.
AI 활용이 확대될수록 중요한 과제도 분명해졌습니다. AI가 만든 답변이 현업 업무 기준과 다르거나, 관련 규정을 잘못 해석하거나, 상담 과정에서 부정확한 정보로 이어질 수 있다는 점입니다.
티냅스와 KB국민은행은 이러한 문제가 고객 상담에 활용되기 전에 발견되고 차단될 수 있도록 AI 답변 검증 체계를 구축했습니다.
양사는 기업여신을 포함한 5개 업무 영역에서 현업 부서와 함께 정답 데이터를 구축하고, AI 답변을 자동으로 평가할 수 있는 시스템을 마련했습니다. 검증 시스템은 답변의 근거와 관련 규정을 자동으로 확인하고, 불일치가 발견되면 해당 답변을 차단합니다. 또한 사후 감사가 가능하도록 판단 근거와 평가 로그를 함께 남깁니다.
티냅스는 답변 검증에 활용되는 Judge 모델을 여섯 차례 개선하며 정확도를 높였고, 정답 데이터 구축과 모델 고도화를 병행한 결과 평가 점수를 90점 수준까지 끌어올렸습니다.
AI Trust Layer가 필요한 이유
생성형 AI가 금융권의 실제 업무에 들어오기 위해서는 단순한 보안 필터만으로는 충분하지 않습니다.
AI가 어떤 근거로 답변했는지, 업무 규정과 충돌하지는 않는지, 고객에게 전달되기 전에 위험한 답변을 멈출 수 있는지, 문제가 발생했을 때 판단 근거를 다시 확인할 수 있는지가 함께 관리되어야 합니다. 티냅스는 이를 AI Trust Layer로 정의합니다.
AI Trust Layer는 AI 모델과 실제 업무 시스템 사이에서 작동하는 신뢰 계층입니다. AI가 생성한 답변과 행동을 실시간으로 검증하고, 기업의 정책과 규정에 따라 통과, 차단, 수정, 사람 검토로 분기합니다.
특히 금융권에서는 다음과 같은 기능이 중요합니다.
- AI 답변이 근거 문서와 일치하는지 검증하는 것
- 내부 업무 기준과 금융 규정을 위반하지 않는지 확인하는 것
- 부정확하거나 과장된 답변을 고객에게 전달되기 전에 차단하는 것
- 모든 판단 과정과 근거를 로그로 남겨 사후 감사와 내부통제에 활용하는 것
AI를 더 많이 쓰기 위해서는 AI를 더 잘 통제할 수 있어야 합니다. 티냅스는 이 통제의 순간을 실시간으로 처리하는 기술을 만들고 있습니다.
금융권 AX의 방향: 막는 보안에서 가능하게 하는 신뢰로
최근 금융권에서는 AI 활용과 보안 규제 개선에 대한 논의가 함께 진행되고 있습니다. 망분리 규제 개선, 클라우드와 SaaS 활용 확대, 금융분야 AI 가이드라인 개정, AI기본법 시행 등은 모두 같은 방향을 가리키고 있습니다.
금융권도 AI를 더 적극적으로 활용해야 합니다. 동시에 그 활용은 설명 가능하고, 통제 가능하며, 감사 가능해야 합니다.
이제 금융권 AX의 핵심은 단순한 AI 도입이 아닙니다. AI가 실제 업무 안에서 안전하게 작동하도록 만드는 운영 체계입니다.
좋은 모델을 도입하는 것만으로는 부족합니다. AI가 만든 답변을 검증하고, 위험한 답변을 차단하며, 판단 근거를 남기고, 기업별 정책에 맞게 운영할 수 있어야 합니다.
티냅스와 KB국민은행의 이번 협업은 금융권 생성형 AI가 PoC를 넘어 실제 업무 운영 단계로 가기 위해 필요한 신뢰 인프라를 보여준 사례입니다.
보호하는 것은 데이터가 아니라 고객입니다
강민승 티냅스 대표는 이번 발표에서 다음과 같이 말했습니다.
보호하는 것은 데이터가 아니라 고객입니다.
금융 AI의 목적은 AI를 쓰는 것 자체가 아닙니다. 더 정확하고 안전한 업무를 가능하게 하고, 고객이 신뢰할 수 있는 금융 서비스를 만드는 것입니다.
티냅스는 생성형 AI가 금융권의 실제 업무 환경에서 안전하게 활용될 수 있도록 답변 신뢰성 검증, 정책 기반 판단, 감사 로그, 운영 모니터링을 제공하는 AI Trust Layer를 만들어가고 있습니다.
AI가 더 많은 일을 하게 될수록, AI를 믿고 쓸 수 있게 만드는 기술은 더 중요해집니다. 이번 수상은 티냅스가 금융권 AI 신뢰 인프라의 필요성을 실제 협업 성과로 증명했다는 점에서 의미가 있습니다.
티냅스는 앞으로도 금융기관과 함께 AI를 막는 보안이 아니라, AI를 책임 있게 사용할 수 있게 만드는 신뢰 기술을 고도화해 나가겠습니다.
