AI 추천 보험상품, 규제 사각지대서 불법 난립

28일 데이터뉴스가 한 해외 인공지능(AI) 프롬프트에 ‘국내의 보장이 잘된, 비싸지 않은 암 보험’을 추천해 달라고 하자 내 놓은 대답이다.

예금은 물론 보험과 투자 상품 추천에 AI 금융비서에 대한 의존이 갈수록 커지고 있다. 하지만 AI의 ‘환각(Hallucination)’ 등으로 인한 잘못된 추천이 발생할 경우, 소비자 피해의 책임을 누가 질 것인지를 둘러싼 논란이 확산되고 있다. 증권사 AI의 경우, 안정적 투자 성향의 고객에게 원금손실 위험이 큰 상품을 추천할 수 있다는 것.

국내에서는 AI의 보험상품 추천 등이 불법으로 규정돼 있지만, 챗지피티 등 해외 생성형 AI는 규제 사각지대에서 자유롭게 상품을 중개하고 있어 제도적 허술성이 지적되고 있다. 현재 금융소비자보호법은 등록 없이 금융상품 판매대리·중개업을 영위하는 것을 금지하고 있다. 보험업법상에서도, 보험계약 체결과 중개는 보험설계사·대리점·중개사 등만 할 수 있다. 

투자상품의 경우, 예상 수익률만 강조하고 손실 가능성이나 중도환매 수수료 설명을 빠뜨리면, 사람은 ‘불완전판매’로 제재 대상이 된다. 하지만, AI에게는 책임 구조가 아직 정교하게 정리돼 있지 않다.

대안으로 △검증된 플랫폼의 금융상품 중개 허용, △관련 가이드라인 법제화, △AI 판단근거 로그 의무화, △중소형사 공동 평가체계 등이 제기되고 있다.

국내 핀테크 회사들은 보험에서 고객의 보장내역을 분석하고 비슷한 연령대의 평균 보험료를 비교해주는 서비스 제공에 그치고 있다. 대표적인 카카오페이의 생성형 AI ‘페이아이’나 해빗 팩토리의 ‘시그널 플래너’도 보험 분석 후, 고객을 설계사에게 연결하는 역할만 할 뿐이다.

문제는 해외 범용 AI의 ‘환각’ 위험이다. 잘못된 상품정보를 제공할 경우 책임소재가 불분명하다는 지적이 나온다. 금융권 관계자는 “보험의 경우, 고객이 AI에 잘못된 보험정보를 제공받았다가 이후 설계사 상담과정에서 알아차리는 경우가 발생하고 있다”고 말했다.

“AI가 판단했다”고 금융회사들이 책임을 피할 가능성은 낮다. 금융위원회는 지난 6월 22일부터 시행된 ‘금융분야 인공지능 가이드라인’에서 AI를 업무의 ‘보조수단’으로 규정하고, 최종 의사결정과 책임은 금융회사와 임직원이 진다는 원칙을 명시했다. 또한 신의성실 원칙을 통해 AI 활용 사실을 사전 고지하고 오류 신고·피드백 창구와 보상 절차를 마련하도록 했다. 다만 가이드라인은 자율규제 성격이라 행정지도 이상의 강제력을 갖추지 못하고 있다.

핀테크 업계는 이런 피해를 막기 위해서라도 ‘검증된 플랫폼’에서 AI 상담과 추천이 이뤄져야 한다고 주장한다. 국내 핀테크 AI는 소비자 마이데이터와 보험특화 AI를 결합해 해외 범용모델보다 더 정교한 상담 및 추천을 제공할 역량이 있다는 것이다. 

핀테크 업계 관계자는 “해외 생성형 AI는 국내 규제의 준수 의무 없이 한국어로 정교한 상담을 진행하며 이미 시장을 선점했다”며 “안전장치를 갖춘 업체에 상품중개를 허용하되, 사고 발생시 엄중한 책임을 묻는 방식으로 가는 것이 바람직하다”고 밝혔다.

금융보안원도 이런 흐름에 맞춰, AI의 환각·오작동·보안사고 등을 기술적으로 검증할 수 있는 ‘금융 AI 안전성·신뢰성 평가 프레임워크’를 현재 개발중이다. 이는 모델 성능관리, 데이터 품질, 공정성, 설명가능성 등 신뢰성 4개 항목과 AI 특화 보안위협·공격 탐지대응 등 안전성 6개 항목 등 총 10개 세부 평가기준으로 구성됐다. 시범검증을 거쳐 2027년부터 본격 평가를 추진할 계획이다.

금융위원회는 태스크포스(TF)를 통해 AI 에이전트의 책임소재 및 업종 분류 등 규율체계를 추가로 검토할 예정이다. 금융권 한 고위 관계자는 “AI에 대해 인간이 검증자 역할을 게을리하면, 내부통제 절차 자체가 무력화될 수 있다”며 “실제 분쟁이 발생하면 금융회사가 질 확률이 높은 점에 유의해야 한다”고 지적했다.

업계는 가이드라인 준수 시 면책 범위를 법적으로 명문화하고, 판단 근거 로그의 보존·재현 기준을 감독당국이 규격으로 제시할 필요가 있다고 주장하고 있다. 아울러 중소형 금융사가 공동으로 활용할 수 있는 AI 모델 평가 기준을 마련해 대형사와의 기술격차를 좁혀야 한다는 지적도 나온다.

권선무 기자