<div class="editor-img-box" readability="6"><picture><img src="https://newsimg.koreatimes.co.kr/2026/06/17/0118dac8-0636-4e35-8591-53b8882b76f3.png?w=728" alt="Image generated by ChatGPT" decoding="async" loading="eager" fetchpriority="high"></picture><div class="caption" readability="7"><p>Image generated by ChatGPT</p></div></div><p class="editor-p">A recent customer complaint filed with a leading life insurer in Korea appeared convincing at first glance, citing laws that proponents argued the company misinterpreted. However, the referenced law did not exist.</p><p class="editor-p">Company officials note that some customers cite nonexistent statutes, while others misinterpret existing laws, leading to plausible-sounding but inaccurate grievances.</p><p class="editor-p">At another major non-life insurer, claims handlers detected AI-related indicators, such as submissions containing asterisks commonly used by ChatGPT for emphasis.</p><p class="editor-p">Insurers report that people can use ChatGPT to draft complaints, a trend now observed across major firms, according to industry officials.</p><p class="editor-p">These cases illustrate a growing challenge as more consumers use generative AI tools to draft complaints and appeals, potentially increasing the volume and complexity of submissions.</p><p class="editor-p">While chatbots help explain policy terms and legal concepts, they can produce hallucinations—fictitious statutes, fabricated precedents, and inaccurate interpretations presented convincingly.</p><p class="editor-p">Many consumers submit AI-generated material without independent verification, and insurers must still review every allegation and issue formal responses, requiring extensive time and resources to verify details against original files.</p><p class="editor-p">The rising use of AI is increasing administrative workloads, with mobile filing lowering barriers to submissions and AI tools enabling lengthy, argument-rich drafts.</p><p class="editor-p">Korea's 39 insurers received 15,996 complaints in the first quarter, up 19.3 percent from a year earlier, with payout disputes comprising about 65.4 percent of the total. AI-generated filings are believed to contribute to longer, more complex submissions.</p><p class="editor-p">Regulators warn of potential AI-facilitated insurance scams and are considering countermeasures, including responses to AI-generated medical records used to support fraudulent claims. Legal restrictions on access to medical information limit verification by insurers.</p><p class="editor-p">The industry faces ongoing challenges from rising insurance fraud, with detected private insurance fraud totaling a record 1.16 trillion won last year.</p>
<br><hr><br>최근 한국의 3대 생명보험사 중 하나에 제기된 고객 민원은 처음에는 설득력이 있어 보였다. 관련 법령으로 보이는 규정을 인용하고 회사가 이를 잘못 해석했다고 주장했다.
한 가지 문제가 있었다: 해당 법률은 존재하지 않았다.
한 보험사 관계자는 “가끔 고객들이 존재하지 않는 법령을 인용한다”며 “다른 경우에는 법 자체가 존재하지만 해석이 completely 엉망이다. 표면적으로는 그럴듯해 보이는 불만이지만 면밀히 검토하면 타당하지 않은 사례를 더 많이 보고 있다”고 말했다.
다른 유명 대형 손해보험사에서도 AI의 다른 징후를 발견했다. 접수된 민원 중 하나에는 여전히 ChatGPT가 강조를 위해 사용하는 별표가 남아 있었다.
보험사 관계자는 “사람들이 ChatGPT에 몇 가지 세부 정보를 입력하고 그것을 통해 민원을 작성하도록 요청하는 사례가 있다. 분명히 그런 사례를 보고 있다”고 말했다.
이러한 에피소드는 소비자들이 불만 제기와 항소를 작성하기 위해 생성형 AI 도구를 더 많이 활용함에 따라 국내 보험 업계가 직면한 부담이 커지고 있음을 보여준다.
챗봇은 복잡한 정책 용어나 법적 개념을 설명하는 데 도움을 줄 수 있지만, 허구의 법령, 위조된 판례, 부정확한 해석을 설득력 있게 제시하는 이른바 ‘환각’ 현상에 여전히 취약하다.
업계 관계자들은 많은 소비자들이 독립적으로 검증하지 않고 이러한 자료를 제출한다고 말한다.
하지만 보험사는 AI로 생성되었다고 보이는 민원이라 해서 이를 단순히 무시할 수는 없다. 민원이 접수되면 청구 팀은 각 주장을 검토하고 공식적인 대응을 제공해야 한다.
“작성 방식에 관계없이 제기된 모든 청구를 검토해야 한다”는 지역 생명보험사 관계자의 말이다. “2020년에 판매된 정책과 관련된 분쟁이라면 원본 파일을 찾아 하나하나 확인해야 한다. 그 과정에 많은 시간과 자원이 소요된다.”
보험사들은 AI의 사용 증가가 행정 업무 부담을 가중시키고 있다고 말한다. 모바일 서비스의 확산이 이미 청구 및 민원 제기의 진입 장벽을 낮췄고, 생성형 AI 도구는 법적 논거, 규제 참고문헌, 주장된 판례를 포함한 긴 제출 자료를 즉시 작성할 수 있다.
한국의 39개 보험사는 1분기에 총 15,996건의 민원을 접수했으며, 이는 작년 동기 대비 19.3% 증가한 수치이고, 지급 분쟁이 전체의 65.4%를 차지했다.
기업들이 AI를 활용한 제출 건수를 정확히 파악하기 어렵지만, 내부자는 이 기술이 제출 자료를 더 길고 복잡하게 만들고 있다고 지적한다.
“고객이 처음부터 직접 작성하지 않는 경우가 많아 서면이 훨씬 길어졌다”는 손해보험사 관계자의 말이다. 한 사례에서는 보험계약자가 수개월에 걸쳐 같은 분쟁과 관련한 수십 건의 민원을 제출했고, 각 버전은 AI를 이용해 약간씩 다른 표현으로만 바뀌었다고 한다.
일부 관측통은 규제 당국의 강화된 감독이 의도치 않은 인센티브를 만들고 있다고 본다. 금융 당국이 소비자 보호를 강화하고 보험사가 불만 통계에 더 민감해지면서, 일부 계약자는 지속적인 민원 제기가 지급 가능성을 높인다고 믿는 경향이 보인다.
감독당국은 생성형 AI가 보험 사기를 촉진할 수 있다는 신호도 주시하고 있다. 이번 달 초 금융위원회는 AI로 생성된 의료 기록(진단 보고서 및 구체적 치료 내역 포함)을 이용한 악성 청구를 차단하기 위한 대책을 마련하겠다고 밝혔다.
의료 정보 접근에 대한 법적 제약도 문제를 악화시킨다. 의료서비스법에 따르면 일반적으로 환자의 동의 없이는 제3자에게 의료 기록을 제공할 수 없기 때문에 보험사가 제출 문서를 독립적으로 확인하는 데 한계가 있다.
AI 지원 방식의 증가와 함께 보험 사기 수준이 이미 증가하고 있는 상황에서 이 문제는 더욱 두드러진다. 금융감독원에 따르면 지난해 개인 보험 사기 적발 금액은 1조 1,600억 원으로 사상 최대치를 기록했다.
<br><br>
Label:
Business