영국 금융감독청이 금융 서비스의 AI 리스크에 대한 가이던스를 발표하며 AI 대출 플랫폼의 자본 적절성 우려를 제기했다.

영국의 금융감시당국은 ChatGPT, Claude, Gemini 같은 거대언어모델(LLM)이 소비자의 금융 의사결정에 미치는 영향력이 커지고 있어 이들에 대한 규제를 검토할 것을 촉구하고 있습니다. 금융감시청(FCA)이 의뢰하고 월요일 공개한 보고서에서 FCA의 집행이사 Sheldon Mills는 기업들이 소수의 기술 제공업체에 의존함으로써 발생할 수 있는 시스템 전반의 위험성을 강조했습니다.

전 세계 규제당국은 Anthropic의 Mythos 같은 최첨단 AI 모델의 사이버 및 운영 위험부터 제한된 인간 개입만으로 행동할 수 있는 자율 에이전트 시스템이 야기하는 문제에 이르기까지 AI의 영향에 더욱 주목하고 있습니다.

Mills의 검토에 따르면 영국 소비자의 4분의 1 이상이 금융 조언을 위해 ChatGPT, Claude, Gemini 같은 도구를 신뢰하고 있으나, 이러한 AI 서비스에는 규제 금융 서비스에 적용되는 보호 장치가 적용되지 않는다는 점을 제대로 인식하지 못하고 있습니다. 금융 조언은 규제 대상 활동으로 인가된 기업만이 제공할 수 있으므로, AI는 일반적인 금융 정보 제공 이상의 역할을 해서는 안 됩니다. 그러나 Mills는 챗봇의 개인화된 추천이 이 경계를 모호하게 할 수 있으며, 지속적이고 적응형 추천이 규제 대상 조언과 유사해질 수 있다고 경고했습니다.

Mills는 FCA가 향후 3개월에서 6개월 내에 AI 모델의 규모, 성질, 영향을 검토함으로써 규제 범위를 "확보하고 조정"할 필요가 있는지를 검토할 것을 권고했습니다. Norton Rose Fulbright의 금융 서비스 글로벌 책임자 Jonathan Herbst는 Mills가 즉각적인 규제 강화를 제안한 것이 아니라 금융 서비스가 어떻게 제공되고 있는지를 반영하기 위해 규칙을 개정할 필요가 있는지를 묻고 있다고 지적했습니다. "이는 정책입안자들이 처해야 할 중대한 질문이며, AI 도입이 가속화될수록 더욱 시급해질 것입니다"라고 Herbst는 말했습니다.

FCA는 금융 서비스에 대한 AI의 영향을 연구한 첫 번째 글로벌 규제당국이라고 밝혔지만, 이 감시기관은 권고 사항을 따를 의무가 없습니다. 최근 조사에 따르면 전 세계 금융회사의 81%가 어느 수준이든 AI를 도입 중이며, 40%는 더욱 발전된 단계에 있습니다. 대부분의 사용 사례가 저위험의 백오피스 기능에 집중되어 있지만, 영국 기업들은 민원 처리 및 투자 조언 같은 고객 대면 분야에 AI를 점점 더 많이 배치하고 있습니다.

Mills의 보고서는 광범위한 AI 도입이 기업들을 중요한 운영 능력을 위해 소수의 기술 제공업체에 의존하게 할 수 있다고 경고했습니다. 동일한 모델, 클라우드 제공업체 또는 기술 기반시설에 대한 공동 의존성은 금융 시스템 전반에 걸쳐 상관관계가 있는 행동, 집단행동, 공통의 장애점을 야기할 수 있습니다.

영국중앙은행 부총재 Sarah Breeden은 지난주 점점 더 능력이 향상되는 자율 에이전트 시스템이 야기하는 위험을 통제하기 위해 맞춤형 AI 규제가 필요하다는 신호를 보냈습니다. "우리의 규제 프레임워크는 자율 에이전트를 고려하도록 설계되지 않았으며, 모든 에이전트 행동에 대해 인간이 개입하도록 의존하는 것은 현실적이지 않을 것입니다"라고 Breeden은 말했습니다.