AI in Finance, ICAIF 2025로 보는 금융 AI 연구 동향

들어가며

안녕하세요, 카카오뱅크 기술연구소의 Conor입니다. 지난 11월, 금융 AI 분야의 세계 최고 권위 학술대회인 ‘ACM International Conference on AI in Finance(ICAIF 2025)‘에 카카오뱅크 소속으로 참석했습니다. 저희 기술연구소에서 연구한 “Query Generation Pipeline with Enhanced Answerability Assessment for Financial Information Retrieval” 논문이 전체 349편의 제출 논문 중 상위 15%에게만 주어지는 Oral 세션에 채택되어, 전 세계 금융·AI 전문가들 앞에서 직접 발표하는 영광을 누렸습니다.

🔗 보도자료 보러가기

8월에 논문을 제출하고 결과를 기다리는 두 달 동안, 쉴새 없이 쏟아지는 새로운 AI 기술들을 보며 마음을 졸였는데, Oral 발표가 결정되었다는 메일을 받았을 때의 기쁨은 아직도 생생합니다. 4일간의 여정을 통해 직접 보고 느낀 금융 AI의 가장 뜨거운 연구 주제들은 무엇이었는지, 그리고 이번 경험이 카카오뱅크의 AI 기술이 나아갈 방향에 어떤 영감을 주었는지 이 글에 가득 담아보려 합니다.

ICAIF 2025 톺아보기

어떤 학회인가요?

올해로 6회째를 맞이한 ICAIF 2025는 2025년 11월 15일부터 18일까지 4일간 싱가포르 Sheraton Towers에서 개최되었습니다. 특히 싱가포르가 아시아 금융 허브로서의 위상을 강화하고 있는 시점에, 세계 최대 규모의 핀테크 행사인 Singapore Fintech Festival(SFF) 직후에 열려 더욱 의미가 있었습니다.

ICAIF는 인공지능과 금융의 융합을 다루는, 학계와 산업계의 경계에서 가장 영향력 있는 학회입니다. 올해는 약 349편의 논문이 제출되어 단 113편만이 채택되었고, 그중에서도 54편의 연구만이 Oral 세션에서 발표 기회를 얻을 만큼 엄선된 연구들이 모이는 자리입니다.

참여 기관의 면면 역시 화려합니다.

• ﹒금융: BlackRock, J.P. Morgan, Goldman Sachs, Bloomberg, Bank of Italy, Wells Fargo, Mastercard 등
• ﹒테크: Microsoft, NVIDIA, IBM Quantum, LinqAlpha 등
• ﹒학계: National University of Singapore(NUS), University of Oxford, Stanford University, Imperial College London 등

특히 이번 학회에서는 한국 연구진의 약진이 돋보였습니다. KAIST, 한양대, UNIST 등 국내 유수의 대학들이 다수의 논문을 발표했으며, 채택된 전체 논문 중 14%가 한국에서 나올 정도로 높은 수준을 자랑했습니다.

어떻게 구성되었나요?

ICAIF 2025는 크게 두 부분으로 구성되었습니다.

1) Workshops & Tutorials (11월 15-16일)

본 컨퍼런스에 앞서, 특정 주제를 깊이 있게 다루는 워크숍과 튜토리얼 세션이 먼저 열렸습니다. Short-paper 형식으로 진행되며 각 워크숍마다 Best Paper Award를 시상하는 점이 특징입니다. 주요 워크숍은 다음과 같습니다.

• ﹒XAI-FIN-2025 (International Joint Workshop on Explainable AI in Finance): 금융 도메인에서의 설명가능한 AI 기술 적용 사례
• ﹒AI and Data Science for Digital Finance: 암호화폐, DeFi, 블록체인 등 디지털 금융에서의 AI 활용
• ﹒Rethinking Financial Time-Series: 금융 시계열 모델링의 새로운 접근법

2) Main Conference (11월 17-18일)

이어서 이틀간 진행된 메인 컨퍼런스에는 학회의 가장 핵심적인 프로그램들이 집중되었습니다.

• ﹒Oral Presentations: 상위 논문으로 선정된 연구들이 전체 참석자를 대상으로 15분 발표와 5분 질의응답 형식으로 진행하는 세션입니다.
• ﹒Poster Sessions: 연구 결과가 포스터 형식으로 전시되어, 연구자와 직접 만나 깊이 있는 토론을 나눌 수 있는 시간입니다.
• ﹒Keynote Speeches: 금융 AI 분야의 세계적인 석학들이 미래 방향성을 제시하는 발표입니다.
• ﹒Panel Discussions: “LLM in Finance: Opportunities and Risks"나 “Regulatory Compliance in AI Era"와 같이 시의적절한 주제에 대해 전문가 패널이 토론을 벌입니다.

카카오뱅크의 연구, 무엇을 발표했나요?

저희 연구는 기존 금융 검색 시스템의 평가 방식이 가진 한계점에서 출발했습니다. 금융 정보 검색 AI의 성능을 제대로 평가하려면 방대한 질문과 답변 데이터가 필요한데, 이를 사람이 직접 만드는 것은 비용과 시간이 많이 들고 한 번 만들면 내용을 바꾸기도 어렵습니다.

저희는 이 문제를 해결하기 위해 LLM을 활용해 평가에 필요한 질문(쿼리)과 답변을 동적으로 생성하는 파이프라인을 제안했습니다. 이 연구의 핵심은 단순히 질문을 많이 만들어내는 것을 넘어, 생성된 질문이 주어진 문서로 ‘답변 가능한(Answerable)’ 질문인지 판단하는 ‘답변 가능성(Answerability) 평가’ 모듈을 도입한 것입니다. 이 모듈을 통해 품질 낮은 질문을 걸러내고, 실제 사람이 만든 것과 유사한 수준의 고품질 평가 데이터셋을 자동으로 구축할 수 있습니다.

결과적으로 저희가 제안한 파이프라인은 기존 방식보다 훨씬 효율적이고 일관된 방식으로 AI 모델의 성능을 평가할 수 있는 새로운 가능성을 열었으며, 이 점을 인정받아 Oral 세션에서 발표할 수 있었습니다.

더욱 자세한 연구 내용이 궁금하시다면, 카카오뱅크 기술연구소 블로그에 게시된<ICAIF 2025 : RAG를 위한 텍스트 임베딩 모델 개발>을 참고해주세요.

Finance 분야 AI 연구의 세 가지 핵심 트렌드

4일간의 학회 여정에서 발표된 113편의 논문과 수많은 토론을 접하며, 저는 현재 금융 AI 분야를 이끄는 거대한 세 가지 흐름을 발견할 수 있었습니다. 바로 ▲강화학습과 에이전트 시스템의 진화, ▲데이터와 이론이 결합된 차세대 투자 전략, ▲그리고 AI의 신뢰성을 확보하기 위한 평가, 윤리, 안전에 대한 고민입니다.

지금부터 이 세 가지 핵심 동향을 ICAIF 2025에서 주목받은 주요 논문 및 관련 세션과 함께 소개해 드리겠습니다. 아래 소개드린 논문은 웹 상에 공개되어 있으므로, 관심 있는 분야는 직접 찾아 읽어보시길 적극 추천합니다.

📍 RL(Reinforcement Learning) and Agent System

올해 ICAIF에서 가장 눈에 띄었던 주제는 단연 강화학습(RL)과 에이전트 시스템(Agent System)이었습니다. 시장 시뮬레이션에서부터 트레이딩 전략, 사기 탐지 시스템까지 그 활용 범위가 매우 넓었습니다.

시장 시뮬레이션 분야에서는 다양한 접근법이 제시되었습니다. 최적 운송 이론을 활용해 해석 가능한 프레임워크¹나, ‘FABS’와 같은 고성능 디지털 트윈을 이용한 실시간 시뮬레이션² 연구, 그리고 에이전트 기반 전략 분석을 통해 시장 설계의 미시적 메커니즘을 탐구한 연구³가 대표적이었습니다.

이러한 연구들은 금융 시장을 복잡한 에이전트들의 상호작용으로 모델링함으로써, 시장 설계와 규제 정책을 사전에 시뮬레이션하는 능력의 중요성을 잘 보여주었습니다.

강화학습을 실무에 적용하는 연구도 활발했습니다. 전통적인 자산-부채 관리의 한계를 Continuous-time 강화학습을 통해 극복하는 연구⁴가 제시되었고, 복잡한 제약 조건 속에서도 신뢰할 수 있는 보험 가격을 책정하는 프레임워크⁵가 제안되기도 했습니다. 특히, 투자자의 편향을 명시적으로 모델링하여 현실적인 의사결정을 시뮬레이션하는 행동 강화학습 연구⁶도 눈에 띄었습니다.

하지만 자율 에이전트의 강력한 능력은 새로운 위험요소 또한 드러냈습니다. 한 연구에서는 자율 트레이딩 에이전트가 의도치 않게 시장을 조작할 수 있다는 가능성을 지적하며, 기술을 넘어선 규제와 거버넌스의 중요성을 시사했습니다.⁷ 다른 연구에서는 독립적으로 학습하는 에이전트들의 알고리즘 가격 설정 전략을 연구하며 담합 없는 경쟁 환경 구현의 중요성을 강조했습니다.⁸ 또한 Qwen2.5 모델을 활용하여 금융 의사결정에서의 위치 편향(positional bias)을 추적하고 메커니즘을 해석하는 연구도 주목받았습니다.⁹ 이처럼 자율 에이전트의 힘이 강력해질수록, 의도치 않은 부작용과 윤리적 문제에 대한 연구가 필수적이라는 것이 올해 학회의 중요한 메시지 중 하나였습니다.

이 주제에 관심이 있다면, ICAIF 2025의 아래 세션들을 통해 더 깊이 있는 내용을 확인하실 수 있습니다.

📍 투자 전략 & 시장 예측

“어디에, 어떻게 투자할 것인가?” 라는 금융의 본질적인 질문에 답하기 위한 연구들 역시 한 단계 진화하고 있었습니다. 특히 ‘예측’의 정확성보다 ‘결정’의 최종 결과를 중시하는 ‘의사결정 중심 학습(Decision-Focused Learning)’ 이 핵심적인 흐름으로 떠올랐습니다. 이는 단순히 예측 정확도를 높이는 것을 넘어, 최종 포트폴리오 성과를 직접 최적화하는 것이 더 낫다는 기조입니다. 실제로 공분산 추정이나 수익률 예측 문제에서 이 접근법의 효과를 증명했고,^{10 11} 이 아이디어를 대규모 포트폴리오로 확장하는 연구도 발표되었습니다.¹²

변동성 모델링에서는 금융 이론과 딥러닝의 결합이 활발했습니다. 금융공학의 수학적 제약 조건을 물리 정보 신경망(Physics-Informed Neural Networks)을 통해 신경망에 직접 내장하여, 확률적 국소 변동성 모델을 보정하는 연구가 인상적이었습니다.¹³ 더 과감한 시도도 있었습니다. 언어 모델을 외환 변동성 예측에 그대로 재활용했는데, 놀랍게도 좋은 성능을 보였다고 합니다.¹⁴

시계열 예측 분야는 자산 간의 관계를 학습하는 방향으로 발전하고 있었습니다. 단순히 개별 주가를 예측하는 것을 넘어, “A 자산이 오르면 B 자산은 얼마 뒤에 따라 오를까?“와 같은 동적인 선행-지연(Lead-Lag) 패턴을 학습하는 모델(DeltaLag)이 발표되었습니다.¹⁵ 페어 트레이딩 분야에서도 물리학의 평균 회귀 개념을 대조 학습(Contrastive Learning)에 접목하거나,¹⁶ Attention 메커니즘으로 팩터를 선택¹⁷하는 등 새로운 시도가 이어졌습니다.

개인적으로 가장 인상 깊었던 것은 리스크 관리 세션이었습니다. 단순한 효용 함수를 넘어선 복잡한 투자자 선호도를 다룬 연구가 발표되었고,¹⁸ 컨포멀 예측(Conformal Prediction)으로 “이 예측을 얼마나 확신할 수 있는가?“와 같은 불확실성을 정량화하는 방법이 제시되기도 했습니다.¹⁹ 이제 금융 AI는 단순히 높은 수익률을 넘어, 예측의 신뢰도와 리스크 관리를 함께 고민하는 단계로 나아가고 있었습니다.

📍 Evaluation, Ethics and Safety

AI 적용 시 발생하는 성능, 윤리, 편향 등 안정성에 관한 문제는 제가 열심히 연구하는 분야이기에 더욱 흥미롭게 지켜보았습니다. “LLM의 성능을 어떻게 검증할 것인가?”, “AI의 판단을 어떻게 설명할 것인가?”, “AI는 윤리적인가?” 이 세 가지 질문을 중심으로 주요 연구들을 살펴보겠습니다.

1. 성능 측정의 새로운 기준

“LLM이 금융에서 잘 작동하나요?” 라는 질문의 핵심은 이제 “어떻게 그 성능을 측정하느냐” 로 옮겨갔습니다. 일례로 텍스트, 표, 차트를 모두 이해해야 하는 멀티모달 벤치마크(FinMR)이 발표되었는데, 이는 실제 애널리스트처럼 재무제표를 종합적으로 보고 판단하는 능력을 테스트합니다.²⁰ 더 근본적으로, LLM이 테이블 데이터에서 환각(Hallucination)을 일으키는지 평가하는 프레임워크(FAITH)가 제안되기도 했습니다.²¹ 다만, 결과를 보면 숫자를 다루는 능력은 생각보다 좋지 않았습니다.

또한 금융 NLP 모델이 경제 체제 변화(예: COVID-19, 금리 인상)에 따른 의미론적 변화(Semantic Drift)에 얼마나 강건한지를 평가하는 연구도 있었습니다.²² 금융 NLP에서의 의미가 시간에 따라 어떻게 변하는지 정량화하지 않으면, 작년에는 잘 작동하던 모델이 올해는 그 성능을 보장할 수 없다는 중요한 시사점을 주었습니다.

2. 설명 가능한 AI를 향하여

그렇다면 모델이 왜 그런 판단을 내렸는지 어떻게 설명할 수 있을까요? 해석 가능성(Explainability) 세션은 이 질문에 집중했습니다. ProtoHedge를 이용해 시장 프로토타입을 찾아 헤징 전략을 설명한 연구가 있었고,²³ 딥러닝 기반 베타 추정 모델인 NeuralBeta를 제안한 연구도 돋보였습니다. 이 연구는 신경망의 블랙박스 문제를 해결하기 위해, NeuralBeta-Interpretable(NBI)이라는 해석 가능한 변형 모델을 함께 제시했습니다.²⁴ NBI는 과거 데이터의 각 시점에 대한 가중치를 명시적으로 출력하여, 어떤 시기의 데이터가 베타 추정에 더 영향력 있는지 투명하게 보여줍니다. 이를 통해 사용자는 모델이 어떤 역사적 시장 상황과 시간적 패턴을 중요하게 고려하는지 파악할 수 있으며, 전통적인 회귀 분석 프레임워크와의 직접적인 연결성을 유지하면서도 딥러닝의 강력한 표현력을 활용할 수 있습니다.

특히 랜덤 포레스트 모델의 예측을 설명하기 위한 네 가지 유형의 사례 기반 설명 방법이 인상적이었습니다.²⁵

• ﹒프로토타입: “이 예측은 과거의 이런 성공 사례와 비슷합니다.”
• ﹒비평: “하지만 이런 예외적인 실패 사례도 있었습니다.”
• ﹒반사실: “만약 A 조건이 달랐다면, 결과가 바뀌었을 겁니다.”
• ﹒준사실: “B 조건이 바뀌었어도, 결과는 같았을 겁니다.”

이를 주식 추천 시스템에 적용한다면, “이 주식은 과거에 성공한 A, B, C 회사와 비슷합니다"라는 프로토타입 설명부터 시작해서, “하지만 D 회사처럼 예외적인 경우도 있었습니다"라는 비평을 추가하고, “만약 매출이 10% 더 높았다면 더 강하게 추천했을 겁니다"라는 반사실적 설명과 “배당률이 달라져도 여전히 추천했을 겁니다"라는 준사실적 설명까지 제공할 수 있습니다.

3. 윤리와 편향에 대한 선제적 탐구

이번 학회에서 가장 많은 관심을 받았던 세션은 “Ethics and Bias in LLM-driven Finance” 였습니다. 이 세션에서는 AI의 잠재적 편향과 윤리적 판단 능력을 검증하는 연구들이 주목받았습니다. LLM이 투자 분석에서 보이는 편향을 정량적으로 분석하며 AI의 견해가 사용자의 견해와 다를 수 있다는 점을 경고한 연구가 있었고,²⁶ 시장 남용 사례에서 LLM의 윤리적 판단을 평가하는 연구도 발표되었습니다.²⁷ 규제 준수가 중요한 금융에서 ‘AI가 윤리적으로 올바른 판단을 내릴 수 있는가’를 선제적으로 파악하는 중요한 연구들이었습니다.

저희 팀의 연구 역시 이 세션에서 발표되었습니다. 저희가 제안한 “Query Generation Pipeline with Enhanced Answerability Assessment” 는 “얼마나 잘 답하느냐"보다 “답할 수 있는 질문인가"를 먼저 확인하는 것이 신뢰성의 시작이라는 관점을 제시합니다. 이 발표를 통해 단순히 질문을 많이 만드는 것을 넘어 ‘답변 가능한’ 질문을 만들도록 유도하는 것이 핵심임을 강조했습니다.

마무리하며

4일간의 학회를 경험하며, 현재 금융 AI 연구의 두 가지 주요 흐름을 발견했습니다. 한 쪽에서는 AI로 이익을 극대화하려는 연구가, 다른 한쪽에서는 금융 환경에서 AI를 안전하게 활용하기 위한 연구가 활발히 진행되고 있었습니다. 두 방향 모두 중요하지만, 고객의 신뢰가 최우선인 은행의 일원으로서 저는 AI를 안전하게 활용하는 것이 더욱 중요하다는 점을 다시 한번 깨달았습니다.

LLM 도입이 가속화되면서 환각(Hallucination), 편향(Bias), 과신(overconfidence) 등 여러 잠재적 위험도 함께 커지고 있습니다. 이러한 문제는 단순히 기술적 이슈를 넘어, 고객 신뢰와 규제 준수에 직결됩니다. 따라서, 테이블 환각을 평가하거나²¹, 시간에 따른 모델의 의미론적 변화를 추적하는²² 연구처럼, 모델이 언제, 어떻게 실패할지를 예측하는 역량이 기존의 성능 향상만큼이나 중요해졌습니다. 이처럼 금융 AI의 잠재적 위험에 대한 논의가 활발하게 이뤄지는 현장을 직접 경험하며, 모델의 한계와 위험을 정확히 이해하고 예측하는 연구의 중요성을 다시 한 번 느낄 수 있었습니다.

이 경험을 바탕으로, 앞으로도 고객이 안심하고 사용할 수 있는 안전하고 신뢰할 수 있는 금융 AI 개발에 더욱 집중하겠습니다. 학회에서 얻은 경험과 배움을 실무에 적용하고, 그 결과를 다시 학회에서 공유하는 선순환을 만들고 싶습니다. 마지막으로, 이번 학회 참가를 아낌없이 지원해준 회사와, 함께 연구한 팀원들, 그리고 현장에서 귀한 질문으로 발표를 더욱 풍성하게 만들어주신 모든 분께 감사를 전합니다. 긴 글 읽어주셔서 감사합니다.