전 세계는 인간 수준의 범용 인공지능, 즉 AGI(Artificial General Intelligence)를 구현하기 위해 다양한 시도를 이어가고 있습니다. AGI란 특정 과제에 특화된 현재의 인공지능을 넘어, 인간이 수행할 수 있는 다양한 지적 업무를 전반적으로 처리할 수 있는 인공지능을 의미합니다. 이러한 수준에 도달하기 위해서는 단순한 패턴 인식을 넘어, 인간과 유사한 방식의 추론 능력이 필요하다는 논의가 이어지고 있습니다. 다시 말해, 데이터 속에서 반복되는 경향을 학습하는 것을 넘어, 스스로 원인과 결과를 분석하고 그 관계를 이해하는 능력이 중요해지고 있습니다.

이러한 맥락에서 AGI 논의와 함께 자주 언급되는 개념이 바로 Causal AI, 즉 인과 AI입니다. 본 글에서는 Causal AI가 무엇인지, 그리고 왜 중요한 개념으로 주목받고 있는지를 살펴보고자 합니다.
 

Causal AI란 무엇인가

전통적인 인공지능, 특히 기계 학습 분야는 주로 데이터로부터 패턴을 찾아내는 데 초점을 맞추어 발전해 왔습니다. 입력값과 출력값 사이의 상관관계를 학습함으로써 예측 성능에서는 강점을 보이지만, 그 결과가 왜 발생했는지에 대한 설명이나 의사결정의 근거를 명확히 제시하는 데에는 한계가 있다는 지적도 존재합니다. 다시 말해, 특정 현상들이 함께 나타난다는 점은 알 수 있지만, 그 이면의 원인을 충분히 이해한다고 보기는 어렵습니다. 만약 인공지능을 활용해 ‘왜 이런 결과가 발생했는가’라는 질문에 답하고자 한다면, 단순한 상관관계를 넘어 원인과 결과의 관계를 다루는 새로운 접근이 필요합니다.

Causal AI는 서로 다른 요소들이 어떻게 영향을 주고받는지를 분석함으로써, 의사결정이나 계획 수립, 그리고 가상의 ‘What-if’ 시나리오에 대한 검토를 가능하게 합니다. 

예를 들어, 기존 AI가 '약 복용자의 회복률이 높다'는 패턴을 발견하는 데 그친다면, Causal AI는 '이 약을 복용시키는 것이 회복의 직접적인 원인인가?' 혹은 '복용하지 않았을 때 결과는 어떠했을까?'를 탐구합니다. 이는 단순 예측을 넘어 기업의 정책 시행, 가격 변동 전략, 유저 경험 개선 등 선택과 의사결정이 필요한 비즈니스 현장에서 필수적인 요소로 간주됩니다.

Causal AI의 핵심 아이디어

Causal AI 분야를 정립한 인물로는 2011년 튜링상 수상자인 주디아 펄(Judea Pearl)이 자주 언급됩니다. 그는 기계가 원인과 결과를 추론할 수 있도록 하는 이론적 기반을 마련했으며, do-calculus와 인과 그래프(Causal Graph)와 같은 개념을 제시했습니다. 주디아 펄과 다나 매켄지가 공동 저술한 『The Book of Why』에서는 인과 추론을 세 단계로 구분한 ‘인과의 사다리(Ladder of Causation)’라는 개념을 소개합니다.

일반적인 기계 학습 모델은 주로 첫 번째 단계에 해당합니다. 반면 Causal AI는 그 이상의 단계까지 확장해, 왜 특정 결과가 발생했는지, 그리고 다른 선택을 했다면 어떤 결과가 가능했는지를 분석하는 데 도움을 줍니다. 이러한 접근은 '인과 추론'이라는 보다 형식적인 언어 체계를 기반으로 합니다.

Causal AI가 AGI로의 길을 열어줄까?

인간과 유사한 추론 능력, 나아가 AGI를 논의할 때 Causal AI는 빼놓을 수 없는 요소입니다.

앞서 설명한 것처럼, 기존의 AI 모델은 관찰된 데이터에서 상관관계를 학습하고 예측을 수행하는 데에는 강점이 있지만, 데이터에 드러나지 않은 과정이나 원인을 신뢰성 있게 설명하는 데에는 제약이 있습니다. Causal AI는 단순한 예측을 넘어 설명과 개입을 가능하게 하는 개념으로, 한 요소의 변화가 다른 요소에 어떤 영향을 미치는지를 인과 관계 차원에서 파악하는 것을 목표로 합니다. 이러한 특성은 AI가 보다 ‘사람처럼’ 추론하는 방향으로 나아가는 데 기여할 수 있습니다.

“무엇이 변화를 일으켰는가”, “왜 이런 일이 발생했는가”, “다르게 행동했다면 결과는 어떻게 달라졌을까”와 같은 질문은 인간의 사고 과정에서 자연스럽게 등장합니다. Causal AI는 바로 이러한 질문에 답하고자 하는 시도라고 볼 수 있습니다. 행동과 결과, 그리고 그 사이의 이유를 이해하고 가상의 시나리오를 검토하는 능력은 현재 널리 사용되는 AI 모델에서는 제한적으로만 구현되어 있습니다.

EY의 생성형 AI 파트너인 존 톰슨(John Thompson)은 저서 『The Path to AGI』에서 AGI를 구성하는 핵심 요소로 전통적인 기계 학습, 생성형 AI, 그리고 Causal AI를 제시합니다.  미래의 AI는 이 세 요소를 유기적으로 통합한 복합 AI(Composite AI) 형태로 발전하며 실용적인 AGI에 점진적으로 도달할 것으로 전망됩니다.

Causal AI의 실제 적용

Causal AI가 적용된 사례를 살펴보면, 원인과 결과를 분석하는 접근이 다양한 산업에서 의미 있는 시사점을 제공하고 있음을 확인할 수 있습니다.

헬스케어

2022년 Elevance Health(구 Anthem)의 연구진이 100만 명 이상의 당뇨병 환자 데이터를 기반으로 Causal Deep Learning 모델을 적용한 사례가 있습니다. 이 연구에서는 서로 다른 치료 전략 간의 차이를 보정한 뒤, 다양한 치료법의 효과를 비교 분석할 수 있었습니다. 그 결과, 특정 치료 조합이 환자군의 혈당 지표(HbA1c)를 상대적으로 더 효과적으로 개선하는 경향을 확인했다고 보고되었습니다.

파이낸스

영란은행(The Bank of England)이 은행 운영 과정에서 나타나는 비정상적인 위험 지표를 설명하기 위해 Causal AI 접근에 주목했습니다. 인과 그래프와 분석 도구를 활용해 유동성 지표의 변화를 분석한 결과, 단순한 상관관계로는 설명하기 어려운 인과적 요인을 확인한 사례가 소개된 바 있습니다.

소셜 미디어

메타의 인스타그램 팀은 사용자 알림 기능을 개선하기 위해 인과 추론 기반의 모델을 적용했습니다. 알림을 보내지 않아도 특정 콘텐츠를 소비할 가능성이 높은 사용자를 식별함으로써, 전체 알림 수를 줄이면서도 사용자 참여도를 유지하거나 개선하는 방향을 모색한 것으로 알려져 있습니다.

Causal AI와 강화 학습: 강력한 조합

최근에는 Causal AI와 강화 학습을 결합하려는 연구도 진행되고 있습니다. 구글 딥마인드 연구진의 2024년 연구에 따르면, AI 에이전트가 변화하는 환경에 적응하기 위해서는 단순한 상관관계 학습만으로는 한계가 있으며, 인과 구조에 대한 이해가 필요하다는 점이 제시되었습니다.

연구자들은 아래와 같은 시사점을 발견했습니다.

결과적으로 의사결정, 전이 학습, 인과 추론은 매우 밀접하고 깊은 수준에서 상호 연결되어 있다고 볼 수 있습니다. 이는 변수가 많고 예측이 어려운 실물 경제나 개방형 환경에 AI 에이전트를 도입할 때, 단순한 데이터 학습을 넘어선 '인과적 이해'가 반드시 선행되어야 함을 시사합니다. 이러한 인과적 통찰이 뒷받침될 때 비로소 AI 시스템은 어떠한 환경 변화에도 흔들리지 않는 실질적인 견고성(Robustness)을 갖출 수 있을 것입니다.

Causal AI, '더 인간다운' AI를 향한 도구

인과 추론은 단순히 무엇이 발생했는지를 넘어, 왜 그런 결과가 나타났는지를 이해하려는 접근입니다. 어떤 형태의 AI 모델이든 인과적 관점을 통합할 경우, 기존 모델이 가진 많은 한계를 극복할 수 있습니다.

Causal AI가 AI의 미래에 중요한 이유는 다음과 같습니다.

데이터 속 패턴을 학습하는 것만으로는 인간 수준의 추론에 도달하기 어렵습니다. 결과의 이면에 있는 원인을 이해하려는 시도가 더해질 때, AI는 보다 상식적이고 비판적인 사고에 가까워질 수 있습니다. 사람이 반복적으로 "왜"와 "어떻게"를 질문하며 사고를 확장하듯, AI 역시 인과관계를 이해하는 과정을 통해 진화합니다. 

Causal AI를 기존 머신러닝이나 생성형 AI와 결합하는 시도는 향후 고도화된 AI 시스템을 논의하는 데 중요한 축이 될 것입니다. ML, 생성형 AI, 물리적 AI가 Causal AI와 결합한다면, 시각적 인지(보고)와 가상 시나리오 추론(상상), 지속적 학습(배우고) 및 실행(행동)은 물론, 모든 현상의 근본 원인을 파악하는 능력까지 갖춘 고도의 AI 시대가 실현될 것입니다. 이러한 기술적 통합이 가속화됨에 따라, 진정한 지능형 AI의 시대는 더욱 빠르게 도래할 것으로 기대됩니다.
 

Writer: Turing Post - Ksenia Se & Ben Eum

Edit: Metanet