연세소식

최근 5명의 인공지능 전문가들이 발표한 미래 시나리오, ‘AI 2027 리포트^₁₎’가 큰 주목을 받고 있다. 이 보고서는 2030년, 인공지능이 퍼뜨린 바이러스로 인해 인류가 멸망할 수 있다는 다소 극단적인 전망을 제시하고 있다. 이러한 시나리오의 핵심 전제는 인간의 능력을 압도하는 수준의 인공지능인 슈퍼지능(superintelligence), 혹은 슈퍼휴먼 AI의 등장이다.

 

그렇다면 정말로 2030년까지 인류를 위협할 수준의 슈퍼지능이 등장할 수 있을까? 지금 이 순간에도 Claude Mythos, GPT-5.5, Gemini 3.1 Pro와 같은 메이저 인공지능 기업의 주요 모델뿐 아니라, 중국 기업의 Kimi K2.6, Seed 2.0 Pro 등 다양한 LLM들이 빠르게 발전하며 벤치마크 경쟁을 벌이며 쏟아져 나오고 있다. 그러나 이러한 발전 속도가 곧 근미래의 슈퍼지능 출현으로 이어진다고 단정하기에는 아직 넘어야 할 여러 간극들이 존재한다.

 

 

우선 우리는 한 가지 근본적인 질문부터 던질 필요가 있다. 현재의 LLM이 보여주는 능력을 과연 인간 지능을 모두 설명하는 ‘지능’이라고 볼 수 있는가? 일반적으로 사실을 알고 이를 활용하는 능력은 지능의 한 형태이다. LLM은 질문에 대해 적절한 답을 생성하며, 이는 사실을 알고 활용하는 지능이며, 정리하면 기억(memorization)과 검색(retrieval)에 기반한 지능으로 볼 수 있다. LLM이 확률적 대규모 생성형 언어 모델이라는 특성 덕분에 문서, 이미지, 심지어 영상까지 만들어내고 있으며, 어떤 측면에서는 무서울 정도의 지능을 뽐내는 것처럼 보인다. 그러나 이러한 능력 역시 넓은 의미에서는 학습한 정보의 조합과 재구성의 결과이며, LLM의 핵심은 여전히 확률적 생성에 기반한 기억-검색 지능이라 할 수 있다.

 

그러나 인간은 인류의 생존과 발전을 위해 인간의 뇌에 내재적인 기억-검색 지능 외에도 훨씬 다양한 층위의 외재적 지능을 발전시켜 왔다. 다음과 같은 대표적인 외재적 지능들이 존재한다.

 

• 규범적 지능: 상황에 따라 적합한 규범을 찾고 규범에 따라 판단하고 행동하는 능력
• 제약적 지능: 주어진 조건을 만족하면서 목표를 최적으로 달성하는 능력
• 절차적 지능: 상황에 따라 정해진 판단과 행동의 순서를 정확히 따르는 능력

 

먼저 규범적 지능에 대한 최근 연구에 따르면, LLM이 이 지능 영역에서 아직 인간 수준에 도달하지 못하고 있음을 확인할 수 있다. LogicBench 연구²⁾에 따르면 여러 LLM 중 가장 우수했던 GPT-4의 논리적 추론 정확도는 약 79.58%로, 인간의 약 85%보다 낮다. 수치상으로는 준수해 보일 수 있지만, 논리적 추론은 확률이 아니라 정확성이 요구되는 영역이다. 예를 들어 학점이 2.0 미만이면 경고를 주는 규칙이 있을 때, 경고의 정확도가 80%라면 이를 학생들이 수용할 수 있지 않을 것이며 이는 실질적으로 사용하기 어려운 시스템일 것이다. 이러한 한계는 많은 비즈니스와 산업 현장에서, 특히 고객 접점 시스템에 LLM 적용이 더딘 이유 중 하나인 것이다.

 

두 번째인 제약적 지능에서 LLM의 한계는 더 분명하다. 매우 단순한 블록 쌓기나 수송 계획 문제에 대한 LLM의 계획 수립 능력을 평가한 연구³⁾에서 역시 실험 모델 중 가장 우수했던 GPT-4는 약 34.3%의 성공률을 보였고, 특히 논리적 변경 없이 용어의 불명료화(obfuscation)를 통해 문제 표현을 바꾸면 그 성공률은 2%까지 급락했다. 이는 LLM이 문제를 ‘이해’하기보다 표면적인 패턴 학습에 의존하고 있음을 시사하는 것이다. 세 번째 절차적 지능에서도 마찬가지로, 명확한 절차가 주어짐에도 이를 일관되게 따르지 못하는 경우가 빈번하게 발생하고 있는 상황이다.

 

사실 인류가 축적해온 지식의 상당 부분은 참과 거짓이 명확한 논리적 구조를 기반으로 한다. 반면, 현재 LLM은 확률적 모델이기 때문에 이러한 논리 중심의 지식을 완전하게 다루는 데 한계를 가진다. 따라서 슈퍼지능에 도달하기 위해서는 또 한 번의 근본적인 기술적 도약이 필요하다.

 

 

그럼에도 불구하고, 우리는 현재 LLM이 수학적 문제 해결 등 논리적 문제도 잘 해결하는 것처럼 느낀다. 실제로 필자도 많은 다양한 논리 문제들을 LLM에게 던져보았고 매우 훌륭하게 해결하는 것을 매일 확인하고 있다. 그렇다면 앞에서의 연구 결과와는 다르게 LLM이 논리적, 제약적, 절차적 지능도 이미 잘 갖추고 있다는 얘기일까? 사실은 이들 지능을 잘 학습된 확률적 LLM 자체 능력으로 발휘하고 있는 것이 아니라 LLM을 감싸고 있는 컴퓨터 공학적 시스템 구조 덕분에 해결 능력을 가진 것처럼 보이는 경우가 대부분이다.

 

LangGraph, MCP, ReAct Agent와 같은 Agentic AI 프레임워크는 LLM을 반복적으로 호출하고, 외부 도구 및 규칙 기반 시스템과 결합하여 문제를 해결한다. 대표적인 사례가 Claude Code로, 다양한 환경과 도구를 활용하여 목표를 달성할 때까지 지속적으로 LLM을 사용하는 구조를 가진다. 즉, LLM은 독립적인 슈퍼지능이라기보다, 엔지니어링적으로 통제되고 관리되는 아키텍처에 포함된 하나의 에이전트 구성 요소에 가깝다.

 

이러한 한계를 극복하기 위한 방향으로, LLM과 전통적인 논리 추론을 결합하려는 연구도 뉴로-심볼릭 AI라는 깃발 아래 활발히 진행되고 있다. 이는 인간의 암묵적 지식 처리와 명시적 지식 처리 능력을 각각에 적합한 방식으로 분리 처리하며 구조적으로 통합하는 방식으로, 다양한 층위의 지능들을 보다 일관된 추론 아키텍처를 통해 해결하고자 하는 시도이다. 슈퍼지능은 단일 LLM 접근보다는 오히려 이러한 하이브리드 구조를 통해 등장할지도 모른다.

 

또 하나 인간 지능의 중요한 요소는 탐색적 지능이다. 이는 새로운 방법을 시도하고, 실패를 통해 학습하며, 이전에 없던 해결책을 발견하는 능력이다. 강화학습과 AlphaZero (10)는 이러한 접근의 대표적인 사례이다. AlphaZero는 수천만 번의 자가 대국을 통해 전략을 스스로 발전시켰다.

그러나 인간은 이러한 탐색적 지능을 훨씬 더 광범위하며 일반적인 상황에서 수행하고 있다. 일상에서 이전에 한 번도 해보지 않았던 방법을 사용하여 무언가를 해보고 이로써 피드백을 얻고 지속적으로 지식을 축적한다. 과연 인공지능이 이렇게 할 수 있을까? ChatGPT가 사용자의 질문에 갑자기 엉뚱한 답변을 해볼 수 있을까? 자율주행차가 갑자기 해보지 않았던 운전 방식을 자율 주행 중에 시도해 볼 수 있을까? 현재의 인공지능은 안전성과 안정성 등 다양한 이유로 임의적이고 돌발적인 시도를 제한받고 있다. 자율주행차가 새로운 운전 방식을 즉흥적으로 시도하지 않는 것처럼, 현재 LLM 또는 인공지능이 어떤 방식으로 이러한 장벽을 넘어서게 될지 아직은 불분명하다.

 

마지막으로, 인간의 지능은 생물학적 관점의 지능도 포함하고 있다. 인간 유전자는 생각할 수 있는 뇌 구조를 제공하고 있으나 유전자 자체가 생각의 질적 수준을 의미하는 것은 아니다⁴⁾. 따라서 인간의 지능은 본질적으로 학습한 결과물이 아니라 학습할 수 있는 기회를 인지하고 우리를 둘러싼 환경으로부터 지속적으로 학습하는 능력이라 할 수 있다. 반면 현재 LLM은 스스로 학습 기회를 탐색하거나 환경의 피드백으로부터 지속적으로 학습을 수행하고 있지도 않다. 현재 LLM은 이러한 기회와 피드백을 학습하고 있는 것이 아니라, 개인이나 조직의 프로파일에 프롬프트 형식으로 저장함으로써 지속적인 학습을 하는 것처럼 보이게 하고 있다. 진정한 의미의 자율 학습과는 거리가 멀다.

 

 

결국 우리는 다시 처음 질문으로 돌아오게 된다. 인류를 멸망시킬지도 모르는 슈퍼지능이란 무엇인가?

아마도 언제나 합리적인 정답을 제공하고 실행하는 도구라기보다는 인간의 지능을 추구하며 이를 초월하는 존재일 것이다. 그러나 최소한 현재의 LLM 기반 기술 수준을 고려할 때, 2030년까지 인류를 멸망시킬 수준의 슈퍼지능이 등장할 가능성은 매우 희박하다. 오히려 아직 해결해야 할 본질적인 문제들이 많이 남아 있고, 이 문제들을 가까운 미래에 극복하기란 매우 어려울 것이다.

 

 

 

참고 문헌

1) AI 2027. Daniel KokotajloAlexander, Thomas Larsen, Eli Lifland, and Romeo DeanScott. April 2025, https://ai-2027.com/#narrative-2026-08-31.
2) LogicBench: Towards Systematic Evaluation of Logical Reasoning Ability of Large Language Models. M. Parmar, N. Patel, N. Varshney, M. Nakamura, M. Luo, S. Mashetty, A. Mitra, and C. Baral. Proceedings of the 62nd Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), pages 13679–13707, 2024.
3) PlanBench: an extensible benchmark for evaluating large language models on planning and reasoning about change. Karthik ValmeekamMarquez, Alberto Olmo, Sarath Sreedharan, and Subbarao Kambhampati. Proceedings of the 37th International Conference on Neural Information Processing Systems (NIPS '23), Red Hook, NY, USA, 2023.
4) Rethinking Intelligence: A Radical New Understanding of Our Human Potential. Bliss Rina. Harper Wave, 2023.