신경 기호 AI: '시스템 2' 업그레이드

인공지능에서 가장 위험한 속임수는 ‘규모만 있으면 된다’는 믿음이다.

지난 3년 동안 모델 랩이 단순히 아키텍처에 더 많은 텍스트와 기하급수적으로 더 많은 컴퓨팅을 제공하면 시스템이 결국 물리 법칙과 논리 법칙을 마스터하게 될 것이라는 합의된 가정이 있었습니다. 가설은 간단했습니다. 추론은 언어 복잡성의 부산물일 뿐입니다.

그 가설은 흔들리고 있다.

GPT-4와 그 후임자들은 토스터 오븐에 관한 셰익스피어 소네트를 작곡할 수 있지만, 여전히 5학년이 몇 초 안에 풀 수 있는 기본적인 다단계 논리 퍼즐로 어려움을 겪고 있습니다. 그들은 인용에 환각을 느끼고 자신있게 산술에 실패하며 사람의 감독 없이는 자율적인 작업 흐름을 실행한다고 믿을 수 없습니다.

노벨상 수상자 Daniel Kahneman은 두 가지 인지 모드를 정의했습니다. 첫 번째는 빠르고 본능적입니다. 두 번째는 느리고 논리적입니다. 현대의 생성 모델은 첫 번째 모드에만 의존합니다. 이는 검증이 아닌 통계적 가능성을 기반으로 다음 단어를 예측하는 확률적 패턴 일치자입니다.

은행 계좌 관리, 인프라 설계 또는 질병 진단과 같은 실제 작업을 수행할 수 있는 에이전트를 구축하려면 업계에서는 두 번째 모드인 느리고 숙고적이며 논리적인 추론을 잠금 해제해야 합니다.

신경기호 AI를 입력하세요.

순수 신경망의 깨진 약속

이러한 변화가 일어나는 이유를 이해하려면 현재 패러다임의 실패를 살펴볼 필요가 있습니다.

”딸기” 문제

표준 LLM에게 “딸기”라는 단어에 있는 ‘r’의 수를 세어 달라고 요청하세요. 인간에게 이것은 사소한 일입니다. LLM의 경우 놀라울 정도로 어렵습니다. 이는 모델이 “멍청해서”가 아니라 토큰화 때문입니다. 모델에는 ‘s-t-r-a-w…’라는 문자가 표시되지 않습니다. “딸기”라는 개념을 나타내는 단일 정수 토큰이 표시됩니다. 문자 그대로 토큰을 분해하지 않고는 토큰 내부의 문자를 “볼” 수 없습니다. 이는 근본적으로 확률만으로는 안정적으로 수행할 수 없는 논리적 단계를 필요로 합니다.

수학 환각

LLM은 345 x 921과 같은 수학 문제를 풀 때 곱셈을 수행하지 않습니다. 훈련 데이터에서 유사한 패턴을 회상합니다. 특정 숫자가 드물거나 고유한 경우 모델은 서로 바로 옆에 “보이는” 숫자를 기준으로 출력을 추측합니다. 이것이 모델이 종종 첫 번째와 마지막 숫자를 정확하지만(높은 확률) 중간 숫자를 엉망으로 만드는 이유입니다.

이러한 확률적 모호함은 시를 쓰는 데 허용됩니다. 이는 구조공학에 있어서 재앙입니다.

이성의 아키텍처

Neurosymbolic AI는 단일 모델이 아닙니다. 하이브리드 아키텍처입니다. 이는 신경망과 기호 논리가 반대 작업에 최적화되어 있음을 인정하고, 한 쪽이 다른 쪽의 의무를 수행하도록 강요하려는 시도를 중단합니다.

• 신경 계층(직관): 이 구성 요소는 “지저분한” 데이터를 처리합니다. 이미지의 픽셀 값, 인간 음성의 모호함 또는 문서의 “분위기”를 처리합니다. 혼란스러운 현실 세계를 구조화된 표현으로 변환합니다.
• 기호 계층(논리): 이것은 “Good Old-Fashioned AI”(GOFAI)의 영역입니다. 엄격한 규칙, 대수학, 형식 논리 및 지식 그래프를 다룹니다. 추측하지 않습니다. 계산합니다.
• 브리지: 획기적인 발전은 이러한 레이어 간의 양방향 통신에 있습니다. 신경망은 문제를 분석하고 기호 엔진은 답을 증명합니다.

실제 작동 방식

발사체 운동과 관련된 물리학 문제를 고려하십시오.

순수 LLM(시스템 1)은 훈련 데이터에서 유사한 단어 문제를 찾습니다. 확률을 바탕으로 답을 예측합니다. 변수가 고유한 경우 그럴듯해 보이지만 잘못된 결과가 나타나는 경우가 많습니다.

신경기호 시스템은 다르게 작동합니다.

1. 신경 인식: LLM은 텍스트를 읽고 의미론적 의미를 형식적 표현(예: 변수 v = 60, d = 300, a = 9.8)으로 구문 분석합니다.
2. 기호 실행: 이러한 변수를 기호 해석기(예: Python 계산기 또는 형식 정리 증명기)에 전달합니다. 이 솔버는 엄격한 법칙 d = vt + 0.5at^2을 적용합니다.
3. 신경 번역: 솔버는 정확한 수치 결과를 신경 구성 요소에 반환한 다음 이를 사용자에게 자연어 문장으로 래핑합니다.

시스템은 결코 “계산”을 수행하지 않습니다. 그것은 지저분한 인간 세계와 경직된 논리 세계 사이의 번역자 역할을 합니다.

불화의 역사

이 접근 방식은 컴퓨터 과학 분야에서 50년에 걸친 내전을 종식시킵니다.

• 상징주의자(1950년대~1990년대): 그들은 지능이 명백한 규칙 조작이라고 믿었습니다. 그들은 전문가 시스템(IBM의 Deep Blue와 같은)을 구축했습니다. 이러한 시스템은 완벽하게 논리적이었지만 취약했습니다. 규칙이 명시적으로 프로그래밍되지 않으면 시스템이 충돌했습니다. 그들은 현실 세계의 지저분함(예: 고양이 인식)을 처리할 수 없었습니다.
• 연결주의자(2010년대~현재): 그들은 지능이 단순한 뉴런의 대규모 네트워크(딥 러닝)에서 나온다고 믿었습니다. 이 접근 방식은 지저분한 데이터를 처리할 수 있기 때문에 지난 10년 동안 성공했습니다. 그러나 성능을 위해 설명 가능성과 논리를 희생했습니다.

신경기호적 AI는 평화 조약이다. 그것은 추론에 있어서 상징주의자들이 옳았고, 배움에 있어서 연결주의자들이 옳았다는 것을 인정합니다.

증명: AlphaGeometry 및 AlphaProof

이 궤적은 이론적으로 추측이 아닙니다. Google DeepMind는 최고 수준의 경쟁에서 작동함을 입증했습니다.

2024년 DeepMind는 IMO(국제 수학 올림피아드) 기하학 문제를 금메달리스트 수준으로 해결한 신경 기호 시스템인 AlphaGeometry를 출시했습니다.

이 시스템은 고유한 하이브리드 접근 방식을 활용했습니다.

• 신경 생성기는 “구조”를 생성합니다(예: 증명을 해결하는 데 도움이 되도록 삼각형에 새 선을 추가하는 것과 같은). 이는 해결책을 찾을 수 있는 위치를 제안하는 “직관” 역할을 합니다.
• 그런 다음 기호 엔진은 형식 논리를 사용하여 진술을 엄격하게 증명하려고 시도합니다.

기호 엔진이 중단되면 신경 모델은 새로운 “아이디어”(보조 구성)를 제공합니다. 증명이 완료될 때까지 직관 안내 논리, 직관 검증 논리 등을 앞뒤로 반복합니다.

AlphaProof와 “Lean” 언어

2025년 후반에 AlphaProof는 이를 더욱 발전시켰습니다. 강화 학습을 수학적 검증에 사용되는 공식 프로그래밍 언어인 Lean과 통합합니다.

코드가 실행될 수 있지만 여전히 논리적으로 결함이 있는 Python과 달리 Lean은 “증명 보조자”입니다. 모든 코드 줄을 수학적으로 검증합니다. 논리가 올바르지 않으면 코드가 컴파일되지 않습니다. AI가 Lean으로 추론을 출력하도록 함으로써 DeepMind는 본질적으로 환각 방지 장벽을 만들었습니다. 모델은 수천 가지 잘못된 아이디어를 시도할 수 있지만 사용자는 수학적으로 컴파일된 아이디어만 볼 수 있습니다.

기업 격차: 은행이 챗봇을 싫어하는 이유

Neurosymbolic AI로의 전환은 기업의 “Agentic Era”를 위한 전제 조건입니다.

현재 기업 채택은 ‘신뢰 격차’로 인해 지연되고 있습니다. 어떤 CFO도 적절한 양의 철강을 주문하는 아마도 자율적인 공급망 대리인을 승인하지 않을 것입니다. 재고 데이터베이스에서 파생된 금액을 증명적으로 주문하는 에이전트가 필요합니다.

Neurosymbolic 시스템은 비즈니스에 세 가지 중요한 업그레이드를 제공합니다.

1. 검증 가능성: 논리가 기호 계층에서 발생하기 때문에 감사자는 “사고 과정”을 검사할 수 있습니다. 대출을 거부하거나 거래를 승인하기 위해 어떤 규칙이 적용되었는지 정확하게 확인할 수 있습니다.
2. 데이터 효율성: 신경망은 이를 “학습”하기 위해 수백만 개의 추가 사례를 확인해야 합니다. 기호 시스템에는 덧셈의 법칙이 한 번만 필요합니다. 이는 전문적인 도메인 작업에 대한 데이터 요구 사항을 대폭 줄여줍니다.
3. 일반화: 신경망은 “배포되지 않은” 데이터(예: 훈련에서 본 것보다 더 큰 숫자)로 인해 어려움을 겪습니다. 기호 논리 규칙은 x=1 및 x=1,000,000,000에 대해 동일한 정밀도로 작동합니다.

하이브리드 AI의 스펙트럼

이는 바이너리 스위치가 아니라는 점에 유의하는 것이 중요합니다. 연구자들은 신경기호 통합의 스펙트럼을 식별합니다.

• 유형 1(표준): 기호적 후처리가 포함된 신경망(예: ChatGPT가 수학 문제를 풀기 위해 Python 코드를 작성함)
• 유형 2(심층): 훈련 중에 신경망의 손실 함수에 기호 규칙이 포함됩니다. 텍스트가 유창해 보이더라도 논리를 위반하면 모델이 “벌칙”을 받습니다.
• 유형 3(완전 통합): 두 구성 요소가 긴밀한 반복 루프에서 작동하여 해당 부분의 합보다 더 큰 “추론 엔진”을 생성하는 AlphaGeometry와 같은 시스템입니다.

앞으로 나아갈 길

“순수 LLM”의 시대가 다가오고 있습니다. 차세대 프론티어 모델(GPT-5, Gemini 3)은 채팅 인터페이스 뒤에 상징적 해결사를 숨기는 신경기호적 모델이 될 가능성이 높습니다.

AI의 “마법”이 사라지고 있으며 이는 긍정적인 발전입니다. 업계에서는 엔지니어링 수준 도구의 신뢰성을 위해 시 쓰기 챗봇의 마법을 교환하고 있습니다. 파티에서는 덜 흥미롭지만 문명을 위해서는 훨씬 더 가치가 있습니다.

업계는 마침내 디지털 두뇌에 전두엽 피질을 제공하고 있습니다.