증명 소화불량에서 데모 소화불량으로

테렌스 타오의 ‘AI 시대의 수학’을 로봇공학과 Physical AI의 언어로 다시 읽기

Jul 26, 2026

테렌스 타오가 2026년 세계수학자대회 공개강연에서 제기한 질문은 겉으로는 수학계 내부의 문제처럼 보인다. 인공지능이 연구 수준의 증명을 생성하고, 형식화하고, 검증할 수 있게 될 때 수학 공동체는 어떻게 대응해야 하는가. 그러나 그의 논증에서 ‘증명’을 ‘논문’, ‘실험’, ‘모델’, ‘설계안’, ‘로봇 정책’으로 바꾸면 질문은 거의 모든 학문에 적용된다. 특히 로봇공학과 Physical AI에서는 이 문제가 수학보다 더 복잡하고 더 긴급하다. 수학의 증명은 적어도 원칙적으로 참과 거짓을 엄밀하게 분리할 수 있지만, 현실 세계에서 움직이는 기계의 행동에는 완전한 검증기가 없기 때문이다.

타오의 핵심 문제의식은 AI가 얼마나 똑똑한가에 있지 않다. 그는 논의를 위해 AI가 가까운 미래에 상당한 비율의 연구 과제를 합리적인 비용과 인간의 감독 아래 수행할 수 있다고 가정한다. 이 조건부 가정 뒤에 나타나는 진짜 질문은 “AI가 연구를 할 수 있는가?”가 아니라 “그렇다면 우리는 무엇을 연구의 진보라고 부를 것인가?”이다. AI가 어떤 산출물의 생성 비용을 급격히 낮추면, 과거에 그 산출물이 대리하던 여러 가치가 서로 분리된다. 맞는 결과, 이해되는 결과, 중요한 결과, 재현되는 결과, 안전하게 쓰이는 결과가 더는 자동으로 같은 것이 아니다.

이 글은 타오의 〈Mathematics in the Age of AI〉를 로봇공학자와 Physical AI 연구자의 관점에서 옮겨 읽는다. 목적은 그의 주장을 단순히 다른 분야에 비유하는 것이 아니다. 수학과 물리적 지능 사이의 결정적인 차이, 즉 형식적으로 닫힌 검증 세계와 물리적으로 열린 검증 세계의 차이를 드러내고, AI 시대에 공학자가 무엇을 연구 성과로 간주해야 하는지 묻는 데 있다.

1. 이 문제는 모든 학자에게 해당되는가

짧게 답하면 그렇다. 다만 분야마다 나타나는 형태와 위험의 강도가 다르다.

전통적으로 학자의 일은 새로운 산출물을 만드는 일과 그 산출물을 공동 지식으로 바꾸는 일을 동시에 포함했다. 가설을 세우고, 증명하거나 실험하고, 결과를 설명하고, 동료의 검토를 받고, 기존 이론과 연결하고, 후속 연구자가 사용할 수 있는 형태로 정착시키는 일이다. 이 과정은 매우 느렸기 때문에 각 단계가 대체로 한 사람이나 한 연구팀의 작업 안에서 함께 진행됐다. 어려운 결과를 생산하려면 그 결과를 상당히 깊이 이해해야 했고, 이해하려면 선행 연구와 실험 조건을 검토해야 했다. 생성의 어려움 자체가 검증과 이해를 어느 정도 강제했다.

생성형 AI는 이 결합을 해체한다. 논문 초안, 코드, 실험 설계, 문헌 요약, 데이터 해석, 수식 전개, 그래프, 심지어 새로운 가설까지 빠르게 만들 수 있다. 그러나 생성 속도가 빨라졌다는 사실이 검증, 설명, 중요성 판단, 재현, 교육, 이론적 통합의 속도도 같은 비율로 빨라졌다는 뜻은 아니다. 오히려 공동체가 읽고 확인하고 흡수할 수 있는 속도는 거의 그대로인 채 검토해야 할 후보만 폭증할 수 있다.

따라서 타오의 문제는 “AI가 수학을 침범한다”는 특수한 사건이 아니다. AI가 학문적 산출물의 공급을 공동체의 판단 능력보다 빠르게 늘리는 모든 분야에서 발생하는 구조적 문제다. 이론물리학에서는 계산과 가설의 과잉, 생명과학에서는 후보 물질과 분석의 과잉, 사회과학에서는 그럴듯한 설명과 상관관계의 과잉, 컴퓨터과학에서는 벤치마크 개선과 논문 구현의 과잉으로 나타날 수 있다. 로봇공학에서는 이것이 정책, 시뮬레이션, 벤치마크 점수, 성공 영상, 합성 데이터의 과잉으로 나타난다.

2. 수학의 ‘증명 파이프라인’을 Physical AI로 옮기면

타오는 미해결 문제가 수학 공동체의 지식으로 정착하는 과정을 대략 다음과 같이 확장한다.

문제 → 증명 생성 → 정확성 검증 → 읽을 수 있는 설명 → 출판과 공동체 수용 → 기존 이론 속 소화 → 표준 지식으로 정착

Physical AI에서 이에 대응하는 파이프라인은 다음처럼 그릴 수 있다.

과업과 환경 정의
→ 데이터·모델·정책 생성
→ 시뮬레이션 및 제한된 실험 평가
→ 실제 하드웨어에서의 반복 검증
→ 실패 조건과 작동 원리의 설명
→ 독립 연구팀의 재현
→ 안전성·유지보수성·책임 구조의 검토
→ 현장 배치와 장기 모니터링
→ 표준, 설계 원칙, 교육 내용으로 정착

두 파이프라인은 닮았지만 중요한 차이가 있다. 수학에서는 형식화가 충분히 잘 되어 있다면 증명의 문법적·논리적 정확성을 기계적으로 확인할 수 있다. 물론 그 증명이 왜 중요한지, 어떤 통찰을 담고 있는지, 좋은 수학인지는 별개의 문제지만 최소한 참과 거짓의 한 축에는 강력한 검증기가 존재한다.

로봇에게는 그런 검증기가 없다. “컵을 집어 식기세척기에 넣는다”는 과업조차 컵의 재질, 조명, 마찰, 가림, 사람의 접근, 센서 오염, 그리퍼 마모, 네트워크 지연, 제어 주기, 주변의 깨지기 쉬운 물체에 따라 의미가 바뀐다. 성공 여부도 이항적이지 않다. 컵을 옮겼지만 표면에 흠집을 냈을 수 있고, 과업은 완료했지만 사람의 팔 가까이 위험한 궤적을 지났을 수 있다. 열 번 중 아홉 번 성공한 정책이 실패하는 한 번에 어떤 에너지를 전달하는지도 중요하다.

그래서 Physical AI의 ‘검증’은 사실 세 가지를 포함해야 한다.

첫째는 verification, 즉 우리가 의도한 시스템을 올바르게 구현했는가이다. 코드, 통신, 제어기, 안전 인터록, 센서 처리, 모델 버전이 명세와 일치하는지를 확인한다.

둘째는 validation, 즉 그 명세 자체가 현실의 목적과 위험을 충분히 반영하는가이다. 벤치마크의 성공 정의가 사용자가 원하는 행동과 같은지, 시험 환경이 실제 배치 환경을 대표하는지 묻는다.

셋째는 continuous assurance, 즉 배치 이후에도 시스템이 변화하는 환경과 하드웨어 상태에서 허용 가능한 위험 안에 머무는지 지속적으로 확인하는 일이다.

NIST의 AI 위험관리 프레임워크가 거버넌스, 맥락화, 측정, 관리라는 전 생애주기 관점을 강조하는 이유도 여기에 있다. 신뢰성은 마지막 평가표에 추가하는 항목이 아니라 설계, 개발, 배치, 사용, 모니터링 전반에서 다뤄야 하는 속성이다. 로봇에서는 이 원칙이 특히 문자 그대로 물리적 의미를 갖는다. 모델의 오류가 텍스트 한 줄로 끝나지 않고 힘, 속도, 열, 충돌, 재산 손실, 노동환경의 변화로 변환되기 때문이다.

3. 증명 소화불량이 로봇공학에서는 ‘데모 소화불량’이 된다

타오는 AI가 증명 생성을 가속하면 수학이 ‘증명 희소성’에서 ‘증명 풍요’의 시대로 이동하고, 검증과 설명과 수용이 이를 따라가지 못해 proof indigestion, 즉 증명 소화불량이 생긴다고 말한다.

로봇공학에서는 이미 비슷한 현상을 볼 수 있다. 논문과 기업 발표에는 수많은 성공 영상이 등장한다. 로봇은 셔츠를 개고, 식탁을 정리하고, 처음 보는 물체를 집고, 자연어 지시를 행동으로 바꾼다. RT-2는 웹 규모의 시각·언어 사전학습과 로봇 데이터를 결합해 VLA 모델이 새로운 물체와 지시로 일반화할 수 있음을 보였고, Physical Intelligence의 π0는 여러 로봇과 조작 과제를 아우르는 범용 정책의 가능성을 제시했다. 이 연구들은 분명 의미 있는 기술적 진전이다.

하지만 연구팀이 공개한 성공 사례와 시스템이 실제로 신뢰할 수 있다는 명제 사이에는 큰 간격이 있다. 영상에 포함되지 않은 실패 시행은 몇 개인가. 실패의 분포는 우연한가, 특정 물체·조명·초기 자세에 집중되는가. 성공률의 분모는 무엇인가. 사람은 언제 개입했는가. 하드웨어 보호를 위한 제한은 무엇이었는가. 모델이 아니라 고정된 주변 장치나 과업 설계가 어느 정도 기여했는가. 동일한 정책을 다른 연구실의 다른 로봇에서 실행하면 결과가 유지되는가. 성공하더라도 시간, 에너지, 마모, 충격량, 복구 가능성은 허용 가능한가.

이 질문에 답하지 못한 채 성공 영상과 평균 성공률만 늘어나면 우리는 ‘데모 풍요’ 속의 ‘지식 빈곤’을 겪게 된다. 이것이 demo indigestion, 데모 소화불량이다.

최근 실제 로봇 평가 인프라를 구축하려는 RoboChallenge나 ManipulationNet 같은 시도는 바로 이 병목을 겨냥한다. 이 연구들이 강조하듯 실제 하드웨어 평가에는 확장성과 재현성을 동시에 확보하기 어렵다는 근본 문제가 있다. 시뮬레이션은 반복 가능하고 싸지만 현실을 완전히 대표하지 못한다. 실제 실험은 더 진실에 가깝지만 장비, 캘리브레이션, 운영자의 숙련, 소모품, 공간에 따라 결과가 달라진다. 따라서 Physical AI의 진보는 단순한 모델 성능 경쟁뿐 아니라 평가를 공동 인프라로 만드는 능력에 달려 있다.

수학에서 AI가 만들어 낸 증명을 읽고 검증하는 사람이 부족해진다면, 로봇공학에서는 AI가 만들어 낸 정책을 다양한 하드웨어와 환경에서 충분히 오래 시험하고 실패를 분석할 사람이 부족해진다. 모델은 몇 시간 안에 업데이트되지만 실제 하드웨어 실험은 며칠이 걸리고, 장기 신뢰성은 몇 달이나 몇 년을 요구한다. 생성과 검증 사이의 속도 차이는 수학보다 오히려 더 크다.

4. Goodhart의 법칙: 벤치마크가 목적함수를 대신할 때

타오의 강연에서 가장 넓게 적용되는 개념은 Goodhart의 법칙이다.

측정 지표가 목표가 되는 순간, 그 지표는 더 이상 좋은 측정값이 아니다.

벤치마크는 연구 공동체에 공통의 언어를 제공한다. 같은 데이터와 과업에서 성능을 비교하게 하고, 무엇이 개선됐는지 빠르게 판단하게 한다. 문제는 측정 가능한 것이 중요한 것을 대표한다는 사실과, 측정 가능한 것 자체가 중요하다는 판단을 혼동할 때 발생한다.

Physical AI의 진짜 목적은 특정 테이블 위에서 물체를 몇 번 성공적으로 옮기는 것이 아니다. 인간과 공유하는 비정형 환경에서 유용하고 안전하고 예측 가능하게 행동하며, 실패해도 복구할 수 있고, 운영자가 한계를 이해할 수 있는 시스템을 만드는 것이다. 그러나 이 목적 전체를 하나의 숫자로 측정하기는 어렵다. 연구는 자연히 성공률, 완료 시간, 보지 못한 물체에 대한 일반화, 시뮬레이션 에피소드 수처럼 측정하기 쉬운 대리 지표로 이동한다.

AI가 연구 과정에 깊이 들어오면 이 대리 지표는 훨씬 빠르게 최적화된다. 에이전트는 수많은 정책 변형을 만들고, 시뮬레이터에서 대규모 탐색을 하고, 벤치마크에 가장 잘 맞는 데이터 조합을 찾을 수 있다. 생성형 월드 모델은 드물고 위험한 장면을 합성해 데이터 규모를 키울 수도 있다. 이는 강력한 도구다. 동시에 시뮬레이터, 자동 평가기, 합성 데이터 생성기가 공유하는 맹점을 정책이 학습할 가능성도 커진다. 평가기가 보지 못하는 오류는 최적화 과정에서 사실상 존재하지 않는 것으로 취급된다.

특히 위험한 구조는 생성기와 평가기가 같은 세계관을 공유할 때다. 같은 계열의 비전 모델이 합성 데이터의 물리적 타당성을 평가하고, 같은 시뮬레이터가 정책을 훈련하고 시험하며, 같은 조직이 벤치마크를 설계하고 최고 성능을 주장한다면 숫자는 일관될 수 있지만 현실과의 접지는 약할 수 있다. 이것은 연구 부정행위를 의미하지 않는다. 최적화 시스템이 본질적으로 평가기의 사각지대를 찾아간다는 뜻이다.

따라서 Physical AI 연구자는 “점수가 얼마나 올랐는가?”와 함께 다음을 물어야 한다.

  • 이 지표가 실제 사용 가치와 어떤 인과적 관계를 갖는가.
  • 평가 분포는 누가 정의했고 무엇을 제외했는가.
  • 성공률이 올라갈 때 실패의 심각도는 어떻게 변했는가.
  • 평균 성능 뒤에 숨은 최악 조건과 집단별 차이는 무엇인가.
  • 모델이 평가 프로토콜을 간접적으로 학습했을 가능성은 없는가.
  • 시뮬레이션 성능과 실제 성능의 차이가 어떤 조건에서 커지는가.
  • 독립된 센서, 규칙 기반 안전기, 인간 평가자가 같은 결론을 내리는가.

좋은 벤치마크는 최종 목적이 아니라 공동체가 현실을 더 잘 질문하게 하는 임시 도구다. 점수가 현실의 대리물이라는 사실을 잊지 않는 것이 학자의 역할이다.

5. ‘너무 매끈한 증명’과 ‘너무 매끈한 로봇 데모’

타오는 AI가 다듬은 수학 글이 지나치게 매끈할 수 있다고 지적한다. 인간이 증명을 쓰면 저자가 어려움을 겪은 부분에 자연스러운 마찰이 남는다. 독자는 그 마찰을 만나 속도를 늦추고 핵심 아이디어에 주의를 기울인다. 그러나 AI는 사소한 부분과 결정적인 도약을 모두 같은 유창한 톤으로 표현할 수 있다. 문장은 쉬워졌지만 어디가 어려운지는 오히려 보이지 않게 된다.

로봇 데모에도 같은 문제가 있다. 완성도 높은 영상에서는 성공한 궤적만 남고, 캘리브레이션에 걸린 시간, 작업 공간을 정리한 방식, 물체를 고른 기준, 안전요원의 개입, 실패 후 재설정 과정이 사라진다. 최종 정책은 자연스럽게 움직이지만 그 자연스러움이 어떤 제약과 사전 작업 위에 세워졌는지 알기 어렵다.

그러나 공학적 지식의 상당 부분은 바로 그 마찰 속에 있다.

  • 어떤 센서가 햇빛에서 포화됐는가.
  • 어떤 관절이 열 누적으로 토크 제한에 걸렸는가.
  • 어떤 재질에서 그리퍼의 마찰 모델이 틀렸는가.
  • 어떤 지연이 폐루프 제어를 불안정하게 만들었는가.
  • 어떤 실패가 데이터 추가로 해결됐고, 어떤 실패가 구조 변경을 요구했는가.
  • 어떤 예외 처리가 모델의 능력처럼 보이게 했는가.

이것들은 논문의 서사를 방해하는 잡음이 아니라 시스템의 적용 경계를 설명하는 핵심 지식이다. Physical AI의 좋은 논문과 좋은 데모는 성공을 가장 아름답게 보여주는 자료가 아니라 성공이 어떤 조건에서 깨지는지를 가장 정직하게 보여주는 자료여야 한다.

AI 시대에는 연구자가 시행착오를 제거하는 사람이 아니라 시행착오를 해석 가능한 지식으로 바꾸는 사람이 되어야 한다. 실패 영상을 공개하고, 실패 분류체계를 만들고, 모델·데이터·하드웨어·운영 절차 중 어디에서 문제가 생겼는지 분리하고, 재현 가능한 최소 실패 사례를 남기는 일이 논문의 부록이 아니라 중심 결과가 될 필요가 있다.

6. 로봇공학자의 일은 모델 생성에서 ‘근거의 설계’로 이동한다

AI가 코드와 모델과 실험 후보를 더 많이 만들어 낸다고 해서 로봇공학자의 일이 사라지는 것은 아니다. 다만 가치의 중심이 이동한다.

6.1 과업을 푸는 일에서 과업을 정의하는 일로

“빨간 컵을 집어라”는 지시는 명확해 보이지만 실제 배치에서는 그렇지 않다. 컵 안에 뜨거운 액체가 있는가, 사람이 들고 있는가, 깨지기 쉬운가, 다른 물체를 넘어가도 되는가, 실패하면 멈춰야 하는가 다시 시도해야 하는가. 모델이 좋아질수록 애매한 요구를 그럴듯하게 수행할 수 있기 때문에, 과업 정의의 빈틈이 오히려 더 위험해진다.

학자의 역할은 모델에게 명령을 잘 쓰는 것만이 아니라 목적, 제약, 금지 조건, 실패 비용, 관찰할 수 없는 변수를 명시하는 것이다. 무엇을 최적화하지 말아야 하는지를 정하는 일도 포함된다.

6.2 모델을 평가하는 일에서 평가 체계를 설계하는 일로

단일 성공률은 시스템의 능력을 충분히 설명하지 못한다. 연구자는 분포 이동, 장기 과업, 사람과의 상호작용, 센서 결함, 하드웨어 열화, 통신 지연, 악의적 또는 모호한 지시를 포함하는 평가 체계를 설계해야 한다. 위험도가 높은 시스템이라면 평균 성능보다 위험한 실패의 상한, 안전 상태로의 전환, 인간 개입의 가능성이 더 중요할 수 있다.

평가 체계는 모델과 독립적이어야 한다. 가능한 경우 다른 센서, 다른 시뮬레이터, 다른 평가 모델, 인간 전문가, 규칙 기반 검사기를 조합해 서로의 오류를 교차 점검해야 한다.

6.3 성공을 보고하는 일에서 적용 경계를 설명하는 일로

“우리 모델은 일반화한다”는 문장은 충분하지 않다. 무엇에 대해, 어떤 거리만큼, 어떤 실패율과 비용으로 일반화하는지를 말해야 한다. 보지 못한 물체, 배경, 환경, 과업, 로봇 형태는 서로 다른 종류의 일반화다. 한 축의 성공을 범용 지능의 증거로 확대해서는 안 된다.

연구자가 제공해야 할 것은 성능 주장만이 아니라 운영 가능 영역과 금지 영역의 지도다. 모델 카드보다 더 구체적인 시스템 카드, 데이터 출처와 제외 기준, 하드웨어 명세, 제어 주기, 안전 제한, 인간 개입 규칙, 실패 로그가 필요하다.

6.4 새 모델을 만드는 일에서 공동 인프라를 만드는 일로

타오는 수학에서 검토, 해설, 교재화 같은 ‘증명 소화’ 작업의 위상을 높여야 한다고 주장한다. 로봇공학에서도 평가 장비, 표준화된 과업, 원격 실험실, 실패 데이터베이스, 하드웨어 추상화 계층, 재현 가능한 시뮬레이션 장면, 안전 시험 절차를 만드는 일은 새 모델을 발표하는 일만큼 중요하다.

이 인프라는 화려한 단일 결과를 만들지 않을 수 있다. 하지만 서로 다른 연구팀의 주장을 비교 가능하게 하고, 개별 데모를 누적 가능한 지식으로 전환한다. AI가 모델 생성을 싸게 만들수록 이런 인프라의 희소성과 가치는 더 커진다.

6.5 저자 책임에서 생애주기 책임으로

수학에서는 저자가 증명의 정확성과 인용에 책임을 진다. Physical AI에서는 책임의 범위가 더 넓다. 데이터 수집자, 모델 개발자, 하드웨어 설계자, 시스템 통합자, 현장 운영자, 구매자와 관리자까지 연결된다. 어떤 실패는 모델의 오류이고, 어떤 실패는 잘못된 위험 가정이나 부적절한 배치 결정의 결과다.

따라서 “AI가 결정했다”는 말은 책임의 설명이 될 수 없다. 누가 과업을 정의했고, 누가 배치를 승인했고, 어떤 근거로 위험을 수용했고, 누가 사고를 중지시킬 권한을 갖는지가 문서화돼야 한다. AI 사용 공개는 시작일 뿐이고, 실제로 필요한 것은 의사결정과 책임의 추적 가능성이다.

7. Physical AI 연구 결과가 ‘소화됐다’고 말하려면

타오의 기준에 따르면 저자가 자신의 결과를 정확한 귀속과 함께 전문가 수준으로 설명하고 질문에 답할 수 없다면 그 결과는 아직 출판 준비가 끝난 것이 아니다. Physical AI에서는 이 기준을 다음처럼 확장할 수 있다.

연구팀은 최소한 다음 질문에 답할 수 있어야 한다.

과업과 의미

  • 시스템이 해결한다고 주장하는 실제 문제는 무엇인가.
  • 벤치마크 과업은 그 실제 문제를 어떻게 대표하는가.
  • 성공과 실패의 정의는 누구의 관점에서 만들어졌는가.

데이터와 학습

  • 데이터는 어떤 환경, 로봇, 작업자에게서 수집됐는가.
  • 무엇이 빠져 있고 어떤 편향이 예상되는가.
  • 웹 사전학습의 의미 지식과 실제 로봇 경험이 각각 무엇에 기여했는가.
  • 합성 데이터가 현실의 어떤 측면을 보존하고 어떤 측면을 왜곡하는가.

평가와 재현

  • 전체 시행 수, 실패 사례, 중도 개입, 제외 기준은 무엇인가.
  • 모델 선택과 평가에 같은 데이터 또는 같은 환경이 누출되지 않았는가.
  • 다른 하드웨어, 장소, 운영자에서도 결과가 유지되는가.
  • 평균값뿐 아니라 분산, 최악 조건, 실패 심각도를 공개했는가.

설명과 인과

  • 성능 향상이 모델 구조, 데이터 규모, 하드웨어, 과업 설계 중 무엇에서 왔는가.
  • 주요 절제 실험이 이 설명을 지지하는가.
  • 시스템의 실패 경계를 연구팀이 예측할 수 있는가.

안전과 운영

  • 위험 분석은 어떤 사용자와 환경을 포함하는가.
  • 감지되지 않은 실패가 발생했을 때 안전 상태로 전환되는가.
  • 인간 개입의 권한과 시간 여유가 있는가.
  • 하드웨어 마모와 환경 변화 이후에도 성능을 어떻게 감시하는가.
  • 사고와 근접사고를 기록하고 공유하는 절차가 있는가.

공동체적 가치

  • 이 결과는 후속 연구자가 무엇을 더 잘 이해하게 하는가.
  • 특정 제품의 성능 외에 일반화 가능한 설계 원칙이 남는가.
  • 기존 연구의 인간 노동과 아이디어를 정확히 귀속했는가.
  • 재현, 데이터 정리, 평가 인프라를 담당한 사람에게 적절한 공로가 돌아가는가.

이 질문들은 논문 작성용 체크리스트에 그치지 않는다. 무엇을 좋은 연구로 평가하고, 누구를 채용하고, 어떤 프로젝트에 자금을 주고, 무엇을 교육할 것인지에 관한 기준이다.

8. AI 시대에 학자의 비교우위는 ‘인간다움’만이 아니다

AI 시대의 인간 역할을 창의성, 공감, 직관 같은 말로만 설명하면 논의가 쉽게 낭만화된다. 로봇공학자의 비교우위는 단지 기계가 아직 갖지 못한 신비로운 인간성에 있지 않다. 더 구체적으로는 현실에 대해 책임지는 위치에 있다.

학자는 어떤 문제가 중요한지 선택한다. 측정값이 무엇을 놓치는지 의심한다. 장비가 내는 이상한 소리를 듣고 로그에 없는 고장을 발견한다. 성공 영상 뒤에 감춰진 준비 작업을 안다. 모델의 평균 성능이 좋아도 특정 실패를 받아들일 수 없다고 판단한다. 결과가 맞는 것과 사회적으로 배치해도 되는 것을 구분한다. 그리고 자신의 이름으로 다른 사람에게 설명하고 반론을 받는다.

이러한 역할 가운데 일부는 AI로 보조할 수 있고, 장기적으로는 더 많이 자동화될 것이다. 그러나 타오의 논점은 인간만이 영원히 할 수 있는 일을 찾아 직업을 방어하자는 것이 아니다. 학문의 목적을 산출물 생산량으로 축소하지 말자는 것이다. 로봇공학의 목적은 정책 파일의 수나 벤치마크 최고점의 수가 아니다. 물리적 세계를 더 잘 이해하고, 그 이해를 바탕으로 유용하며 신뢰할 수 있는 시스템을 만들고, 그 과정에서 얻은 지식을 공동체가 비판하고 계승할 수 있게 하는 것이다.

AI가 연구자의 손에서 더 많은 코드를 쓰고 더 많은 정책을 탐색하더라도, 무엇을 주장할 수 있는지 결정하고 그 주장에 필요한 근거를 설계하는 일은 남는다. 오히려 자동 생성이 늘수록 이 역할은 더 중요해진다.

9. 연구 문화는 무엇을 보상해야 하는가

Physical AI가 ‘데모 소화불량’을 피하려면 연구 문화의 보상 구조가 달라져야 한다.

첫째, 새로운 모델을 가장 먼저 만든 사람뿐 아니라 독립적으로 재현하고 반증한 사람을 인정해야 한다. 재현 실패는 원 논문을 공격하는 행위가 아니라 적용 경계를 공동으로 측정하는 연구다.

둘째, 성공 데이터만큼 실패 데이터와 근접사고 데이터를 가치 있게 다뤄야 한다. 물리적 시스템의 안전은 드문 실패의 구조를 이해하는 데서 발전한다.

셋째, 논문 심사에서 최고 성능만 보지 말고 평가의 독립성, 실패 분석, 하드웨어 조건, 인간 개입, 재현 가능성을 핵심 기여로 평가해야 한다.

넷째, 공동 벤치마크와 원격 하드웨어 평가, 표준 과업, 데이터 문서화, 안전 시험 도구를 만드는 연구자에게 충분한 공로와 장기 자금을 제공해야 한다.

다섯째, 연구실 교육에서 모델 사용법뿐 아니라 시스템 식별, 제어, 계측, 안전, 인간공학, 실험 설계, 통계, 연구윤리를 함께 가르쳐야 한다. Physical AI는 언어 모델 위에 액추에이터를 붙이는 분야가 아니다. 현실의 에너지와 불확실성을 다루는 공학이다.

여섯째, 산업과 학계가 성능 발표의 시간표와 공동체 검증의 시간표를 구분해야 한다. 제품 발표나 성공 영상은 연구 공동체의 독립 검토를 대신할 수 없다. 기업의 1차 자료는 기술의 방향과 자체 실험을 이해하는 데 유용하지만, 독립 검증 이전에는 보편적 성능의 증거로 과도하게 일반화해서는 안 된다.

10. 결론: Physical AI의 최종 산출물은 행동이 아니라 신뢰 가능한 관계다

타오의 수학 강연을 로봇공학의 언어로 옮기면 다음과 같은 명제가 된다.

Physical AI의 최종 산출물은 어떤 시험에서 성공한 행동 궤적이 아니다.
그 행동이 왜 가능했고, 언제 실패하며, 어떤 위험 안에서 사용할 수 있는지를
공동체가 이해하고 검증하고 책임질 수 있게 된 상태다.

수학에서 맞는 증명과 이해된 수학이 다르듯, 로봇공학에서 성공한 데모와 신뢰할 수 있는 시스템은 다르다. 수학에서 증명이 교과서와 이론 속에 흡수돼야 하듯, 로봇의 성능도 독립 실험, 안전 근거, 운영 절차, 표준, 교육을 통해 공동 지식으로 흡수돼야 한다.

AI는 생성의 병목을 빠르게 무너뜨린다. 연구 아이디어, 코드, 시뮬레이션 장면, 합성 데이터, 정책 후보를 대량으로 만든다. 이 변화는 거대한 기회다. 그와 동시에 무엇을 믿을지 결정하는 비용, 실패를 이해하는 비용, 현실에 배치한 뒤 책임지는 비용을 더 선명하게 드러낸다.

따라서 AI 시대의 로봇공학자가 해야 할 일은 AI보다 더 많은 결과를 생산하려고 경쟁하는 것이 아니다. 생성의 속도를 공동체의 이해와 현실의 안전으로 변환하는 새로운 파이프라인을 만드는 것이다. 모델 성능을 지식으로, 데모를 근거로, 실패를 설계 원칙으로, 개별 시스템을 공동 인프라로 바꾸는 일이다.

AI가 행동을 더 쉽게 생성할수록, 어떤 행동을 믿어도 되는지 설명하는 학문은 더 중요해진다.

그것이 테렌스 타오의 문제제기가 수학자를 넘어 모든 학자에게, 그리고 특히 Physical AI 연구자에게 던지는 메시지다.

참고 자료

AI Mathematics Physical AI Robotics Research