모두가 AI를 배워야 하지만, 모두가 AI를 전공할 필요는 없다

Sun, 26 Jul 2026 00:00:00 +0000

요즘 ‘하네스 엔지니어링’이라는 말을 처음 들으면 새로운 공학 분야가 등장한 것처럼 느껴진다. 거대한 언어모델을 에이전트로 만들고, 여러 도구를 연결하며, 장기 작업을 수행하게 하는 기술이라고 설명하면 더더욱 그렇다. 그러나 실제 내용을 뜯어보면 낯익은 것들이 대부분이다. 리포지터리의 구조를 설계하고, 테스트와 CI를 구성하며, 서비스의 상태를 관측하고, 실패를 재현하고, 권한을 통제하고, 문서를 최신 상태로 유지하며, 시스템이 기대한 방식으로 작동하는지를 평가한다. 전통적인 소프트웨어 엔지니어링, 플랫폼 엔지니어링, 시스템 엔지니어링이 오랫동안 해오던 일이다.

그렇다면 하네스 엔지니어링은 단지 오래된 시스템 엔지니어링을 새 이름으로 포장한 것일까. 절반은 맞고 절반은 틀리다. 하네스 엔지니어링의 대부분은 전통적인 시스템 엔지니어링의 연장선에 있지만, 결정적인 차이가 하나 있다. 시스템의 중심에 더 이상 완전히 결정론적인 프로그램만 존재하지 않는다는 점이다. 같은 입력에도 다른 출력을 낼 수 있고, 지시를 오해할 수 있으며, 도구를 잘못 선택하고, 장기 작업 도중 목표를 잃어버릴 수 있는 확률적 구성요소가 시스템의 한가운데 들어왔다. 따라서 기존의 테스트, 모니터링, 보안, 인터페이스 설계에 더해 평가 데이터셋, 판단 기준표, 실패 시나리오, 모델·프롬프트·도구의 버전 관리, 출력의 통계적 변동성까지 다루어야 한다.

하네스 엔지니어링은 결국 다음과 같이 정의할 수 있다.

확률적이고 부분적으로 자율적인 AI 구성요소를, 신뢰할 수 있는 전체 시스템의 일부로 만드는 시스템 엔지니어링

이 정의는 단순한 직무 설명을 넘어선다. 지금 AI 산업이 어느 단계로 넘어가고 있는지를 보여주기 때문이다.

모델을 만드는 병목과 가치를 만드는 병목

최근까지 AI의 발전을 설명하는 가장 쉬운 방식은 모델 성능의 향상이었다. 더 큰 데이터, 더 많은 연산량, 더 나은 학습 방법, 더 강한 추론 능력이 경쟁의 중심이었다. 그러나 모델이 일정 수준 이상의 범용 능력을 갖게 되면서, 모델 성능과 실제 제품 가치 사이에 거대한 간극이 드러나기 시작했다.

현실에서 AI 제품의 가치는 대략 다음과 같은 곱셈으로 생각할 수 있다.

$$ \text{Real-world Value} \approx \text{Model Capability} \times \text{Harness Reliability} \times \text{Evaluation Quality} \times \text{Domain Fit} \times \text{Deployment Economics} $$

모델의 원초적 능력이 뛰어나도 이를 둘러싼 시스템이 불안정하면 제품이 되지 않는다. 평가가 잘못되어 있으면 실제로 성능이 좋아졌는지 알 수 없다. 도메인 적합성이 없으면 높은 benchmark score가 사용자 가치로 이어지지 않는다. 추론 비용과 지연시간이 감당되지 않으면 상용화할 수 없다. 보안과 권한 통제가 부실하면 자율성이 높아질수록 오히려 위험해진다.

이 식이 중요한 이유는 각 요소가 더하기가 아니라 곱하기에 가깝기 때문이다. 어느 하나가 0에 가까우면 전체 가치도 0에 가까워진다. 모델 성능이 20% 좋아지는 것보다 배포 실패율을 절반으로 줄이는 것이 훨씬 큰 가치를 만들 수도 있다. 반대로 훌륭한 시스템을 갖추어도 모델이 해결하려는 문제를 이해하지 못한다면 가치가 나오지 않는다.

OpenAI가 공개한 하네스 엔지니어링 사례에서도 인간 엔지니어의 역할은 코드를 직접 작성하는 일보다 환경을 설계하고, 의도를 명세하며, 에이전트가 스스로 오류를 발견하고 수정할 수 있는 피드백 루프를 만드는 쪽으로 이동했다. 해당 실험에서는 애플리케이션 코드뿐 아니라 테스트, CI, 문서, 관측 도구와 내부 개발 도구까지 에이전트가 작성했다. 핵심은 코드 생성 능력 자체보다, 에이전트가 일관된 방향으로 일할 수 있게 만드는 리포지터리 구조와 검증 체계였다. (OpenAI)

이것은 AI 연구의 시대가 끝나고 전통적인 CS와 EE가 다시 중요해졌다는 뜻은 아니다. 더 정확하게 말하면 두 개의 프런티어가 분리되고 있다.

첫 번째는 지능의 원리를 개선하는 과학적 프런티어다. 새로운 학습 방법, 모델 구조, 추론 방법, 데이터 전략, 최적화 기법을 만드는 영역이다.

두 번째는 이미 존재하는 모델의 잠재 능력을 현실에서 안정적으로 끌어내는 시스템 프런티어다. 하네스, 평가, 관측, 데이터 파이프라인, 추론 시스템, 보안, 사용자 인터페이스, 도메인 통합이 여기에 속한다.

첫 번째 프런티어가 사라진 것이 아니라 극도로 집중되고 있다. Stanford AI Index에 따르면 2025년에 주목할 만한 AI 모델의 90% 이상이 산업계에서 만들어졌다. 모델 연구가 덜 중요해진 것이 아니라, 막대한 연산 자원과 데이터, 연구엔지니어링 조직을 가진 소수 기업으로 중심이 이동한 것이다. (Stanford HAI)

따라서 현재의 변화는 “AI 발전이 끝나고 시스템 통합의 시대가 왔다”가 아니다.

모델 능력의 발전은 소수 프런티어 조직으로 집중되고, 그 능력을 실제 가치로 전환하는 작업은 산업 전체로 확산되는 시대가 왔다.

이 구분은 국가가 어떤 인재를 얼마나 양성해야 하는지를 판단할 때 결정적으로 중요하다.

‘AI 인재’라는 하나의 이름 아래 서로 다른 사람들이 섞여 있다

한국의 많은 인재정책은 ‘AI 인재 몇만 명 양성’이라는 총량으로 표현된다. 그러나 AI 인재라는 말은 서로 완전히 다른 역할을 하나로 묶고 있다.

첫 번째는 프런티어 AI 연구자다. 이들은 새로운 모델 구조나 학습 원리를 만들고, 아직 정립되지 않은 연구 질문을 정의한다. 단순히 논문을 잘 읽거나 구현을 잘하는 사람이 아니라, 수많은 가능한 연구 방향 가운데 무엇이 중요한지를 판단할 수 있어야 한다. 이들의 핵심 능력은 현재의 방법을 익히는 것이 아니라 다음 세대의 방법을 선택하고 만들어내는 것이다.

두 번째는 AI 시스템 또는 하네스 엔지니어다. 이들은 모델을 실제 시스템 안에서 안정적으로 작동시킨다. 분산시스템, 데이터베이스, 운영체제, 네트워크, 컴파일러, 가속기, 클라우드, 보안, 테스트, observability에 대한 깊은 이해가 필요하다. 모델이 확률적이라는 점 때문에 전통적인 시스템 역량에 평가 설계와 불확실성 관리가 추가된다.

세 번째는 도메인-AI 이중언어 사용자다. 물리학자, 기계공학자, 로봇공학자, 의사, 생물학자, 재료공학자, 제조 엔지니어가 AI를 자기 분야에 적용하는 경우다. 이들의 경쟁력은 모델을 가장 잘 아는 데서 나오지 않는다. 어떤 문제가 실제로 중요한지, 무엇을 정답으로 간주해야 하는지, 어떤 오류가 치명적인지, 어느 정도의 개선이 현장에서 의미가 있는지를 판단하는 데서 나온다.

네 번째로 AI API를 연결하고, 공개 모델을 fine-tuning하며, RAG와 agent framework를 이용해 응용 서비스를 만드는 일반적인 AI 애플리케이션 개발자가 있다. 이 역할도 필요하지만, 현재의 도구 사용법에 가장 크게 의존하기 때문에 네 유형 중 가장 빠르게 commoditize될 가능성이 있다.

문제는 전국의 AI학과가 이 네 가지 역할을 모두 양성한다고 주장한다는 데 있다. 실제로는 어느 것도 충분히 깊게 가르치지 못한 채, 딥러닝·컴퓨터비전·자연어처리·데이터과학·프롬프트 엔지니어링을 넓고 얕게 가르치는 경우가 많다. 그러면 학생은 AI 과목을 많이 들었지만 수학적 깊이도 부족하고, 시스템 구축 능력도 부족하며, 특정 산업에 대한 도메인 지식도 부족한 상태로 졸업할 수 있다.

앞으로 가장 취약한 유형은 역설적으로 AI를 전혀 모르는 사람이 아닐 수 있다.

가장 취약한 사람은 AI는 조금 알지만, 수학·시스템·도메인 가운데 어느 것도 깊지 않은 사람일 수 있다.

이미 한국 정부의 인력 전망에서도 단순한 초급 인력보다 연구개발을 포함한 고급 AI 인력의 부족이 특히 강조됐다. 2023년 고용노동부와 한국직업능력연구원의 전망은 2027년까지 AI 분야 신규인력이 1만 2,800명 부족할 것으로 보면서도, 핵심 문제로 R&D 등 고급인력의 부족을 지적했다. 따라서 이 수치를 곧바로 AI학부 졸업생 1만 2,800명이 추가로 필요하다는 뜻으로 해석해서는 안 된다. (고용노동부)

기업이 필요로 하는 것은 동일한 교육을 받은 평균적인 AI 전공자 1만 명이 아닐 수 있다. 기업마다 필요한 것은 분산학습을 최적화할 수 있는 사람, 데이터를 설계할 수 있는 사람, 평가의 허점을 발견할 수 있는 사람, 로봇이나 제조공정을 이해하는 사람, 의료적 유용성을 판정할 수 있는 사람처럼 서로 다른 조합의 인재다.

AI를 4년에서 6년 동안 전공한다는 것은 무엇을 의미해야 하는가

AI 기술이 빠르게 바뀐다는 이유만으로 AI를 장기간 공부할 필요가 없다고 말할 수는 없다. 양자역학이나 유체역학도 응용기술은 계속 변하지만, 그 밑의 원리를 배우는 데 오랜 시간이 걸린다. AI에도 확률론, 통계학, 최적화, 정보이론, 학습이론, 표현학습, 생성모델, 강화학습, 추론과 계획처럼 장기간 학습할 가치가 있는 지적 코어가 분명히 존재한다.

문제는 무엇을 4년 동안 가르치느냐다.

현재 유행하는 프레임워크와 API 사용법을 4년 동안 가르치는 것은 정당화하기 어렵다. 입학할 때 사용하던 라이브러리와 모델은 졸업할 때 이미 낡아 있을 수 있다. 특정 모델의 prompt 작성법, 특정 agent framework의 문법, 특정 cloud service의 사용법은 한두 학기 또는 집중훈련으로 익힐 수 있다.

반면 다음과 같은 질문에 답하기 위한 교육은 4년 이상 걸릴 수 있다.

데이터에서 무엇을 학습할 수 있고 무엇을 학습할 수 없는가.
모델의 일반화 성능을 어떻게 해석해야 하는가.
평가 데이터가 실제 배포환경을 대표하는가.
관측된 성능 향상이 통계적으로나 실질적으로 유효한가.
모델의 오류가 데이터, 최적화, 표현, 추론, 시스템 중 어디에서 발생했는가.
대규모 모델을 제한된 비용과 지연시간 아래에서 어떻게 운영할 것인가.
AI가 사용하는 도구와 데이터에 어떤 권한을 부여해야 하는가.
인간의 요구를 측정 가능한 acceptance criterion으로 어떻게 변환할 것인가.

따라서 좋은 AI 전공은 현재의 AI 도구를 많이 배우는 전공이 아니라, 학습하는 시스템을 과학적으로 이해하고 공학적으로 구현하며 비판적으로 평가하는 전공이어야 한다.

독립적인 AI 학위가 성립하려면 적어도 수학과 통계, 알고리즘과 자료구조, 컴퓨터시스템, 머신러닝과 추론이 모두 강하게 결합되어야 한다. Carnegie Mellon의 AI 학사과정도 별도의 유행성 학과라기보다 School of Computer Science 내부에서 컴퓨터과학, 수학, 통계, 계산모델링, 머신러닝, symbolic computation을 함께 가르치는 구조다. (CMU School of Computer Science)

이 기준으로 모든 AI학과에 하나의 질문을 던질 수 있다.

이 학과 졸업생은 전통 CS·EE·기계공학 학생이 AI를 1년 추가로 공부한 경우보다 무엇을 명백하게 더 잘하는가?

그 답이 “딥러닝 과목을 더 많이 들었다”라면 부족하다. 프런티어 AI 연구를 할 수 있을 정도의 수학적·과학적 깊이가 있거나, 대규모 AI 시스템을 설계할 정도의 시스템 역량이 있거나, 특정 도메인에서 AI를 평가하고 운영할 수 있는 전문성이 있어야 한다.

이 세 가지 중 어느 것도 없다면 AI학과는 새로운 학문이라기보다 교육시장에 붙인 브랜드가 될 위험이 있다.

AI는 전기나 인터넷과 같은가

AI가 전기, 인터넷, 산업혁명에 비견되는 범용기술이라는 말은 자주 등장한다. 이 비유를 받아들인다면 역설적인 질문이 생긴다. 전기가 모든 산업을 바꾸었다고 해서 모든 학생이 ‘전기대학’을 졸업해야 했던 것은 아니다. 인터넷이 모든 산업의 기반이 되었다고 해서 ‘인터넷학과’를 전국 대학에 만든 것도 아니다. 그렇다면 AI가 진정한 범용기술일수록 오히려 독립 AI학과를 모든 대학에 만드는 것이 이상하지 않은가.

이 비유에는 상당한 진실이 있다. 범용기술은 특정 산업 안에 고립되지 않고 기존의 모든 학문과 산업 안으로 스며든다. 따라서 AI가 강력할수록 기계공학자는 AI를 이용해 설계하고, 물리학자는 AI를 이용해 가설을 탐색하며, 의사는 AI를 이용해 진단하고, 로봇공학자는 AI를 이용해 perception과 planning을 수행해야 한다. 이 관점에서 AI 교육의 목표는 AI 전공자의 수를 늘리는 것이 아니라 각 분야 전문가가 AI를 자기 언어로 사용할 수 있게 만드는 것이다.

다만 이 비유를 지나치게 밀어붙이면 오류가 생긴다. 전기가 범용기술이었지만 전기공학이라는 깊은 학문은 실제로 필요했다. 발전기, 전력망, 회로, 전자기학, 반도체, 제어를 전문적으로 연구하는 사람 없이 전기의 광범위한 확산은 불가능했다. 인터넷 역시 모든 사람이 사용하지만 네트워크 프로토콜, 분산시스템, 보안, 데이터베이스를 깊이 연구하는 전문가는 반드시 필요했다.

AI도 마찬가지다. 모두가 AI를 사용할 수 있어야 하지만, 모두가 AI를 전문적으로 만들 필요는 없다. 동시에 일부는 학습과 지능의 원리, 대규모 모델과 추론 시스템을 오랫동안 깊게 연구해야 한다.

그러므로 올바른 결론은 “AI학과는 필요 없다”도 아니고 “모든 대학에 AI학과가 필요하다”도 아니다.

AI는 소수에게는 깊은 전문학문이어야 하고, 다수에게는 자기 분야와 결합된 공통 기반기술이어야 한다.

이 두 기능을 하나의 대규모 AI학부가 동시에 수행하려 할 때 교육과정의 정체성이 흔들린다. 반대로 두 기능을 명확히 분리하면 대학의 구조도 달라져야 한다.

1900년대 초 물리학은 천재만 필요했는가

AI 인재정책을 20세기 초 물리학과 비교하는 것은 매우 유익하다. 상대성이론, 양자역학, 핵물리학의 핵심 돌파는 실제로 소수의 탁월한 과학자와 몇몇 연구 중심지에서 나왔다. 평균적인 물리학자 수천 명이 집단적으로 새로운 이론을 만들어낸 것은 아니다. 새로운 문제를 보고, 기존 이론의 모순을 감지하고, 수학적 언어를 만들어낼 수 있었던 극소수의 연구자가 방향을 바꾸었다.

이 점만 보면 AI에서도 수천 명의 평균적인 연구자보다 100명의 세계적인 연구자를 집중 양성하는 것이 옳아 보인다. 실제로 프런티어 연구에서는 탁월한 한 명의 판단이 수십 명 또는 수백 명의 실험 방향을 바꿀 수 있다. 어떤 데이터가 필요한지, 어떤 결과가 진짜 신호인지, 어떤 연구 질문이 막다른 길인지를 빠르게 판별하는 사람은 계산 자원과 조직 전체의 생산성을 증폭시킨다.

그러나 물리학의 역사가 말해주는 것은 이것만이 아니다. 과학적 발견이 국력과 산업으로 변환되는 단계에서는 거대한 공학적·조직적 피라미드가 필요했다. 맨해튼 프로젝트는 소수의 유명 물리학자만으로 수행되지 않았다. 절정기에는 약 13만 명이 참여했으며, 과학자뿐 아니라 엔지니어, 기술자, 산업체, 군 조직과 수많은 현장 인력이 결합했다. 미국 에너지부는 이 프로젝트를 이후 미국식 ‘big science’의 조직적 모델로 평가한다. (The Department of Energy’s Energy.gov)

전후 미국은 물리학과 공학 분야의 기초연구, 연구시설, 대학원 fellowship을 국가적으로 지원했다. NSF는 수학·물리·공학을 포함한 기초과학 연구와 인력교육을 지원했고, 뛰어난 대학원생을 위한 fellowship 프로그램도 운영했다. 이는 모든 사람을 이론물리학자로 만들려는 정책이 아니라, 소수의 탁월한 연구자와 넓은 과학기술 기반을 동시에 구축하는 정책이었다. (NSF - U.S. National Science Foundation)

여기서 얻을 수 있는 교훈은 명확하다.

발견은 소수가 만들지만, 국력은 발견을 확대하고 검증하고 생산하고 운영하는 피라미드에서 나온다.

AI에서도 새로운 지능의 원리를 만들어내는 사람은 소수일 것이다. 그러나 그 소수가 실제 성과를 내기 위해서는 research engineer, distributed systems engineer, compiler engineer, data engineer, evaluation scientist, security engineer가 필요하다. 그리고 만들어진 기술이 제조·의료·로봇·국방·에너지·과학으로 확산되려면 각 분야의 전문가가 필요하다.

따라서 “천재 100명과 평균적인 AI 연구자 수천 명 중 누구를 양성할 것인가”라는 질문은 잘못 설정되어 있다. 필요한 것은 천재 100명과 그들을 증폭시키는 고급 엔지니어 1,000명, 그리고 AI를 자기 도메인에 적용할 수 있는 수만 명의 이중언어 사용자다.

미국과 중국의 수만 편 논문은 어디에서 오는가

오늘날 주요 AI 학회의 규모는 상식적인 범위를 넘어섰다. AAAI-26은 Main Technical Track에 약 2만 9,000건이 접수됐고, 규정 미준수 등을 제거한 뒤에도 약 2만 3,000편이 실제 심사 대상에 남았다. 이 가운데 중국발 투고가 약 2만 건이었으며, unique submitting author는 7만 5,000명 이상이었다. 이를 심사하기 위해 2만 8,000명 이상의 PC, SPC, AC가 모집됐다. (AAAI)

ICML 2026도 공식 계정을 통해 active abstract가 3만 3,540건에 이르렀고, 최종적으로 제출된 PDF가 2만 4,371편이라고 밝혔다. (X (formerly Twitter))

AAAI-27의 OpenReview submission number가 이미 5만대를 넘어선 것처럼 보이더라도, 그것을 그대로 최종 논문 수로 해석해서는 안 된다. 2026년 7월 26일 현재 AAAI-27의 full-paper deadline은 아직 지나지 않았고, 공식 마감은 7월 28일 23시 59분 AoE다. 또한 전년도에도 초기 등록·투고 수와 실제 review 대상 수 사이에 상당한 차이가 있었다. 따라서 현재의 submission ID는 최종 PDF 수나 심사 대상 수와 구별해야 한다. (AAAI)

그럼에도 이 숫자들은 AI 연구생태계가 이미 수만 편 단위로 움직인다는 사실을 보여준다. 특히 AAAI-26에서 중국발 투고가 약 2만 편이었다는 것은 중국에 매우 큰 연구생산 인구가 존재한다는 강력한 증거다.

실제로 중국은 대량교육과 엘리트교육을 동시에 추진하고 있다. 2026년 기준 중국에서 AI 학부과정을 개설한 대학은 600곳을 넘으며, 이는 2018년 최초 승인 당시 35곳에서 크게 증가한 수치다. 동시에 중국의 교육정책은 AI 전공 확대뿐 아니라 전 대학에 걸친 AI 기초교육, AI+X 융합교육, 최상위 인재 프로그램도 함께 강조하고 있다. (China Daily)

그러나 학회 논문 수와 프런티어 모델 개발 능력을 같은 것으로 보아서는 안 된다. Stanford AI Index는 중국이 AI 논문 규모와 인용, 특허에서 강한 반면, 미국이 주목할 만한 모델 개발에서는 우위를 유지한다고 분석한다. 2025년에는 미국 기관이 59개의 notable model을 만든 데 비해 중국은 35개를 만든 것으로 집계됐다. (Stanford HAI)

학회 논문 2만 편은 2만 명의 독립적인 프런티어 연구자를 의미하지 않는다. 한 편의 논문에는 여러 저자가 있고, 한 사람이 여러 편에 참여한다. 학부생, 석사과정, 박사과정, 교수, 산업체 연구원이 모두 포함된다. 논문의 범위도 새로운 foundation model에서부터 특정 응용, benchmark 개선, 분석 연구까지 매우 넓다. 그중 상당수는 점진적인 연구이며, 모든 논문이 새로운 지능의 원리를 제시하는 것은 아니다.

그렇다고 대량 연구생태계가 무의미한 것은 아니다. 넓은 인구 기반은 더 많은 실험과 경쟁, 선택의 기회를 제공한다. 천재를 처음부터 정확히 선별하기 어렵기 때문에, 일정 수준의 넓은 기반은 최상위 인재가 출현할 수 있는 모수집단이 된다. 또한 대규모 논문생태계는 리뷰어, 지도교수, 연구엔지니어, 오픈소스 개발자, 데이터 구축자와 같은 주변 인력을 만들어낸다.

하지만 양적 기반만으로 프런티어 능력이 자동으로 생기지는 않는다. 프런티어 모델을 만들기 위해서는 최상위 연구자, 막대한 compute, 고품질 데이터, 장기적인 연구 자유, 강한 시스템 조직이 함께 필요하다.

미국의 경쟁력은 이 점에서 독특하다. 미국은 독립 AI학과만 대량으로 만든 것이 아니라 거대한 CS 교육기반, 세계 최고 연구대학, 산업 연구소, 자본과 compute, 전 세계 인재 흡수를 결합했다. CRA의 2025 Taulbee Survey에 참여한 미국·캐나다 computing 학과의 longitudinal cohort에서만 CS 학사 3만 2,266명, 석사 1만 6,001명, 박사 1,351명이 배출됐다. 이 수치는 미국 전체 대학을 완전히 포괄하지 않는데도 기반 규모가 크다. (CERP)

또한 MacroPolo가 상위 AI 학회 연구자 4,622명을 분석한 결과, 38%는 중국에서 학부교육을 받았지만 전체 elite AI 연구자의 59%는 미국 기관에서 일하는 것으로 집계됐다. 해당 분석에서 출신 국가는 국적이 아니라 학부기관의 위치를 기준으로 한다는 점에 주의해야 하지만, 미국의 핵심 경쟁력이 국내 교육만이 아니라 세계 인재를 끌어들이는 생태계에 있다는 사실은 분명하다. (MacroPolo Archive)

중국은 대규모 국내 인력 공급과 국가주도 투자를 통해 따라가고 있고, 미국은 거대한 CS 기반과 산업, 글로벌 인재 흡수로 우위를 유지한다. 두 나라 모두 단순히 “AI 전공자 몇 명”으로 경쟁하는 것이 아니다.

한국이 택해야 할 것은 대량교육과 소수정예의 중간이 아니다

한국에서는 흔히 두 가지 선택지가 제시된다. 전국 대학에 AI학과를 만들어 매년 수천 명을 배출할 것인가, 아니면 큰돈을 들여 최상위 100명만 집중 양성할 것인가.

그러나 둘 중 하나를 선택하는 방식으로는 문제를 해결하기 어렵다. 필요한 인재의 역할이 서로 다르기 때문이다. 한국에 필요한 것은 타협적인 중간값이 아니라 역할별로 분리된 인재 포트폴리오다.

개념적으로는 다음과 같은 100:1,000:10,000 구조를 생각할 수 있다.

최상층의 100명 내외는 새로운 모델, 학습 원리, 추론과 embodied intelligence, AI 시스템의 핵심 구조를 만들어낼 수 있는 프런티어 인재다. 이들은 세계적 연구자와 경쟁할 수 있을 정도의 수학적·과학적 훈련, compute, 연구 자유, 국제적 이동성을 제공받아야 한다.

중간층의 1,000명 내외는 AI 시스템과 하네스를 구축하는 고급 엔지니어다. 전통 CS·CE·EE를 깊게 배우고, 여기에 1～2년의 AI systems training이나 산업 residency를 추가하는 경로가 적합하다. 이들은 모델을 학습시키고, 최적화하고, 배포하고, 관측하고, 실패를 관리하며, 실제 제품으로 만드는 사람들이다.

넓은 기반의 1만 명 이상은 물리, 기계, 로봇, 반도체, 제조, 의료, 생명, 재료, 금융과 같은 도메인에서 AI를 사용할 수 있는 이중언어 인재다. 이들은 기존 전공을 버리고 AI학과로 옮길 필요가 없다. 자신의 전공을 유지하면서 AI, 데이터, 평가, 시스템 구축을 1～2년 집중적으로 경험하는 것이 더 바람직하다.

물론 이 숫자는 정확한 정원 산출 결과가 아니라 필요한 질서와 규모를 나타내는 비율이다. 핵심은 세 층을 같은 교육과정으로 양성해서는 안 된다는 것이다.

‘AI 영재대학’보다 국가 AI fellowship이 나은 이유

최상위 인재 100명을 양성해야 한다고 해서 18세 학생을 선발하는 독립 AI 영재대학을 만드는 것이 반드시 최선은 아니다.

프런티어 연구자의 잠재력은 대학 입학 시점에 완전히 드러나지 않는다. 어떤 사람은 수학을 깊게 공부하다가 AI로 이동하고, 어떤 사람은 물리학이나 로보틱스 연구 중 새로운 학습 문제를 발견한다. 뛰어난 시스템 엔지니어가 산업현장에서 모델 연구자로 성장할 수도 있다. 18세의 시험성적만으로 이들을 모두 식별하기 어렵다.

따라서 한 번의 입시로 국가의 최상위 인재를 확정하기보다, 학부 3～4학년, 석사, 박사, 초기 산업 연구자 단계에서 여러 번 진입할 수 있는 국가 fellowship이 더 적합하다. 선발된 사람에게는 등록금 정도가 아니라 다음이 제공되어야 한다.

충분한 연구비와 compute, 세계적인 연구자와의 공동연구, 해외 연구실과 기업에서의 residency, 실패를 허용하는 장기 연구기간, 국제 수준의 보상, 고급 research engineer 지원이 필요하다. 이들이 국내에서 연구하고 싶어도 데이터와 연산자원, 협력조직이 없어 해외로 나가야 한다면 선발제도 자체는 큰 의미가 없다.

프런티어 인재정책의 단위는 개인 한 명이 아니라 개인이 레버리지를 낼 수 있는 연구환경이어야 한다.

탁월한 연구자 한 명이 있어도 주변에 분산시스템 엔지니어, 데이터 엔지니어, evaluation researcher, compiler engineer가 없다면 대규모 실험을 수행하기 어렵다. 따라서 “천재 100명”은 실제로는 “최상위 연구자 100명과 그들을 지원하는 고급 연구·엔지니어링 생태계”를 의미해야 한다.

AI대학은 학위공장이 아니라 ‘권한 있는 공통 기반’이어야 한다

그렇다면 기존 대학의 AI대학은 어떤 모습이어야 할까. 가장 설득력 있는 형태는 독립적인 대규모 학사학위 생산조직이 아니라, 대학 전체를 지원하는 AI·Computing Commons다.

이를 단순히 AI 교양과목을 제공하는 센터로 이해해서는 안 된다. 전통적인 교양학부처럼 수업 몇 개를 운영하는 약한 조직으로는 각 학과를 변화시키기 어렵다. 필요한 것은 큰 예산과 인프라, 공동교원, 연구엔지니어, 평가기준과 일정 수준의 권한을 가진 ‘힘 있는 교양학부’다.

이 조직은 세 부분으로 구성될 수 있다.

첫 번째는 Frontier AI Institute다. 여기는 소수의 학부생·대학원생·연구자를 대상으로 foundation model, learning theory, reasoning, multimodal intelligence, embodied AI, AI systems, evaluation과 alignment를 깊게 연구한다. 대량 학부교육보다 선택적인 박사과정, fellowship, research engineer 프로그램이 중심이 된다.

두 번째는 AI·Computing Commons다. 대학 전체를 대상으로 수학적 기초, 프로그래밍, 머신러닝, 데이터과학, AI systems, 평가, 안전과 윤리 과목을 제공한다. 공용 GPU, model serving, 데이터 관리, 실험 추적, evaluation infrastructure도 운영한다. 개별 학과가 매번 독자적으로 AI 인프라와 수업을 만들 필요가 없도록 지원한다.

세 번째는 Domain AI Studio 또는 Residency School이다. 기계공학, 물리학, 로봇공학, 의학, 재료공학, 제조 등 각 학과의 학생이 실제 문제를 가지고 1～2년 동안 AI 시스템을 구축한다. 단순한 강의가 아니라 데이터 수집, 모델 학습, 실제 배포, 현장 평가, 실패 분석, 유지보수까지 경험해야 한다.

MIT Schwarzman College of Computing의 Common Ground는 이와 유사한 방향을 보여준다. MIT의 5개 school과 computing college를 가로질러 여러 학과가 공동으로 수업을 개발하고, 학생들이 computing과 자신의 전공 모두에 능통한 ‘computing bilingual’이 되도록 하는 것이 목표다. 개별 학과의 고유한 computing 교육을 대체하기보다, 여러 학과가 공동으로 필요로 하는 교육을 중앙에서 지원한다. (MIT Schwarzman College of Computing)

이 모델의 핵심은 학생의 소속을 빼앗지 않는다는 데 있다.

대부분 학생에게 첫 번째 고향은 물리·기계·전기전자·CS·의학과 같은 전통 학과이고, AI대학은 강력한 두 번째 고향이 되는 편이 낫다.

반면 프런티어 AI를 깊게 연구할 소수에게는 AI대학이 첫 번째 고향이 될 수 있다.

지원만 해서는 안 되고, 일부 권한을 가져야 한다

중앙 AI조직이 단순 지원센터에 머무르면 실제 대학에서는 힘을 쓰기 어렵다. 각 학과는 이미 과목과 연구비, 교수 충원, 학생지도로 바쁘다. AI 융합교육이 중요하다는 데 모두 동의하면서도, 실제 공동과목 개발과 데이터 정리, benchmark 구축, 소프트웨어 유지보수는 우선순위에서 밀리기 쉽다.

따라서 AI대학은 일정한 권한을 가져야 한다.

공용 compute 배분, 데이터 보안과 governance, 모델 serving infrastructure, 실험 재현성 기준, evaluation protocol, 공동교원 채용, research software engineer 배치, 학과 간 seed funding은 중앙조직이 책임지는 것이 효율적이다. 반복적으로 필요한 인프라와 방법론을 각 학과가 따로 구축하게 하면 비용도 크고 품질도 낮아진다.

하지만 중앙 AI조직이 모든 연구문제와 평가기준까지 지배해서는 안 된다. 도메인 학과에는 양보할 수 없는 epistemic authority가 있다. 무엇이 중요한 문제인지, 무엇이 진짜 ground truth인지, 어떤 오류가 치명적인지, 어떤 수준의 성능이 현장에서 의미가 있는지는 도메인 전문가가 판단해야 한다.

의료 AI에서 benchmark accuracy가 높아졌다고 해서 임상적으로 유용한 것은 아니다. 제조 AI에서 defect detection score가 올라도 생산라인의 오탐 비용과 정지시간을 고려하지 않으면 가치가 없을 수 있다. 로보틱스에서 언어모델의 planning score가 높아도 실제 센서오차, 지연시간, 동역학, 충돌위험을 감당하지 못하면 시스템은 작동하지 않는다.

따라서 가장 좋은 구조는 dual-key governance다.

AI대학은 공통 방법론, 모델, 시스템, 인프라, 재현성, 보안에 대한 권한을 가진다. 도메인 학과는 문제 정의, 데이터의 의미, 평가기준, 현장 유효성과 안전에 대한 권한을 가진다. 중요한 사업과 교육과정은 양쪽의 동의가 있어야 진행한다.

이 구조에서 AI대학은 전통 학과를 대체하지 않는다. 오히려 전통 학과가 AI 시대에 경쟁력을 잃지 않도록 인프라와 방법론을 공급한다. 동시에 전통 학과가 단순한 ‘데이터 제공자’로 전락하지 않도록 문제 정의와 평가의 주도권을 보장한다.

평가가 중요해질수록 도메인 지식과 taste가 중요해진다

AI 시스템에서 앞으로 가장 희소해질 능력 중 하나는 평가를 설계하는 능력이다. 모델을 실행하는 비용은 계속 낮아질 수 있지만, 무엇을 잘한 것으로 판단해야 하는지는 자동으로 정해지지 않는다.

평가는 단순한 metric 선택이 아니다. 어떤 분포에서 시험할 것인지, 실패를 어떤 범주로 나눌 것인지, 평균 성능과 최악의 성능 가운데 무엇을 중시할 것인지, offline score가 실제 현장성과를 대변하는지, 사람의 선호를 어떻게 측정할 것인지 결정해야 한다.

이 판단에는 도메인 지식과 연구 taste가 들어간다. 연구 taste는 “유행하는 문제를 고르는 감각” 정도가 아니다. 무엇이 본질적이고 무엇이 표면적인 개선인지, 어떤 실험이 가설을 실제로 검증하는지, 어느 실패가 구조적인지 구분하는 능력이다.

예를 들어 로봇의 장기 자율주행을 평가하면서 짧은 trajectory의 평균 위치오차만 측정한다면, 수 시간 후에 발생하는 memory corruption이나 localization failure를 놓칠 수 있다. multi-agent system을 평가하면서 전체 평균 성공률만 본다면 특정 robot이나 특정 환경에 실패가 집중되는 문제를 숨길 수 있다. VLM의 navigation instruction을 평가하면서 언어적 자연스러움만 측정하면 실제 실행 가능성을 알 수 없다.

이런 평가를 잘 만들기 위해서는 AI 방법론만 알아서는 부족하다. 센서, 동역학, 환경변화, 인간행동, 시스템 제약을 알아야 한다. 따라서 물리학·기계공학·로봇공학과 같은 전통 학과에서 AI systems와 evaluation을 교육하는 것은 단순한 응용교육이 아니라 AI 발전 자체에 기여하는 일이다.

프런티어 모델이 강해질수록 “모델을 만들 줄 아는 사람”만큼 “그 모델이 실제로 무엇을 할 수 있는지 판별할 줄 아는 사람”이 중요해진다.

AI대학 교수는 학생의 10년 뒤를 책임질 수 있는가

AI 기술은 빠르게 변하기 때문에 어느 교수도 학생이 10년 뒤 어떤 모델이나 프레임워크를 사용할지 보장할 수 없다. 그렇다고 대학이 책임을 회피할 수 있는 것은 아니다. 대학이 책임져야 하는 것은 특정 도구의 유효기간이 아니라, 변화에 적응할 수 있는 지적 기반이다.

AI 전공자가 5～10년 뒤에도 경쟁력을 가지려면 적어도 하나의 강한 두 번째 축이 있어야 한다.

하나는 AI와 이론이다. 확률론, 통계학, 최적화, 정보이론, 수치해석, 학습이론을 깊게 공부한다.

두 번째는 AI와 시스템이다. 운영체제, 데이터베이스, 네트워크, 분산시스템, 컴파일러, 컴퓨터구조, 가속기, 보안과 신뢰성을 깊게 공부한다.

세 번째는 AI와 도메인이다. 물리, 기계, 로봇, 의학, 생명, 제조, 반도체와 같은 분야에서 실제 문제와 평가기준을 이해한다.

AI만 넓게 공부하고 이 세 축 가운데 어느 것도 갖지 않는 교육과정은 학생의 미래를 책임지기 어렵다. 현재의 모델과 프레임워크가 바뀌었을 때 남는 것이 적기 때문이다.

대학의 성과지표도 바뀌어야 한다. AI학과 정원, 수강생 수, 졸업생 수, 논문 수만으로 성공을 평가해서는 안 된다. 다음과 같은 결과를 보아야 한다.

졸업생이 어떤 역할로 취업했는지, 단순한 AI 명칭의 직무가 아니라 어떤 전문성을 축적하고 있는지 보아야 한다. 실제 운영되는 시스템을 구축해본 경험이 있는지, 평가 suite와 데이터 파이프라인을 만들 수 있는지, 도메인 부서와 공동으로 문제를 해결했는지, 최상위 학생이 국내 연구생태계에 남는지, 산업체가 교육과정에 실질적으로 참여하는지를 측정해야 한다.

AI 교육의 성과는 학생이 최신 모델의 이름을 많이 아는 데 있지 않다.

새로운 모델이 등장했을 때 그것을 이해하고, 검증하고, 시스템에 통합하며, 자신의 도메인에서 가치가 있는지 판단할 수 있어야 한다.

결론: AI학위를 늘릴 것인가, AI 역량을 늘릴 것인가

AI가 지능을 다루는 새로운 학문이고, 경제와 산업을 뒤흔드는 범용기술이라는 데에는 의심의 여지가 없다. 그렇기 때문에 오히려 AI학과를 무차별적으로 늘리는 정책을 조심해야 한다.

범용기술은 모든 분야에 확산되어야 하지만, 모든 사람이 그 기술 자체를 전공할 필요는 없다. 전기는 모든 산업을 바꾸었지만 모든 노동자가 전기공학자가 되지는 않았다. 인터넷은 모든 조직의 기반이 되었지만 모든 학생이 네트워크 프로토콜을 연구하지는 않았다. AI도 모든 사람이 활용할 수 있어야 하지만, 그 원리를 깊게 연구하고 새로운 모델을 만드는 사람은 소수여도 된다.

다만 그 소수는 지금보다 훨씬 더 깊게 교육해야 한다. 단순히 딥러닝 과목을 여러 개 듣는 것이 아니라 수학, 시스템, 데이터, 평가, 도메인 가운데 강한 축을 갖추어야 한다. 세계적인 연구자와 경쟁할 수 있도록 compute와 연구환경도 제공해야 한다.

동시에 훨씬 더 많은 사람에게 AI literacy와 시스템 경험이 필요하다. 그러나 이들은 AI학과로 이동하기보다 자기 전공 위에 AI 역량을 쌓는 것이 바람직하다. 물리학자가 AI를 알고, 기계공학자가 AI를 알고, 로봇공학자가 AI와 시스템을 알고, 의사가 AI 평가를 이해해야 한다. 그래야 AI가 단순한 소프트웨어 기능이 아니라 실제 산업과 과학의 생산성으로 전환된다.

따라서 한국의 AI 인재정책은 다음 원칙 위에 세워져야 한다.

모두가 AI를 배워야 하지만 모두가 AI를 전공할 필요는 없다. AI를 전공하는 소수는 지금보다 훨씬 깊게 배워야 한다. 다수는 자기 도메인을 버리지 않은 채 AI와 시스템을 두 번째 언어로 익혀야 한다.

AI대학 역시 대규모 학위공장이 아니라 대학 전체의 지능화와 계산화를 이끄는 본부가 되어야 한다. 프런티어 연구소, 공통 교육조직, compute와 데이터 인프라, 도메인별 residency를 함께 운영하고, 공동교원과 연구엔지니어를 배치하며, 평가와 재현성의 기준을 제공해야 한다. 말 그대로 큰돈과 권한을 가진 새 시대의 교양학부, 더 정확히는 대학의 공통 지적·기술적 기반이 되어야 한다.

국가가 길러야 할 것은 ‘AI’라는 이름이 붙은 졸업생의 수가 아니다.

지능의 원리를 바꾸는 소수, 그 원리를 신뢰할 수 있는 시스템으로 바꾸는 중간층, 그 시스템이 현실에서 옳고 유용한지를 판단하는 다수다.

프런티어 모델을 만드는 능력은 소수의 탁월한 인재와 조직에서 나올 것이다. 그러나 그 능력이 국력과 산업경쟁력으로 바뀌는지는 훨씬 넓은 시스템, 엔지니어링, 도메인 지식과 평가 역량에 달려 있다. 한국이 만들어야 할 것은 평균적인 AI 전공자 수천 명이 아니라, 서로 다른 깊이와 역할을 가진 인재들이 연결되는 구조다.

AI 시대 대학의 핵심 질문도 “AI학과를 몇 개 만들 것인가”가 되어서는 안 된다.

누가 새로운 지능을 만들 것인가. 누가 그것을 작동하는 시스템으로 만들 것인가. 그리고 누가 그것이 현실에서 제대로 작동하는지를 판단할 것인가.

이 세 질문에 각각 답할 수 있는 교육구조를 만드는 것이 AI대학을 하나 더 세우는 것보다 훨씬 중요하다.

Education | Giseop Kim