AI 시대, 우리는 어디에 있을까

알파고가 이세돌을 바둑으로 이긴지 10년, ChatGPT가 세상에 나온 지 3년이 흘렀다. 하루가 다르게 세상이 바뀌고 있다는 느낌을 받는 오늘이다. 인류는 AI 라는 거대한 파도속에 서 있다. 무엇이 휩쓸려 나가고 무엇이 남을지 모두가 궁금해하는 가운데, 내 생각을 정리하여 글로 남겨보고자 한다. 
기술적인 내용보다는, 누구나 이해하고 통찰할 수 있는 글을 쓰려고 노력하였다. 한낱 대학원생의 글이므로 잘못된 정보가 있을 수 있으며, 바보 같은 생각이 포함돼있을 수도 있다. 
 
 

기술의 진보는 마치 병적인 범죄자의 손에 든 도끼와 같다.
Technological progress is like an axe in the hands of a pathological criminal.
 - Albert Einstein, 1917.

 

---

 
지능의 모방
ChatGPT가 출시된 2022년 10월, 처음으로 제대로 작동하는 인공지능 챗봇에 사람들이 놀라워했다. 그러나 감각이 좋은 사람들은 이때 더 먼 미래를 내다보았다. ChatGPT가 파급을 불러온 이유는 단순히 사람의 말상대가 되었기 때문이 아니라, '언어'를 기반으로 한 여러가지 과제(예컨대 '요약', '이어 말하기', '번역', 등)들을 단일 모델에서 한번에 높은 수준으로 처리할 수 있게 되었기 때문이다. 즉, 우리가 얻은 것은 제어 불가능한 유사 지능이 아닌, 조작 가능한 범용 추론 능력이다. 이는 곧 전 세계의 지식 노동을 우리가 의도한 대로 대체 가능함을 의미한다. 
LLM (Large Language Model;거대언어모델)이 처음 성공한 이유는 OpenAI에서 발견한 scaling 법칙 [1] 때문이다. 혹자는 누군가 학습을 켜두고 끄는 것을 깜빡했다가, 비약적인 성능 향상을 우연히 발견한 것이라고 말하기도 한다. Transformer 아키텍쳐 블록을 반복적으로 쌓고 학습 데이터와 연산량을 이전과는 비교도 안될 정도로 올렸을때 비로소 기본적인 지능이 창발된다. 그렇다고 한다면, 나는 그 지능을 더 높은 수준으로 끌어올리거나 환각증상 (Hallucination)을 줄이는 등 여타 LLM의 초기 약점들이 해결되는 데에는 시간 문제라고 보았다. 근본적으로 더 많은 블록을 쌓고 더 많은 자원을 투입하면 되기 때문이다. 만약 이 지능 창발의 main factor가 다른 데에서 기인했다면 그런 예측을 하지 않았을 것이다. 모델이 더 많은 데이터를 볼 수록 '알아서' 지능을 띄게 된다는 것은, 나로선 결국 인간이 지능을 갖추어 가는 학습 과정과 일맥상통한다고 보았다. 
초기에는 LLM 파동에 의구심을 품는 목소리도 컸다. 전 세계에서 온갖 자칭 전문가, 인류학자들이 LLM은 그저 기계적인 시스템에 불가하며, 확률적으로 다음 토큰을 예측할 뿐 인간과 같은 사고와 추론 과정을 갖추지 못한다고 주장했다. 나는 처음부터 그 주장이 대체 어떤 의미를 갖는지 이해하지 못했다. 인간의 뇌도 물리적으로 보면 뉴런들이 서로 아세틸콜린과 같은 신경전달물질을 주고 받고, 내부에서 나트륨, 칼륨 이온에 의해 전기신호가 전달되는, 자명하게 해석가능한 유기 시스템이다. 이는 결국 확률적 그래프 네트워크와 같은 기계 시스템으로 추상화 및 근사가 가능함을 의미한다. 인간의 지능이 마치 아무도 모방할 수 없는 무언가라는 것은 천동설을 주장하는 것과 같다. 나는 이러한 무익한 회의론을 제일 싫어한다. 물론 얀 르쿤(Yann Lecun) [2]처럼 LLM 대신 World Model [3] 과 같은 대안을 제시하는 경우는 매우 유익한 담론이 된다. AGI [4]의 정답은 LLM이 아닐 수도 있다 [5].
 
 
인식의 변화
3년간의 AI의 급격한 발전 아래, 매해 사람들의 AI에 대한 인식과 태도 또한 변화해왔다. 첫 1년 (2023)은 LLM 만능주의와 회의론의 충돌이 있었다. LLM 기술의 발전이 곧 인류가 고대하던 AGI로 이끌 것이라는 예측과, LLM의 scaling 법칙에는 한계가 존재한다는 주장이다. 대중들의 시각에서도 회의론이 자주 나왔던 이유는, 그 당시 LLM의 성능이 좋은 글쓰기를 내놓는 데에는 능했으나, 실무적 가치를 통해 사람들의 삶을 바꾸는 데에는 아직 부족했기 때문이다. 그러나 2년차 (2024)부터 LLM의 성능과 비용이 비약적 발전을 이루면서, 한번 효용을 느낀 사람들이 이전 시대로 돌아갈 수 없는, 이른바 비가역적 변화를 맞기 시작했다. 웬만한 텍스트 자료 조사와 정리, 그리고 간단한 코딩은 AI가 대체할 수 있게 되었고, AI가 사람의 보조역으로서 위치를 확실히 정립하게 되었다. 그리고 3년차 (2025)가 실질적인 LLM 지배의 시작이라고 본다. 바로 코딩 에이전트 Codex (OpenAI) [6]와 Claude Code (Anthropic) [7]가 본격적으로 출시된 해다.
기존의 코딩 어시스턴트의 명확한 한계는, 프로젝트 구조 내의 방대한 양의 코드를 한번에 수용할 수 없다는 점이었다. ChatGPT에 기존 코드를 옮겨 붙이고, 출력된 코드를 개발 환경에서 직접 실행해보고, 이 과정을 반복하는 것은 분명 피로가 있는 일이었다. 그러나 지금은 IDE 혹은 CLI 환경에서 권한을 부여받은 에이전트가 직접 구석구석 파일들을 흝으며 맥락을 파악하고, 본인이 해야 할 일을 알아서 구성 후 수행한 뒤 검증까지 마친다. 지금은 이런 일이 당연해보이지만, 실제로 이는 높은 수준의 task planning, tool calling 정확도가 요구되는 일이다. 단일 작업에서 정확도가 조금만 낮아져도, 여러 단계의 작업이 얽힌 경우 성공률은 기하급수로 떨어진다. 24년도까지는 정확도와 속도, 그리고 비용에 있어 장벽이 있었으나, 25년도에는 임계점을 돌파하여 개발자들의 인식도 본격적으로 변화하였다고 본다. 나를 비롯하여, 우리 연구실 사람들조차 전부 코딩 에이전트를 신봉하기 시작했던 때도 작년 하반기 부터였다. 연구 리서치 부터 가설 설정, 코드 구현 및 데이터 프로세싱, GPU 분산 학습 및 검증과 배포까지 전부 알아서 한다. 그 정확도는 올해들어 더욱 향상되어, 사람의 검증이 필요없는 수준까지 이르렀다.
오늘에 이르러서는 엔지니어 뿐만 아니라 각종 분야의 실무자들 또한 AI 툴 활용이 필수적인 역량으로 자리잡고 있다. 개발자가 아니더라도 Antigravity [8]등을 통해 AI native 환경을 경험할 수 있고, OpenClaw [9]와 같은 오픈소스로 누구나 개인화된 AI agent를 갖출수 있게 되었다. 이제 AI 를 활용하지 않는 사람은 활용하는 사람의 생산성을 절대 따라갈 수 없음을 대중들도 안다. 그동안 이를 부정했던 사람들도 이 차이를 경험한 후에 태도를 바꿀 수 밖에 없었을 것이다. 3년만에 그야말로 뉴 노멀이 도래한 것이다.
 
 
사람은 대체되지 않을 수 있을까?
요즈음 비전공자 친구들을 만나면 내게 이런 질문들을 많이 한다. 곤란한 질문인 것이, 연구실 사람들끼리도 비슷한 고민을 한다. 심지어 나는 AI 연구자가 굉장히 빨리 대체될 직업군 중 하나라고 생각한다. 논문, 수학, 코딩이 주 업무인데, 이는 모두 AI가 제일 잘 하는 분야이며, 실제로 이미 매우 많은 부분을 AI에 의존하고 있다. 사실 본 글의 가장 큰 목적이기도 한 이 주제는 공학적, 인문학적 통찰이 모두 필요한 매우 어려운 질문이다. 때문에 시간이 날때마다 머릿속으로 고민하고, 영상과 글도 여럿 찾아봤다. 그러나 항상 답은 같았다. 나는 그 어떤 영상과 글에서 주장하는 '사람만이 할 수 있는 일'도 결국 대체될 수 있다고 강력히 확신한다. 이는 언급된 모든 일들에 대해 하나하나 나름의 시뮬레이션을 돌려서, 필요한 기술의 발전 수준을 가늠해서 내린 결론이다. 시간이 문제인 것도 아니다. 이미 AI는 대부분의 언어, 시각 추론 영역에서 사람을 뛰어넘었으며, 우리가 체감하는 영역을 크게 벗어나있다.
HLE (Humanity's Last Exam) [10] 이라고 하는, Scale AI에서 출시한 LLM 벤치마크가 있다. 이 벤치마크는 100개가 넘는 학문 영역에서 총 2500개의 선별된 문제로 구성돼있으며, 난이도는 박사급 전공자도 풀기 어려운 것들로 이루어져있다 (첫 문제가 석판에 새겨진 고대 라틴어를 팔미라어로 해석하는 것이다). 당시 프론티어 모델이던 GPT-4o와 o1 모두 정답률 10%를 넘기지 못했는데, 1년 반이 지난 지금은 프론티어 모델들의 정답률이 50%에 분포해있다. 최근에는, 새로 출시된 GPT-5.6의 상용 버전 모델(Sol Ultra)이 50년 수학 난제 [11]를 1시간만에 풀어내었다. 더불어 세계에서 가장 우수한 프로그래머 12명을 초청해 치르는 코딩 대회에서 OpenAI의 내부 모델이 우승[12]을 따냈다. 우리가 목격하지 못했을 뿐, 내 사견으로 이미 AGI는 달성되었다고 봐도 무방하다. 남은 병목은 Physical AI 뿐이다.
그러나 '대체가능성'이 필연적인 대체를 의미하는 것은 아니다. 물론, 자본주의 시장의 법칙에 의해 인간의 지식 생산노동은 저비용의 AI로 대체되는 것이 순리이다. 그러나 AI 대체에는 추가적인 사회적 비용이 청구된다. 예를 들어, 사람 판사보다 많은 데이터의 판례를 학습하였으며, 더 많은 추론 사고를 하며, 더 완결성 높은 판결문을 작성하는 AI 판사를 도입한다고 생각해보자. 과연 우리는 이 AI 판사를 쉽게 받아들일 수 있을까? AI의 성능과 별개로, 인간 구성원들의 인식이 변화하고 제도적인 장치가 마련되는 데에는 많은 시간과 비용이 소모된다. 중요한 점은, 결국 판사는 영원히 대체되지 않을 수도 있다는 점이다. 우리는 정의를 판단하는 일을 기계에 맡기고 싶어하지 않는다. 예술과 스포츠도 마찬가지다. 우리는 우리와 같은 인간의 의지와 성취를 간접적으로 사유하고 싶은 것이지, AI 모델 속에서 일어나는 지루한 숫자 연산을 들여다보고 싶지는 않다. 결론적으로, AI로 대체될 영역과 사람이 남을 영역은 종국에 시장 논리 보다 우리 인류 스스로의 본성과 선택에 의해 좌우될 확률이 높다. 
 
 
Physical AI의 현실
내가 속한 연구실에서 가장 많은 자원을 투자하고 있는 분야는 Physical AI [13]이다. 교수님의 의지 아래 작년부터 수억 대의 로봇들을 사들이고, 핵심 연구인력을 전부 VLA (Vision-Language-Action) [14] 플래그십 모델 개발에 집중시키고 있다. 나도 3D vision과 simulation 영역에서 참여하고 있는 입장에서, 느낀 바를 조금 피력해보고자 한다.
우선, Physical AI 분야 또한 빠른 발전을 이뤄오고 있으나, 내 예상으로 이 병목은 훨씬 거대하다. 사실 Tesla, Figure, Boston Dynamics 등 프론티어 로봇 테크 기업에서 내놓는 데모들을 보면 로봇의 상용화도 머지않아 보인다. 그러나 적어도 지금 AI 학계에서 최전선으로 나오는 논문을 보면 실제와 괴리가 많다. 아직도 AI 학계에서 가장 많이 사용되는 VLA 모델 벤치마크는 집게달린 로봇 팔의 간단한 물체 상호작용 수준에 멈춰있다. 두 발이 달렸거나, 손가락이 달린 휴머노이드는 아직 학계 표준이 없다. 이는 휴머노이드 실물 하드웨어를 갖출 여력이 있는 연구실도 적을 뿐더러, 사람 모습에 가까워질수록 모델이 제어해야 할 값이 기하급수적으로 늘어나는데 (흔히 관절의 개수에 비례하며, 정확히는 DoF를 의미) 아직 현재의 VLA 모델은 사람 손 하나만큼의 DoF도 잘 제어하지 못한다. 기존의 LLM backbone을 확장한 VLA 모델 구조가 올바른 방향성인지 재고할 필요가 있는 것이다. 
가장 큰 병목은 데이터다. 로봇 학습 데이터셋은 특히 매우 비싸다. 지금 VLA 모델은 기본적으로 모방학습(imitation learning) [15] 기반으로 학습되는데, 사람이 직접 로봇을 조종하여 (teleoperation) 작업을 수행한 데모 데이터가 필요하다는 의미다. 물론 이를 사람이 조작하지 않고 데이터를 생성, 증강하기 위한 연구들이 나오고 있지만, 결국 seed 데이터셋은 사람이 뽑아내야 한다. 실제로 중국에는 거대한 작업실에 로봇팔을 조작하며 물건을 집는 것 만을 반복하는 알바를 고용하고 있고, 우리 연구실에서도 나를 포함해 몇시간씩 장비를 이용해 데이터를 따고 있다. LLM은 인터넷 웹에 존재하는 텍스트를 크롤링하여 쉽게 대용량 학습 데이터를 얻어낼 수 있었지만, 로봇 데이터는 어디에도 기존에 존재하지 않는다. 때문에 데이터셋이 오픈소스로 풀리는 속도도 훨씬 느리다.
그 외에도, generalization, real-time, tactile, dexterity 등 넘어야 할 고지가 많이 남아 있는데, 내가 보기에는 모델 - 데이터 - 하드웨어 (인프라) 모두 비약적인 발전이 아직 필요하다. 산업계도 그렇고, 학계에도 아직 이 바닥에서 확실한 선두가 없고 미지 영역이 많다. 그러나 역시 긍정적인 것은 AI 커뮤니티 특유의 오픈소스 문화가 Physical AI에도 유효하여 많은 기술이 공유되고 있다는 점이다. NVIDIA는 이 관점에서 압도적인 1등공신이다. 국내에도 RLWRLD [16]와 같은 굴지의 스타트업들이 기술을 오픈소스로 공개하고 있다. 빅테크만 혼자 앞서 가는 것이 아니라, 오픈소스 진영도 같이 따라가는 그림이 되었으면 좋겠다. 
 
 
변화와 예측
과학은 계속 가속하여 발전할 것이다. 최근 AI4Science [17] 분야에 대한 관심도와 발전 양상, 그리고 AI 모델의 재귀적 자가 개선 루프(Recursive Self-improvement) [18]가 곧 궤도에 오를 것을 감안할때, 인류의 지식과 기술은 전례 없던 수준으로 확장될 것이다. 이미 dry lab 뿐만 아니라 wet lab 분야에서도 Physical AI를 접목해 오프라인 실험 공정을 자동화하는 스타트업들 [19]이 생기고 있다. 그리고 수학 분야에서는 거장 테렌스 타오가 앞으로 10년 이내에 AI가 수학자들의 반복적인 작업을 대부분 대체할 것으로 예상했다 [20]. 빅테크에서는 이미 AI 모델 개선에 AI를 적극적으로 쓰고 있으며, 슬슬 벤치마크에 AI의 자가 개선 루프 평가를 집어넣고 있다 [21]. 그렇다면, 이 자가 개선 루프가 실현되면 AI 성능의 지속적 발전이 보장되고, 이에 다른 학문들의 발전도 같이 가속된다. 그렇게 된다면 유일한 병목은 사람이다. 예상컨데, 20년 후에는 대부분의 과학 지식이 AI에 의해 발견되고 관리될 것이다. 사람은 그저 받아들이는 수 밖에 없다.
사람들의 기본적인 사고 방식이 변화할 것이다. 과거에는 사람이 지식을 습득하고, 무언가 판단을 내리기 위해서 bottom-up [22] 방식을 지향하였다. 의도적인 부분도 있겠지만, 과거에는 AI와 같은 범용 supervisor가 존재하지 않았다. 때문에 바닥부터 학습하고 구축해나가야 했다. 그러나 지금은 모든 문제를 일단 AI에게 던지고 시작한다. 이른바 top-down 해결 방식이 보편화되어가는 것이다. High-level 단에서의 사고가 우선시 되고, low-level의 디테일과 마이너한 이슈는 AI가 자동적으로 처리하길 기대한다. Top-down 방식의 장점은 학습 속도나 의사 결정 속도가 bottom-up보다 훨씬 빠르다는 점이다. 물론, "down"으로 얼마나 내려갈지는 학습자의 의지에 달렸다. 여기서 양극화가 발생하는데, high-level 사고만 하거나, bottom-up을 고집하는 사람들은 절대 top-down을 빠르고 깊게 파는 사람을 이길 수 없다. 최악은, 이 high-level 사고조차 AI에 의존하는 경우다. 혹자는 이를 두고 '사고외주 [23]'로 표현한다. 이처럼 AI 의존성이 심해질 경우, 어떤 의미로 우리는 AI에게 자아를 빼앗길 수 있다.
Physical AI의 병목이 해결되고 휴머노이드의 자율적인 제어가 가능해진다면, 현실 세계의 모습이 많이 달라질 것이다. 자동차와 컴퓨터 처럼 로봇이 가정마다 보급되고, 공공시설로서도 배치될 것이다. 기업은 제조, 건설업을 포함한 거의 모든 곳에 사람 대신 로봇을 쓸 것이다. 중요한 점은, 안드로이드가 필연적으로 등장할 것이다. 이 의미는 관련된 영화매체 [24]나 게임 [25]을 접해본 사람들은 더 와닿을 수 있다. 기계와 사람의 경계가 옅어지면서 우리는 인격이 부여된 안드로이드에 사람과 같은 인지를 가지게 된다. 즉, AI 인권이 주장될 것이다.
 
 
어떻게 살아가야 하는가
여기까지 글을 쓰면서, AI로 인해 변화할 미래에 대해 조금 과감하게 표현한 감이 없잖아 있다. 그러나 지금껏 과학의 발전으로 인류의 삶이 변화해온 모습을 돌이켜 보면, 우리는 이미 훨씬 더 큰 파도들을 넘어왔다. 인류가 만유인력과 상대성이론, 양자역학을 발견했을때 그렇고, 미생물과 DNA, 페니실린을 발견했을때 그렇고, 전구와 컴퓨터, 스마트폰이 발명되었을때 그러하다. 특히, 우리의 조상들은 조선 후기 서양 문물을 들여오면서 정말 마법같은 경험을 했을 것이다. 이러한 파도가 몰아쳐올때마다 인류사회는 이따금 혼란스러워지고 과도기를 겪었다. 그리고 과학의 힘을 오용하면서, 역사적으로 잘못된 선택을 하기도 했다. 우리는 역사를 되짚고, 뒤집어 올바른 미래를 선택해나가야 한다.
이번에 몰아칠 파도는 아마 인류의 숙제와도 같다. 이전의 지동설과 같이, 우리가 세상의 중심이어야만 하는 인식을 벗겨내야 할 수도 있다. 인간의 대체가 점점 더 쉬워지면서, 인간과 사회, 그리고 국가의 의미에 대해 다시금 고민하게 될 것이다. 갈릴레이가 '그래도 지구는 돈다' 라고 말했듯이, AI 기술의 진보는 비가역적이고 이미 통제할 수 없는 무언가다. 모든 사람이 AI의 혜택을 누리는 동시에, AI에 대체되며 사회 구성원으로서 역할과 정체성이 옅어질 수 있다. 우리가 각자의 세상에서 어떤 위치에 있고, 삶에 어떤 의미를 부여할 것인지, 저마다 깊은 통찰과 고민이 필요하다.
앞으로 어떤 미래가 찾아올지는 누구도 예상할 수 없다. 혹 '멋진 신세계 [26]'와 같은 디스토피아가 찾아올 수도, 아니면 모두가 노동에서 해방된 유토피아가 될 수도 있다. 그러나 앞서 말했듯, 인류의 미래는 결국 인류가 직접 선택하는 것과 같다. 올바른 선택을 하기 위해선 올바른 시야와 사고를 우리 세대에서 굳건히 길러내야 한다. AI에 사고를 잠식당하지 않고, 인간으로서의 정체성과 공동체의 의미를 끝없이 되새기고, 역사를 배워야 한다. 이를 실천하기 위한 나름의 작은 효시로서, 이 글을 단 한번의 AI의 수정과 검토 없이 여러분께 그대로 남긴다.

 
- 마침.

 
 

더 보면 좋은 것들

1. The Thinking Game

    - 구글 딥마인드 수장 데미스 허사비스가 알파고를 탄생시키고 노벨 화학상을 받기까지 여정
2. Terence Tao - How the world's top mathematician uses AI

    - 현 인류 최고의 지성 테렌스 타오의 AI에 대한 생각
3. Yann Lecun on What Comes After LLMs

    - AI 대부 얀 르쿤이 주장하는 LLM의 한계
4. AI 시대 자산격차, 고작 '이 차이'로 확 갈린다

    - AI 발전이 거시 경제와 산업에 미칠 영향
5. 1,000억 투자받은 AI 스타트업 대표의 찐 조언

    - 창업가와 스타트업 씬이 AI를 바라보는 시각