AI 근황

Claude Code Opus가 개발자들 사이에서 널리 사용된 지 한 6개월 정도 지났습니다. Claude Mythos 라는 모델이 최근에 또 발표되었는데, 사이버보안 분야에서 성능이 너무 뛰어나 그 위험성 때문에 대중에게 공개하지는 않고 일부 기업들에게만 우선 공개한다고 합니다.

AI가 여러모로 지각을 변동시키고 있죠. 그래서 여러가지 생각도 들고, 동료 개발자와 여러 이야기도 나누어보면서 드는 생각을 한번 정리해보고 싶어졌습니다.

AI가 그렇게 대단한가?

AI로 인해서 예전에는 시간이 엄청 오래 걸리던 일들을 지금은 순식간에 해낼 수 있게 되었습니다. 아직 공개되지 않은 Mythos 모델의 가격이 월 1,000달러 수준이라고 해도, 생산성을 고려했을 때 더 이득이라는 계산이 나와 결국 사람들이 많이 찾을 겁니다. 이전에는 효율화하기 어려웠던 부분에 AI를 도입할 수 있다는 점이 대단하지요. 그러나 “생산성 향상”이 그 자체로 새로운 지평을 연 건 아니라고 생각합니다.

기술의 발전 속도는 항상 빨라져 왔습니다. 20세기를 지나오면서 이룩한 발전도 인류사에서 유래없이 대단합니다. 이렇게 보면 인류란 정말 대단합니다. 적응력이 대단해요.

AI로 인한 생산성 향상이 더이상 새로운 이야기가 아니게 되는 시점은 오기 마련입니다. 생산성 향상에서 AI가 차지하는 비중이 어느정도 당연해지고, 예측이 가능해지고, 법칙같은 것들이 생긴 세상. 쉽게 상상할 수 있습니다. 사람들은 새로운 형태의 혁신에 또 목말라 할 것입니다.

AI는 본질적으로 도구입니다. 귀찮은 작업을 더 쉽게 만들어줍니다. AI가 도구를 넘어선 무언가라는 주장에는 동의할 수 없습니다. 그건 정치적인 문제입니다.

상실감 극복하기

AI의 훌륭한 능력 때문에 박탈감을 느낀다는 감각에 주목합니다. 나의 능력이었고 나의 자산이었고 나를 표현할 수 있었던 수단이 점차 소멸한다는 느낌, 좀 우울하긴 합니다. 상실감. 이는 정말 어쩔 수 없는 시대의 흐름이네요. 받아들여야지요 뭐… 먼저 온 미래라는 책은 조만간에 읽어보려구요. 바둑계에서 알파고 이후의 시대를 산 사람들의 이야기라고 합니다. 여하튼 중요한 문제는 AI가 우수함에도 불구하고 내가 어떻게 만족하면서 인생을 살 것인가 입니다.

어떻게 만족이란 걸 하냐는 문제는 각자가 답을 찾아야 합니다. 만약 수많은 사람이 노동을 통해 인생의 만족을 얻고 있었는데 AI가 그것들을 전부 빼앗아 간다고 믿는다면, AI의 발전은 정치적 조치에 의해 철퇴가 내려질 것입니다. 지금은 그렇게 느끼는 사람들은 많이 없는 것 같고, 나의 꿈을 좀 더 쉽게 실현해줄 수 있는 훌륭한 도구로 인식하는 것 같습니다. SaaS의 종말이라는 얘기가 나오는 이유도, 이제는 직접 도구를 만들어 사용할 수 있다는 믿음이 퍼져서 그런 거라 생각합니다.

상실감과 별개로, 돈을 벌 수 있냐 없냐는 건 또 다른 문제입니다.

앞으로 돈을 어떻게 벌 것인가?

거대한 금융자본주의의 세계에서 생활하기 위해서는 소비할 수 있는 돈이 필요합니다. 이는 아래 두 가지 방향으로 점진적으로 해소될 거라고 생각합니다. 그 과정에서 누군가는 고통받고 누군가는 호혜를 누리겠지만요.

1. 빠르게 적응하기: 계속해서 변하는 시대 속에서 기가 막히게 적응을 잘 하여 경쟁자를 잘 따돌리거나 완전히 새로운 기회를 잡을 수 있습니다. 어느정도 운도 필요하겠지만 급변하는 세상에선 경쟁 구도가 확확 뒤틀리니까 의외로 할만한 난이도일 수도 있습니다.
2. 정치적 해결: AI로 엄청나게 집중되는 자본은 더욱 심한 불평등을 낳을 것입니다. 그렇게 되면 정치적으로 해결할 수 밖에 없습니다. 몰린 돈을 어떻게든 풀어서 잘 재분배하겠다는 공약을 내건 후보가 당선되지 않을까요.

그나저나 AI를 잘 쓰는 기술이 의미가 있을까요? 전 특별히 의미는 없다고 생각합니다. 엑셀을 잘 다루는 능력이 좋기는 하지만 그것이 어떤 특별한 가치를 창출할 수는 없습니다. AI는 효율적인 도구로서 미약한 가능성을 대단히 크게 확대할 수는 있겠지만 아무것도 없는 데에서는 아무것도 나오지 않을 겁니다. 지금처럼 AI 기술 자체도 확확 변화하는 세상에서는 경쟁자가 쉽게 나를 제칠 수 있기 때문에 메리트가 크지 않고, AI가 어느정도 안정화되어 예측 가능해진 시점에서는 누구나 AI를 잘 쓸 것이기 때문에 메리트가 없습니다. 그 사이 어느 틈에서 한탕 돈 벌 수는 있겠습니다만, 지속할 수는 없습니다.

수요와 공급

AI를 돌리기 위해선 비용이 듭니다. 모두가 더 나은 AI를 원하고 있으니 LLM 모델을 만드는 OpenAI, 구글, Anthropic과 같은 회사들은 기를 쓰고 거액의 투자금을 쏟으며 AI를 발전시킬 것입니다. 시장은 수요보다 공급이 턱없이 낮은 상황이 지속될 것입니다. 회사 입장에서는 어느정도 투자금 회수도 해야 합니다. 따라서 사용료도 계속해서 증가하겠죠. 결국 시니어 개발자만큼의 일을 하고 시니어 개발자 월급 만큼의 사용료가 드는 지점으로 수렴할 것입니다.

그 시점이 언제일진 모르지만, 언젠가 올 것이라는 건 확실합니다. 그때는 인간이 수행했을 때 더 효율적인 직무가 무엇인지 드러날 것입니다. 그 부분은 AI 대신 사람을 고용해서 쓰는게 더 싸게 먹힐 테니 그 쪽의 일자리는 크게 늘어나겠죠.

전 세계 천재들이 LLM의 유통기한을 계속해서 늘리는 바람에 마치 무한한 것처럼 보이지만 거품은 무한대로 커질 순 없습니다(적당한 크기로 꾸준히 이어질 수는 있겠지만…)

AI에 의해서 일을 하지 않아도 되는 세상이 올 것이다?

최소 500년은 걸린다고 생각합니다. 이는 기술이 아니라 정치적인 문제입니다. 권력 관계에 대한 사람들의 근본적인 인식을 바꾸는 일입니다. 권력은 인간과 생물체의 본성입니다. 호모 사피엔스는 30만년 전 등장하여 지금까지 잘 살고 있습니다. 인간으로서의 30만년 관성, 더 크게 보면 생물체로서의 몇억 년 관성이 지금까지 동작한다고 가정한다면, 그 커다란 흐름을 거스르기는 결코 쉬운 일이 아닙니다.

경쟁에서 이기기. 경쟁에서 이기기 위해 협력하기. 지배층이 되는 대신 의무와 책임을 다하기. 피지배층이 되는 대신 보호받기. 그 속에서 시간을 내어 일을 하는 행위는 단순히 돈을 벌기 위한 게 아니라 크고 작은 사회의 구성원으로서 역할을 다하기 위한 질서 유지 수단입니다. 일이 필요 없는 세상은 그런 질서가 사라진 세상입니다. 권력이 표현될 수 없으니 굉장히 평화로울 수 있겠지만 동시에 딱딱하게 경직된 사회일 것입니다. 혹은 권력이 없어져 혼란스러운 사회일 것입니다.

한편, 권력 관계는 고정된 개념은 아닙니다. 인권이 당연해진 것도 불과 몇백 년이 되지 않았고, 여성의 참정권도 겨우 100년 정도의 역사를 가졌습니다. 인류는 시스템을 쌓아올리면서 본성을 극복하는 능력을 가지고 있습니다. 일을 해도 되지 않는 세상은 너무 급진적이라 가까운 미래에 오지는 않겠지만, 대부분의 사람이 지금보다 훨씬 더 평등한 세계에서 창조적인 활동만 해도 질서 있는 사회가 오지 않으리란 법은 없죠. 그래서 한 500년 정도로 생각해봤습니다.

콘텍스트의 한계

콘텍스트는 무한하지 않죠. LLM이 계속해서 쓰인다는 가정하에 콘텍스트가 효율적으로 관리되는 방법은 끊임없이 연구될 겁니다. AI를 소비하는 우리 입장에서는 콘텍스트를 적당히만 잘 관리하면 됩니다. 극한의 효율을 추구하기 보다 모델 자체가 개선되는 걸 기다리는 게 나을 수 있습니다.

가장 해볼만한 건 불필요한 콘텍스트를 제거하는 겁니다. 예를 들면,

• 사용하지 않는, 불필요한 코드 제거 (당장 제거하기 어렵다면 deprecated 표시라도 해주기)
• 중복된 코드나 문서 제거. Single Source of Truth 신경쓰기.

이런 일들은 정적 도구에게 위임할 수 있습니다. 정적 도구는 결정론적(입력이 같으면 결과도 같음)이므로 LLM이 느끼는 부담을 덜 수 있습니다. Lexer, Language Server, ESLint, knip과 같은 도구들은 훌륭합니다.

소비자 관점

사람들은 어디에 돈을 쓸까요?

• 여행을 통해 새로운 세계를 경험하거나 지긋지긋한 일상에서 벗어납니다.
• 멋진 옷이나 근사한 집을 마련하여 자신을 표현하거나 과시하기도 합니다.
• 책을 사거나 수업을 들으면서 지적 욕구를 채웁니다. (혹은 학위를 얻습니다)
• 자녀의 교육비에는 좀 더 높은 계층으로 올라가고자 하는 꿈이 담겨있습니다.
• 자영업을 개시하여 노후를 준비합니다. (하지만 실패 확률도 상당합니다)
• 모임에 나가서 외로움을 극복하고 연결감을 얻으려고도 합니다.
• 도박 중독으로 돈을 허탕하게 날려버릴 수도 있구요.
• 비싼 선물을 사서 이성의 환심을 살 수도 있구요.
• 부동산, 주식투자 등 돈을 불리는 것 자체가 목적이 될 수도 있습니다.

AI가 발전한다고 해서 이런 욕구를 바꿀 수 있는 건 아닙니다. AI는 도구에 불과하므로 위 욕구를 좀 더 잘 채워줄 수 있는 신박한 수단으로 쓸 순 있겠지만, 방향성을 움직이게는 할 수 없습니다.

책임

AI에겐 법적 지위가 없습니다. 개인이나 법인과 달리 어떤 주체로 인정되지 않습니다. 그러므로 책임도 의무도 권리도 없습니다. AI를 소유한 개인/법인이 그 무게를 감당하게 될 겁니다.

소유

최근에 Claude Code 유출 앞에서 불편함을 감각하는 것 이라는 글을 읽었는데요, 좀 인상 깊었습니다. Claude Code의 소스 코드가 유출되는 사건이 있었고 그걸 다운받아서 분석해봤다는 각 개인들의 경험 공유가 만연했는데요, 저도 감각이 뒤틀려있었다는 것을 좀 늦게 깨달았습니다. 유출된 소스 코드는 마치 공공의 정보같은 느낌이 들어 발빠른 사람들은 들춰볼 수도 있겠다는 생각이 들었던 거죠. 왜일까요? AI가 만든 결과물은 독점적으로 누릴 수 있는 대상이라는 인식이 떨어지는 것입니다. 왜죠? 결과물을 만드는 데 AI의 공이 크고, 그 AI는 지구상의 온갖 정보로부터 만들어졌으니, 실제로 독점권을 주장할 수 있는 주체가 안개처럼 흩뿌려져 있다는 느낌 때문인 것 같아요.

본래 중간 다리가 너무 많이 걸쳐져있다면 도덕적 감각은 해이해집니다. 지금 당연하게 생각하고 있는 물질적 헤택이 사실은 수많은 사람들을 착취하여 얻을 수 있었던 거라면? 그러나 이런 자본주의의 민낯을 평소 진지하게 고찰하는 사람들은 그리 많지 않습니다.

AI가 발전하고 있는 가운데 소유권을 주장할 수 있는지 없는지 모르는 회색 지대도 늘어나고 있습니다. 제도가 못따라오고 있다는 말은 맞습니다. 제도는 사람들의 합의가 있어야 만들어질 수 있으므로 그 합의도 없다는 뜻이기도 합니다. 합의를 마냥 기다릴 수도 있고 적극적인 주장으로 합의를 이끌어나갈 수도 있습니다. 또 정치적인 문제네요.

AI가 하지 못하는 것

“지금”이라는 시점으로 일단 좁힙시다. 미래를 생각하면 너무나도 무궁무진하니까요. AI가 못하는 건 당연히 존재합니다.

1. AI가 학습한 부분: 깊은 생각이 필요 없는 일상적인 업무가 될 수 있겠죠. 지식이 이미 세상에 널리 퍼져있다면 왠만한 전문가 수준으로도 가능할 겁니다.
2. AI가 학습하진 않았지만 창의성을 발할 수 있는 부분: 벡터란 방향이 있으므로 그 방향의 조금 더 앞에 미지의 세게가 있다면 거기를 밝은 불로 비치는 것도 가능할 겁니다. 이 세상 어디에도 없던 지식, 정보, 개념을 어느정도 까지는 생성할 수 있다고 생각합니다. 사람보다 뛰어난 결론을 만들어내는 거죠.
3. AI가 닿을 수 없는 부분: LLM이 가질 수 있는 콘텍스트는 한계가 있으며, 그를 벗어나는 콘텍스트를 모두 가지고 있어야 표현할 수 있는 정보는 AI가 다룰 수 없습니다. 콘텍스트의 한계란, 양적인 측면에서의 한계일 수도 있고 우리 사용자의 콘텍스트 주입 능력 부재를 뜻할 수도 있습니다.

그런데 이는 논리적인 이야기이므로 딱히 쓸모는 없습니다.

버리는 글

• 정말 AGI가 나와서 자기 스스로 발전시키는 특이점이 도달하면 어떻게 될까! 제 생각엔 아직 멀기도 했고, 실현됐다고 하더라도 여러가지 정치적 문제 때문에 핵폭탄이 터지는 것처럼 갑작스럽게 영향을 주진 않을 것입니다.
• 지능이란 무엇인가? 글쎄요. 이것도 별로 중요하진 않습니다. LLM이 사고(Think)하는 방식이 인간의 것과 비슷해졌습니다. 사람보다 AI가 코딩을 더 잘한다는 평가도 익숙해졌습니다.