우리는 이미 사건의 지평선을 넘어섰다. 이륙은 시작되었고, 인류는 디지털 초지능을 만들어내는 데 거의 도달했다. 놀라운 건, 지금까지의 여정이 예상보다 훨씬 덜 기묘하다는 점이다. 거리엔 아직 로봇이 돌아다니지 않고, 대부분의 사람들이 하루 종일 AI와 대화하는 것도 아니다. 사람들은 여전히 병으로 죽고, 우주는 여전히 멀고, 세상에는 우리가 이해하지 못하는 것이 너무 많다.
그럼에도 불구하고, 우리는 이미 사람보다 여러 면에서 더 똑똑한 시스템을 만들었고, 그것을 쓰는 사람들의 생산성을 현저히 증폭시키는 데 성공했다. 가장 가능성이 낮아 보였던 구간은 이미 지나왔다. GPT-4와 o3 같은 시스템을 가능케 한 과학적 통찰은 치열하게 쟁취한 것이며, 이는 우리를 훨씬 더 먼 곳으로 이끌 것이다.
AI는 다양한 방식으로 세상에 기여할 것이지만, 과학 발전과 생산성 증대가 삶의 질에 주는 이득은 엄청날 것이다. 미래는 현재보다 훨씬 더 나아질 수 있다. 과학의 발전은 인류 전체 진보의 가장 큰 원동력이며, 앞으로 우리가 누릴 수 있는 것이 얼마나 더 많아질지 생각하면 가슴이 뛴다.
어떤 의미에서, ChatGPT는 이미 역사상 존재한 어떤 인간보다 더 강력하다. 수억 명의 사람들이 매일, 점점 더 중요한 일에 그것을 사용하고 있다. 작은 기능 하나가 막대한 긍정적 영향을 낳을 수 있고, 반대로 사소한 오차 하나가 수억 명에게 확대되면 부정적 영향도 커질 수 있다.
2025년, AI 에이전트는 실제 '인지적 업무'를 수행하기 시작했다. 코딩은 더 이상 예전 같지 않다. 2026년엔 새로운 통찰을 스스로 발견하는 시스템이 등장할 가능성이 크다. 2027년엔 실제 세계에서 업무를 수행할 수 있는 로봇이 등장할지도 모른다.
더 많은 사람들이 소프트웨어와 예술을 만들 수 있게 될 것이다. 하지만 세상은 이 둘을 훨씬 더 많이 원하며, 전문가들은 새로운 도구를 받아들일 때 여전히 초심자보다 훨씬 뛰어날 것이다. 일반적으로, 2030년에 한 사람이 해낼 수 있는 일이 2020년에 비해 훨씬 많아진다는 사실 자체가 세상의 구조를 바꿔놓을 것이다.
하지만 가장 중요한 측면에서, 2030년대는 여전히 우리가 사랑하는 것들 -- 가족, 창작, 게임, 호수에서의 수영 --을 간직한 시대일 것이다. 동시에, 전혀 새로운 시대로 진입할 가능성도 높다. 인간 수준의 지능을 넘어서 얼마나 멀리 갈 수 있을지는 아무도 모르지만, 곧 그 답을 보게 될 것이다.
2030년대는 지능과 에너지, 즉 '아이디어'와 '그것을 실현할 수 있는 능력'이 넘쳐나는 시대가 될 것이다. 이 두 가지는 오랫동안 인류 발전의 병목이었다. 지능과 에너지가 풍부해지고, 좋은 거버넌스만 갖춰진다면 이론 상 우리는 어떤 것도 가질 수 있다.
우리는 이미 경이로운 디지털 지능과 함께 살고 있다. 처음엔 충격적이지만, 대부분의 사람들은 곧 익숙해진다.
"AI가 멋진 문장을 써주는 것"에서 놀랐다가, "언제쯤 소설 전체를 써줄까?"로,
"생명을 구하는 진단을 해준다"에 놀랐다가, "언제쯤 치료제를 만들까?"로,
"작은 프로그램을 짜준다"에 놀랐다가, "언제쯤 새로운 회사를 만들어줄까?"로
이게 바로 특이점(singularity)의 작동 방식이다.
기적은 곧 일상이 되고, 일상은 곧 기본 전제가 된다.
과학자들은 이미 "AI 덕분에 생산성이 2-3배 높아졌다"고 말하고 있다. 고급 AI가 의미 있는 이유는 많지만, 그 중에서도 AI를 활용해 AI를 더 빨리 연구할 수 있다는 사실이 가장 중요할지도 모른다. 새로운 컴퓨팅 재료, 더 나은 알고리즘, 그 외 무엇이든 발견할 수 있다. 만약 10년치 연구를 1년 혹은 1달 안에 할 수 있다면, 진보의 속도는 분명히 달라질 것이다.
우리가 만든 도구들은 앞으로의 과학적 통찰을 돕고, 더 나은 AI 시스템을 만드는 데 기여할 것이다. 물론 이것은 AI가 스스로 코드를 완전히 재작성하는 것과는 다르지만, (AI가 스스로 더 똑똑해지는) '재귀적 자기 개선'의 초기 단계라 볼 수 있다.
여기엔 다른 자기 강화 고리들도 있다. 경제적 가치 창출이 시작되었고, 이로 인해 강력한 AI 시스템을 돌릴 인프라가 기하급수적으로 확장되고 있다. 로봇이 로봇을 만들고, 데이터센터가 데이터센터를 만드는 시대도 멀지 않다.
초기 100만 대의 휴머노이드 로봇을 기존 방식으로 만들더라도, 이후 그 로봇들이 광물 채굴, 정제, 운송, 공장 운영 등 공급망 전체를 담당하며 더 많은 로봇을 만들 수 있다면, 더 많은 칩 생산 설비와 데이터센터도 가능해진다면, 진보의 속도는 상상 이상이 될 것이다.
데이터센터 생산이 자동화되면, '지능의 비용'은 결국 전기료 수준으로 수렴하게 될 것이다. (사람들이 자주 궁금해하는 것 중 하나가 "ChatGPT가 얼마나 에너지를 쓰는가?"인데, 평균 쿼리는 약 0.34와트시를 쓴다. 이는 오븐을 약 1초 작동시키거나, 고효율 전구를 몇 분간 켜는 수준이다.)
기술 진보의 속도는 계속 가속화될 것이고, 인간은 거의 어떤 변화든 적응할 수 있는 존재라는 사실은 앞으로도 계속 증명될 것이다. 물론 힘든 부분도 많을 것이다. 직업군 전체가 사라질 수도 있지만, 반대로 세상은 너무나 빠르게 부유해질 것이므로 우리가 지금껏 고려하지 못한 새로운 정책들도 실현 가능해질 것이다. 새로운 사회계약은 하루아침에 만들어지지 않겠지만, 수 십 년 후 뒤돌아보면 '점진적 변화'가 거대한 전환이 되어 있을 것이다.
역사가 말해주듯, 우리는 새로운 것을 하고, 새로운 것을 원하게 되며, 새로운 도구를 빠르게 받아들인다. (산업혁명 이후의 직업 변화가 좋은 예다.) 기대는 올라가겠지만, 능력도 함께 올라가며, 우리는 더 좋은 것을 함께 만들어낼 것이다.
사람은 AI보다 근본적으로 갖고 있는 장점이 있다.
우리는 본능적으로 타인을 신경 쓰고, 그들의 생각과 감정에 반응하지만, 기계에는 관심이 없다.
천 년 전의 생계형 농부가 오늘날 우리를 본다면, "가짜 직업"이라 여길 것이다. "배부르고 호사스러워서 그냥 노는구나"라고 생각할 것이다. 나는 우리가 천 년 후의 사람들을 보며 똑같이 "가짜 직업 같지만...그들에게는 엄청나게 의미 있고 만족스러운 일이겠구나"라고 느끼기를 바란다.
2035년까지 우리가 발견할 '새로운 경이'는 상상하기 어렵다. 고에너지 물리학을 해결한 다음해에 우주 식민화를 시작할 수도 있고, 신소재 과학의 돌파구 다음 해에 진짜 뇌-컴퓨터 인터페이스가 가능해질 수도 있다. 많은 사람은 예전처럼 살겠지만, 어떤 사람들은 스스로 '완전히 연결된 존재'로 선택할지도 모른다.
미래를 상상하기는 어렵지만, 실제로 겪는 것은 그리 두렵지 않을 것이다.
상대성적 관점에서 보자면, 특이성은 점진적으로 일어나고, '병합(merge)'도 서서히 이루어진다. 기술 진보의 곡선은, 앞을 보면 수직이고, 뒤를 보면 평탄하지만, 실제로는 부드러운 하나의 곡선이다. (2020년에 "2025년쯤 AGI에 가까워질 거야"라고 말했지만 미친 얘기처럼 들렸을 테지만, 실제로 지난 5년은 그렇게 흘렀다.)
물론 수많은 기회와 함께, 해결해야 할 심각한 과제도 존재한다. 우리는 기술적 사회적 측면에서 AI의 안전성을 반드시 확보해야 하고, 초지능에 대한 접근성을 공정하게 분배하는 것도 매우 중요하다.
가장 좋은 경로는 이럴 수 있다.
1. 정렬 문제(alignment problem)을 푼다. 즉, AI가 장기적으로 인류가 진정으로 원하는 것에 따라 학습하고 행동하도록 보장한다. (예 : 소셜 미디어 피드는 오정렬된 AI의 대표 사례다. 알고리즘은 당신이 계속 스크롤하게 만드는 데는 능하지만, 뇌의 단기 욕구를 자극해 장기 목표를 무시하게 만든다.)
2. 이후 초지능을 값싸고, 널리 접근 가능하게 만들되, 특정 개인, 기업, 국가가 독점하지 않도록 한다.
사회는 회복력 있고, 창의적이며, 빠르게 적응한다.
우리가 사람들의 집단적 의지와 지혜를 활용할 수 있다면, 실수는 있겠지만 빠르게 학습하고 적응하며, 이 기술을 최대한의 이익과 최소한의 손실로 활용할 수 있을 것이다.
사용자에게 많은 자유를 주되, 사회가 정한 '광의의 경계' 안에서 작동하게 하는 것이 중요하다. 그 경계를 어떻게 정하고, '집단적 정렬'을 어떻게 정의할지에 대한 논의는 하루라도 빨리 되어야 한다.
우리는 (Open AI뿐만 아니라 전체 업계가) 세상을 위한 뇌를 만들고 있다. 매우 개인화될 것이며, 모두가 쉽게 쓸 수 있을 것이다. We will be limited by good ideas. 오랫동안 스타트업 업계의 기술자들은 "아이디어맨"을 놀렸다. 아이디어만 있고, 그것을 만들어줄 팀을 찾는 사람들 말이다.
이제 그들의 시대가 오고 있다.
Open AI는 지금 다양한 일을 하지만, 그 모든 것에 앞서 우리는 '초지능 연구 회사'다. 앞으로 해야 할 일이 많지만, 대부분의 길은 이제 환하게 밝혀졌고, 어둠은 빠르게 물러나고 있다. 우리는 지금 이 일을 할 수 있음에 그저 깊이 감사할 따름이다.
계량이 불가능할 만큼 저렴한 지능(intelligence too cheap to meter)은 이제 눈앞에 있다.
이 말이 미친 소리처럼 들릴 수도 있겠지만, 2020년에 지금 이 상황을 예측했다면 더 말도 안 되는 소리처럼 들렸을 것이다.
부디, 우리 모두가, 부드럽고, 기하급수적으로, 그리고 별 탈 없이 초지능으로 향해 가기를.
레퍼런스
최근댓글