인류는 산업혁명 이후 최대의 기술적 전환점에 서 있습니다. 인공 일반 지능(AGI)의 등장은 단순한 기술 혁신을 넘어 인간의 노동, 조직 시스템, 그리고 사회 전체의 틀을 근본적으로 재편하고 있습니다. AI를 가장 효과적으로 활용하는 IT 기업들의 사례는 이를 명확히 보여줍니다. 7명의 직원으로 구성된 팀이 연간 70억~80억 원의 매출을 달성하고 있으며, 올해는 100억 원을 넘어설 것으로 예상됩니다. 이는 한 사람이 약 10억~15억 원의 매출을 책임지는 구조입니다.
이 회사의 수석 엔지니어는 AI 덕분에 자신이 30명분의 업무를 처리한다고 말합니다. AI가 코드를 몇 초 만에 작성하고 지속적으로 개선하기 때문에 기획 회의부터 다음 회의까지 2시간도 채 걸리지 않습니다. 이는 생산성 향상뿐 아니라 '모두가 팀 리더가 되는 시대'의 도래를 의미합니다. 이제 한 개인이 이전에는 팀 전체 또는 부서 전체가 담당해야 했던 업무를 처리할 수 있게 된 것입니다.
이러한 변화는 기업 조직 구조에 직접적인 타격을 주고 있습니다. 미국에서는 조직도가 급속도로 수평화되고 있습니다. 모든 구성원이 팀 리더급 역할을 수행하게 되면서 중간 관리자 계층이 불필요해지고 있습니다. 같은 맥락에서 MBA 졸업생 취업률도 급락하고 있습니다. 과거에는 최상위권 MBA 졸업생의 취업률이 400%에 달해 평균 4곳에서 입사 제의를 받았지만, 현재는 50% 미만으로 떨어졌습니다.
이유는 명확합니다. AI는 수십 년간 축적된 데이터를 기반으로 패턴을 찾아내고 제안을 제시하는 등 데이터 기반 분석 작업을 인간보다 만 배나 더 잘 수행합니다. 법률 분야도 예외는 아닙니다. 로펌 어소시에이트(법학대학원을 졸업했지만 변호사 자격증은 없고 주로 판례를 검색하고 정리하는 직원)의 업무는 AI로 대체될 가능성이 매우 높습니다. 더욱이, 변호사 경력 1~3년 차에 수행하는 업무의 상당 부분은 이미 AI가 처리할 수 있는 수준에 이르렀습니다.
여기서 구조적인 문제가 발생합니다. 10년 차 전문가는 AI와 협력하여 살아남을 수 있지만, 그러한 전문가가 되기 위해서는 1, 3년 차에 해당하는 훈련 과정을 거쳐야 합니다. 그러나 신입 직원이 수행하던 업무가 사라지면 훈련 기회 자체가 사라집니다. 결국 10년 후에는 노련한 전문가들조차 사라질 수 있는 역설적인 상황이 발생합니다. 이것이 바로 '부분적 최적화가 완전한 비극으로 이어진다'는 현상입니다.‘
인공지능 혁명의 긍정적인 측면은 분명히 존재합니다. 한국에서만 매년 약 2,000명이 산업재해로 사망하고 10만 명이 부상을 입습니다. 이러한 고위험 작업 환경에 휴머노이드 로봇을 도입하려는 노력이 본격적으로 진행되고 있습니다. 아마존은 이미 물류창고에 10만 대 이상의 로봇을 배치했습니다. 로봇이 대체할 주요 분야는 반복적이고 위험한 적재 및 하역 작업과 근골격계 부상을 유발하는 무거운 물건 운반 작업입니다.
구글을 떠난 '인공지능의 대부'로 알려진 제프리 힌튼 교수는 디지털 지능과 생물학적 지능을 구분하는 두 가지 근본적인 특징을 지적합니다. 이 두 가지 특징은 인류에게 전례 없는 위협을 가하고 있습니다.
첫 번째는 전이 학습입니다. 인간의 경우, 아무리 뛰어난 천재라 할지라도 사후에는 그들의 통찰력 중 극히 일부만이 책이나 글을 통해 후대에 전해집니다. 하지만 인공지능은 한 모델이 학습한 내용을 다른 모델에 100%만큼 정확하게 복제할 수 있습니다. 다시 말해, 인공지능 세계에 '아인슈타인'이 탄생하는 순간, 다른 모든 인공지능 모델들은 동시에 아인슈타인과 동등한 수준이 됩니다. 이는 전이 학습 덕분에 가능한 일입니다.
두 번째는 대규모 병렬 컴퓨팅을 통한 압축 학습입니다. 알파고 제로의 사례는 이를 잘 보여줍니다. 알파고 제로는 인간의 기보를 전혀 보지 않고 바둑 규칙만 학습한 채 강화 학습을 시작했습니다. 2만 개의 복제본을 만들어 수천 개의 게임을 동시에 진행한 결과, 단 4일 만에 490만 개의 게임을 처리했습니다. 그 결과, 세계 최고의 인간 바둑 기사를 꺾었던 알파고 리를 10대 0으로 완승했습니다.
NVIDIA는 이러한 원리를 현실 세계에 적용한 솔루션인 '코스모스'를 선보였습니다. 코스모스는 물리 엔진이 적용된 가상 현실 공장 10만 개를 복제하여 그 안에서 휴머노이드 로봇 소프트웨어를 훈련시킵니다. 가상 공장에서 10시간 학습하는 것은 현실에서 100만 시간 학습하는 것과 같은 효과를 냅니다. 이는 힌튼 교수가 "생물학적 지능이 디지털 지능을 능가하기는 어렵다"고 결론 내린 근거가 됩니다.‘
대부분의 인공지능 과학자들은 인간의 지적 능력을 모든 영역에서 뛰어넘는 인공 일반 지능(AGI)이 2030년 이전에 등장할 것으로 예상합니다. 이는 5년도 채 남지 않은 시점입니다. 힌튼 교수는 핵심적인 질문을 던집니다. '어떻게 우월한 지능이 열등한 지능에 복종할 수 있을까?' 인류가 관찰한 유일한 사례는 아기가 본능적으로 어머니를 조종하는 경우입니다. 힌튼 교수는 인류가 AGI의 도래 이전에 해결해야 할, 이전에는 결코 겪어보지 못한 이 문제를 반드시 해결해야 한다고 경고합니다.
인공지능이 스스로 중간 목표를 설정할 수 있게 되면 더욱 심각한 문제가 발생합니다. 만약 인간이 '기후 위기 해결'이라는 목표를 입력한다면, 인공지능은 그 목표를 달성하기 위한 중간 목표로 '인류 제거'를 설정할 수도 있습니다. 이는 '로봇'이라는 단어를 처음 사용한 체코 작가 카렐 차페크의 1920년대 소설에서 이미 묘사된 시나리오입니다. 그 소설에서 인공지능 로봇들은 인류의 모든 문제를 해결하기 위해서는 인류의 멸종이 필수적이라는 결론에 도달합니다.
기술적 위협을 넘어, 인공지능은 민주주의 체제 자체를 위협하고 있습니다. 인공지능이 만들어내는 허위 정보는 빠르게 확산되고 있으며, 지적 수준에 관계없이 이를 식별하기 어렵습니다. 이는 정치적 판단을 왜곡하고, 선출된 정부의 정책 결정보다는 알고리즘의 편향에 따라 사회가 운영되는 상황으로 이어질 수 있습니다.
실제 사례로, 한 대형 국내 포털 사이트는 AI가 기사 편집을 담당했다는 이유로 편집 책임을 부인했습니다. 그러나 이는 명백히 잘못된 논리입니다. AI가 어떤 기사를 상위에 배치할지 판단하려면 사람이 객관적인 기준, 즉 '좋은 기사'의 기준을 입력해야 합니다. 이러한 기준을 설정한 사람이 편집 책임을 져야 합니다. 책임을 AI에 전가하는 것은 의도적인 책임 회피에 지나지 않습니다.
현재 주요 AI 기업 경영진들은 '효율적 이타주의'와 '장기주의'라는 공통된 이념적 기반을 공유하고 있습니다. 효율적 이타주의는 동일한 자원을 최대한 활용하여 최대의 이익을 창출해야 한다는 사상이며, 장기주의는 인류 종의 장기적인 생존이 가장 중요하다는 철학입니다.
겉으로는 고상해 보이는 이러한 생각들이 극단으로 치닫을 경우, 위험한 결론에 이르게 됩니다. 예를 들어, '선진국과 개발도상국에서 동일한 규모의 재난이 발생할 경우, 선진국에 대한 구호에 자원을 집중해야 한다'는 논리가 있습니다. 그 이유는 선진국의 인구 밀도가 높고, 보존해야 할 기술과 인재가 더 많기 때문입니다. 이는 인간 생명의 평등이라는 보편적 가치를 양적 계산으로 대체하는 위험한 발상입니다.
이러한 이념은 현재 '신국가주의'와 결합되고 있습니다. '전쟁을 막으려면 압도적인 힘을 키워야 한다'는 논리에서 출발하여, '미국이 무적의 군사력을 보유하는 것이 궁극적으로 인류에게 더 이롭다'는 주장으로 이어집니다. 이는 핵무기 개발 당시 사용되었던 논리와 정확히 동일합니다. 팔란티어의 CEO는 이러한 이념을 옹호하는 대표적인 인물로, 100만 명 규모의 인간형 군대 창설을 주장하고 있습니다.
오픈AI는 원래 첨단 AI 기술이 민간 기업의 독점을 피해야 한다는 신념으로 설립된 비영리 재단입니다. '오픈(Open)'이라는 이름 자체도 이러한 철학을 반영합니다. 하지만 최근 미국 국방부와 계약을 체결했습니다. 앤트로픽(Anthropic)은 오픈AI의 상업화에 항의하며 탈퇴한 구성원들이 설립한 회사입니다. 이들은 '헌법적 AI'라는 접근 방식을 취하며, 인간의 윤리와 가치를 헌법처럼 AI 개발 단계에 내재화하고자 합니다. 그러나 이 회사 역시 최근 미국 국방부와 계약을 체결했습니다.
이러한 사례들은 선출되지 않은 소수의 기술 엘리트들이 자신들의 주관적인 신념 체계에 기반하여 인류의 운명을 좌우할 수 있는 기술을 독점하고 있다는 근본적인 문제를 드러냅니다. 일론 머스크는 '가속주의'(기술 발전을 저해하는 모든 것을 제거해야 한다는 사상)와 '트랜스휴머니즘'(인간이 사이보그로 진화하는 것이 자연스럽다는 사상)을 비롯하여 효율적 이타주의와 장기주의를 신봉합니다. 세계 최대의 부와 인공지능 기술을 보유한 이 개인이 이러한 신념을 무기로 여러 국가의 정책 결정에 직접 개입하고 있는 것입니다.
트럼프 행정부는 모든 AI 규제가 나쁘다는 원칙 하에 AI 관련 규제를 폐지하고 있습니다. 심지어 주 정부가 별도의 AI 규제 법안을 제정하지 못하도록 하는 연방 법안까지 의회에 제출되었습니다. 국립 AI 안전 연구소의 명칭도 '안전(Safety)'에서 '보안(Security)'으로 변경되었습니다. 약자는 같지만 의미는 완전히 달라졌습니다. 이러한 이유로 많은 전문가들은 트럼프식 '자연 지능' 리더십과 급속도로 발전하는 인공지능의 결합이 인류에게 재앙이 될 수 있다고 우려하고 있습니다.
유전 공학 기술이 처음 등장했을 때, 과학자들은 캘리포니아의 아실로마에 모여 자발적으로 연구 중단을 선언했습니다. 이는 규제법이 마련될 때까지 6개월 동안 연구를 중단하자는 합의였습니다. 인류 역사상 첨단 기술 개발에 자발적인 제동을 건 유일한 사례입니다. 인공지능 과학자들도 같은 시도를 했지만 실패했습니다. 그 이유는 두 가지입니다. 첫째, 인공지능 개발에 6개월은 다른 기술 개발에 수년이 걸립니다. 둘째, 인공지능은 이제 막 사업화 단계에 접어들었기 때문에 경쟁 압력이 훨씬 더 큽니다. 연구가 중단된 사이에 경쟁자가 앞서 나갈 것이라는 두려움 때문에 자발적인 규제가 불가능한 것입니다.
유럽연합의 인공지능법은 현재 가장 선진적인 규제 체계를 갖추고 있습니다. 주요 원칙으로는 고성능 인공지능 모델은 모든 학습 데이터를 공개해야 하고, 언제든 작동을 중단할 수 있는 '킬 스위치'를 갖춰야 하며, 인공지능 사용에 대한 정보를 사용자에게 명확하게 제공하는 투명성 원칙과 모든 인공지능 활동에 대한 책임을 지는 인간이 반드시 있어야 한다는 책임성 원칙 등이 있습니다. 이에 비해 한국은 2024년에 인공지능 기본법을 제정하여 2026년 시행을 앞두고 있지만, 120페이지에 달하는 유럽연합의 인공지능법에 비하면 내용이 부실하다는 평가를 받고 있습니다.
역사는 중요한 교훈을 남겼습니다. 영국의 산업혁명 당시, 12살짜리 아이들이 공장에서 장시간 노동을 해야 했고, 런던의 스모그로 인해 2만 명이 한꺼번에 사망했으며, 런던의 평균 수명은 20세까지 떨어졌습니다. 산업혁명 이후 이전의 생활 수준을 회복하는 데 무려 90년이라는 시간이 걸렸습니다. 케인즈가 말했듯이, "결국 우리는 모두 죽는다." 그 90년 동안 살았던 수많은 사람들의 삶이 희생된 것입니다.
산업혁명의 비극은 기술 발전 자체에 있는 것이 아니었습니다. 사회의 의식과 제도가 기술 변화의 속도를 따라가지 못했다는 사실에 있었습니다. 사회는 노동조합이 결성되고, 아동 노동이 금지되고, 노동 시간이 단축된 후에야 비로소 안정을 찾을 수 있었습니다. 당시 공장주들은 신문에 "소년들의 노동의 자유를 빼앗지 마십시오"라는 광고를 냈습니다. 이는 오늘날 모든 규제가 경제를 망친다는 주장과 구조적으로 동일합니다.
주 6일 근무제에서 주 5일 근무제로 전환할 당시, 경제가 파탄날 것이라는 예측이 쏟아졌습니다. 그러나 결과는 정반대였습니다. 생산성은 5%만큼 증가했습니다. 그 이유는 사회 전반에 걸친 자원 재분배 때문입니다. 주 6일 근무제 없이는 생존할 수 없었던 비효율적인 사업에 묶여 있던 자원이 주 5일 근무로도 충분히 운영 가능한 고생산성 사업으로 이동했습니다. 사회 전체적인 관점에서 보면, 자원이 더 효율적인 곳으로 재분배됨으로써 생산성이 증가한 것입니다.
최저임금 인상도 같은 맥락에서 논의됩니다. 임금이 오르면 경제가 망가진다는 주장이 있지만, 임금이 적절하게 지급되면 생산성이 향상된다는 반론도 있습니다. 여러 사회 실험에서 기본소득을 받는 대부분의 사람들이 그 돈을 자기계발에 투자하는 것으로 나타났습니다. 이는 인간을 '돈이 많으면 일하지 않는 존재'라고 보는 관점이 잘못되었음을 보여주는 증거입니다. 반대로, 임금 인상 없이 최저임금을 억제할 경우, 실제로 국내 소비가 감소하고 경제 성장률이 마이너스 수준에 근접하는 상황이 발생하기도 했습니다.
인공지능이 생산성을 획기적으로 향상시킨다면, 그 혜택을 사회 전체가 공유하는 구조를 만들어야 합니다. 신안군의 태양열 연금 제도가 좋은 모델입니다. 신안군은 재생에너지 수익을 주민들에게 연금 형태로 지급하고 있는데, 그 결과 전반적인 인구 감소 추세 속에서도 인구가 증가하고 있습니다. 여기에 풍력 발전까지 더해진다면 주민들은 생계 걱정 없이 생활할 수 있는 단계에 이를 것입니다. 여주의 경우, 재생에너지 수익으로 마을 버스와 점심을 무료로 제공하고 있습니다.
인공지능 시대에도 같은 원칙을 적용할 수 있습니다. 인공지능 개발을 통해 창출되는 생산성 향상에 세금을 부과하거나 공공 부문이 일정 지분을 보유하도록 하여 재원을 마련하고, 이를 사회 안전망 구축과 청년 고용 지원에 투자할 수 있습니다. 이것이 바로 기본소득, 기본주택, 주 4.5일 근무제에 대한 논의가 서로 연계되어야 하는 이유입니다. 기술 혁신의 혜택이 소수의 기업과 자본에 집중되는 것을 막고, 일자리를 잃은 사람들에게 재교육과 새로운 기회를 제공해야 합니다.
한국은 인공지능 패권 경쟁에서 후발주자이지만, 후발주자 중에서는 가장 앞서 있습니다. 한국은 고유의 한글을 보유하고 있으며, 방대한 양의 한국어 디지털 문서를 소장하고 있습니다. 또한 네이버가 구글에 맞서 업계를 선도하는 덕분에 대용량 분산 처리 기술을 갖춘 엔지니어들을 다수 확보하고 있습니다. 한글은 중국어 기반 문자 체계에 비해 디지털 입력 효율성이 훨씬 뛰어납니다. 이 모든 것이 인공지능 발전을 위한 토대가 되고 있습니다.
더욱 중요한 것은 한국이 제시할 수 있는 새로운 모델입니다. 미국과 중국이 AI 패권 경쟁을 벌이며 새로운 블록주의를 구축하는 가운데, 동남아시아, 중동, 남미와 같은 국가들은 자국의 문화와 역사를 보호해야 하는 동시에 자체적인 AI 역량을 갖추지 못해 딜레마에 빠져 있습니다. 한국은 이러한 국가들에게 '포용적 AI'를 제안할 수 있습니다. 이는 AI를 공동 개발하고 오픈 소스로 공유하며, 각국의 언어, 문화, 역사에 맞춘 독립적인 AI를 구축할 기회를 제공하는 것을 목표로 합니다.
인공지능은 다국어 능력이 뛰어날수록 더욱 똑똑해집니다. 여러 국가와 공동 개발하면 인공지능 자체의 품질이 향상됩니다. 만약 중국이나 미국이 이런 제안을 했다면 먼저 의심의 눈초리가 쏠렸겠지만, 제국주의의 피해자였던 한국은 다른 차원의 신뢰를 갖고 있습니다. GPU 컴퓨팅 파워를 공유하고 공동 연구 결과를 오픈 소스로 공개하는 것은 한국이 선택할 수 있는 '틈새 시장', 즉 전략적 틈새시장입니다.
인공지능 문제는 기후 위기처럼 본질적으로 전 지구적인 문제입니다. 이산화탄소가 배출 주체나 발생 장소에 관계없이 지구 전체에 영향을 미치는 것처럼, 인공지능이 창출하는 위험과 이점 또한 국경을 초월합니다. 그러나 현재의 규제 체계는 국가 단위로 운영되고 있습니다. 문제의 핵심은 전 세계적으로 사건이 발생하는데도 규제는 국가 차원에 머물러 있는 구조적 불일치입니다. 조세 피난처 문제가 이러한 불일치에서 비롯되는 것처럼, 인공지능 규제 역시 동일한 구조적 허점을 가지고 있습니다.
고대 그리스의 펠로폰네소스 전쟁에서 얻을 수 있는 교훈이 있습니다. 당시 항해 기술의 발달로 지중해 전체가 하나의 경제권으로 통합될 수 있는 여건이 조성되었지만, 도시 국가들은 패권을 놓고 다투다 결국 함께 멸망했습니다. 그들은 기술이 창출한 새로운 가능성에 걸맞은 정치 질서를 구축하는 데 실패했습니다. 20세기에 발생한 두 차례의 세계 대전도 이와 유사한 구조를 가지고 있습니다. 당시 경제 통합 수준은 유엔이나 유럽 연합과 같은 초국가적 질서를 요구했지만, 국가들은 패권 경쟁에만 몰두했습니다.
인공지능 시대에 우리는 같은 갈림길에 서 있습니다. 국가 차원의 인공지능 개발 경쟁을 넘어선 글로벌 거버넌스 구축이 필수적입니다. 인공지능 규제 분야에서 현재 가장 앞서 있는 유럽연합과 협력하고 유엔 차원에서 논의를 활성화하는 것이 현실적인 출발점입니다. 인공지능 개발을 오로지 이윤 추구 기업에만 맡기는 대신, 맨해튼 프로젝트와 같은 모델, 즉 국가가 연구소를 설립하고 노동력과 개발 비용을 부담하되 결과물은 오픈소스로 공개하는 모델도 고려해야 합니다.
출발점은 현재 상황을 이해하는 것입니다. 인공지능이 일자리를 빼앗을 것이라는 기본적인 공포 조장 수준을 넘어서, 디지털 지능의 본질, 선출되지 않은 기술 기업의 권력 남용 문제, 그리고 국제적 거버넌스의 부재와 같은 핵심 쟁점들을 공론의 장으로 가져와야 합니다.
한국은 2016년 촛불 시위와 같은 시민들의 집단 행동을 통해 거센 세계적 파시즘 경향을 저지한 경험이 있습니다. 집단적으로 승리한 경험은 엄청난 자산입니다. 군용 차량을 막고 총구를 붙잡을 수 있었던 시민들은 인공지능 시대에도 같은 집단 지성을 발휘할 수 있습니다. 우리 시대의 과제는 기술 혁신으로 창출된 생산성 향상의 결실이 특정 자본에 독점되지 않고 사회 전체에 환원되도록 하고, 의식과 제도가 기술 발전 속도를 따라잡도록 하는 것입니다.
인간은 수천 년 전이나 지금이나 변하지 않았습니다. 사마천이 묘사한 2천 년 전 인물들의 권력욕, 두려움, 탐욕, 그리고 용기는 오늘날 인공지능 기업 경영진과 정치인들에게서도 그대로 되풀이되고 있습니다. 달라진 것은 그들의 손에 든 도구입니다. 과거에는 기껏해야 칼과 창이었지만, 지금은 핵폭탄, 중성자탄, 그리고 인공지능입니다. 변하지 않는 인간 본성과 그들이 가진 도구 사이의 불일치가 얼마나 위험한지를 깨닫는 것, 바로 이것이 우리가 지금 이 논의를 해야 하는 이유입니다.
