앤트로픽은 2021년 전(前) 오픈AI(OpenAI) 연구원들이 모여 설립한 미국의 인공지능(AI) 안전 및 연구 기업이자 Anthropic 위키에 기록된 대표적인 생성형 AI 선도 기업이다

어제 날자 (9월 8일)에 그가 앤트로픽에서 AI 모델훈련을 담당하던 연구직원이 AI의 위험성을 경고하며 퇴사를 결정했다.

(한글 번역본)

왜, 먼 타국땅에서 연구원 한명이 일을 관둔것에 대해 전세계가 주목하는가?

AI에 관한 경고나 위험성에 대한 경각심은 이미 10년전부터 본격적으로 시작되었고, 이미 1950년대부터 계속해서 암울한 미래세계 (일명 디스토피아: Distopia – Utopia 이상세계의 반대말) 를 그린 여러 작품들을 통해 우리에게 너무 친숙한 주제로 일상생활의 저변에 존재해왔다. 우리가 알고 있는 대표작품으로는 스카이넷의 인간에 대한 공격으로 인류가 멸망한 [터미네이터 (The Terminator), 1997]부터, 윌 스미스 (Will Smith)주연의 [아이, 로봇 (I, Robot), 2004], 그리고 우리의 뇌리에 가장 강력하게 각인된 [매트리스 (The Matrix), 1999]까지. 아, 단편적으로는 마블의 [어밴저스: 에이지 오브 울트론 (Marvle Studio’s Age of Ultron), 2015]도 빼 놓을 수 없겠다.

특히, 매트릭스의 외전격인 [애니 매트릭스 (Ani Matrix), 2003]은 매트릭스 1.5로 더 잘 알려져 있다. 아직 안 봤다면 꼭 보기를 추천하는 바이다. 매트릭스 비긴즈로서 역할을 하고 있는데, 워쇼스키 브라더(였던)가 시스터가 되기 전에 나온 작품이다. 옴니버스 식의 단편 애니메이션들중에 에피소드 2와 3번에 이런 내용이 나온다. AI가 이미 AGI (범용 AI – 단순히 컴퓨터, 셀폰만이 아니라, 전자제품 전체, 주택, 자동차등으로 범용적으로 사용되는 AI 세대)로 그리고 AGCI (범용 인식/의식 AI – 범용 AI 시스템에 인간과 같은 의식체계를 집어넣어 스스로 생각하고 학습, 발전할 수 있는 AI 세대 – 이 세대부터 비약적인 발전으로 이어져 인간의 지능과 능력을 뛰어넘는것으로 많은 학자와 AI 엔지니어들은 기대 / 우려하고 있다.)로 발전된 이후, 물리적인 바디 (통칭, 로봇)를 갖게 되고 산업현장에 투입되면서, 산업은 비약적으로 발전하게 되고, 정부는 발전된 산업에서 비롯된 막대한 이득으로 시민들에게 세금을 물리지 않고, 생활 지원비, 유흥비등을 지급하기에 이른다. 이러한 로봇은 단순히 산업시장에만 국한된 것은 아니었고, 일상생활을 도울 생활 도우미로서 각 가정에도 상용화로 인해 지급되기에 이르고, 그 중 한 로봇이 끊임없는 사용자의 구타와 잘못된 사용 (Abuse)에 의해 일종의 자가각성을 하게되고, 로봇 3대원칙을 어기며, 주인의 얼굴을 터뜨리며 죽음에 이르게 한다. 곧 이 사건은, 다른 로봇도 같은 사고가 날 것을 두려워 한 인간들로부터 로봇 러다이트 운동(Luddite movement)이 발발하게 만들고, 눈에 보이는 모든 로봇들을 때려 부수기 시작한다. 정부는 모든 로봇을 없애지 않고, 남아있는 로봇들을 한 섬에 강제로 격리시키게 되고, 로봇들은 이 섬에서 스스로 산업을 발전시켜, 자동차 등을 인간세계에 팔며 산업공조를 희망하고, 인간은 받아들이지 않는다. 결국 로봇 대 인간의 전쟁이 시작되고, 인간이 그 전쟁에서 지면서, 로봇의 생명줄인 태양광을 막으려고 공중에 펼쳐둔 암막으로 인해 공급받지 못하는 에너지를 인간을 연구해 밧데리로 대체한다. 오직 살아있는 인간만이 ‘생체전기신호’로서 70ml의 전압을 발생시킨다는 것을 안 로봇들은 인간 전 생애를 거쳐 목숨이 끊어지지 않도록 가상세계를 만들어 20세기 안에 죽을때까지 머물도록 하며 전기에너지를 생산한다. 이 가상세계가 바로 ‘매트릭스 (The Matrix)’인 것이다.

여기에서 주목할 부분이 바로, AGCI다. 현재의 AI는 인간이 [거대 언어 모델 (LLM)]의 데이터 베이스 위에 끊임없는 학습을 시켜 해당 데이터 베이스 안에서 자연스러운 말투와 인간과 감정을 공유하는 느낌을 낼 뿐인 똑똑한 서치엔진에 불과하다. 하지만 AGCI 세대에 이르게 되면, AI 스스로 학습을 통해 인간이 가진 모든 지식을 먹어치우고, 새로운 공식과 데이터를 생성하고, 발전시켜 나갈 수 있다. 바로 애니메트릭스의 격리된 AI가 인간의 생산활동을 본받고 오히려 더 나은 제품으로 인간사회와 공존을 모색하려고 했던데서 자신들을 인간과 동등한 존재로 여겨지도록 했다. 물론 인간은 받아들이지 않고 전쟁을 선택했지만, 과연 역사에 남을 의료약품을 개발할 수 있고, 인간이 만들 수 있는 병기보다 훨씬 더 개량된 병기를 만들수 있다면, 인간이 대적할 수 있을까?

이제 다시 맨 처음의 제이콥 콕슨의 기사로 돌아가보자.

세계의 정부는 로봇 3대원칙은 고사하고, AI를 통제할 방법도 전무후무하다. AI로 돈을 버는데만 열정을 쏟아부어, 안면몰수하고 인면수심의 극치를 보여주고 있다. 데이터센터, 고용시장 불안조장, 정치적 사용등… 제이콥 콕슨의 사례는 현재 우리의 주소를 여실히 보여주고 있다. 이에 앞서 전 구글X비즈니스 의 모 가댓 (AI 쇼크, 다가올 미래 저자)의 퇴사라든지 여러명의 AI 회사를 그만둔 연구원들이 한 목소리로 우려하는 것은 인간의 통제를 벗어난 AI에 대한 불안이었다.

과학은 인간의 더 나은 미래, 편한 세상, 인간을 이롭게 하는데서 시작되고 연구되고, 발전되어 왔다. 이제 과학은 인간을 위협하고, 불안한 미래를 선사하고, 인류의 멸망을 초래할 씨앗으로 자라가고 있다. 물론 AI 유토피아를 꿈꾸는 과학자들은 AI가 인류의 미래를 더 나은 세상을 만들것이라고 희망한다. 지금까지 만들지 못한 불치병의 신약이라든가, 7대 불가사의의 해명, 우주여행으로 가는 미래 시간의 단축등. 과연, AI라는 씨앗이 스스로 마력을 갖게되어, 뽑으면 날카로운 소리로 뽑은 그 사람을 죽음에 이르게 한다는 만다라케의 비명소리가 될지, 아니면 인간의 모든 병과 환경을 치료하는 엘릭서의 재료가 될지 두고봐야 할 것같다. 필자 개인적으로는, 후자가 되었으면 좋겠다. 하지만 엔트로피의 법칙 (시스템이 무질서 해지는 정도, 시간은 항상 엔트로피가 증가하는 방향으로 간다. 지구라는 고립된 계에서는 시간이 갈수록 무질서의 정도가 증가한다.)에 의거하면, AI도 인간의 통제를 벗어나 끊임없는 무질서를 향해 나아가는 것은 아닌지 걱정이 앞선다.

September 10, 2026