오펜하이머와 AI

최근 크리스토퍼 놀란의 《오디세이》를 인상 깊게 본 뒤, 뒤늦게 《오펜하이머》에도 관심이 생겨 이제야 영화를 찾아보게 되었다.

영화를 보는 동안 의외로 자꾸 지금의 AI 시대가 겹쳐 보였다. 전혀 다른 시대와 기술을 다루고 있지만, 새로운 힘을 발견한 사람들이 그 가능성에 매료되고, 그것이 가져올 영향을 어느 정도 알고 있으면서도 경쟁과 필요 속에서 계속 앞으로 나아가는 모습이 낯설지 않았기 때문이다.

특히 영화를 보고 난 뒤에는 한 가지 생각이 계속 맴돌았다. 기술이 강력해질수록 중요한 것은 단순히 무엇을 할 수 있는지가 아니라, 그 힘으로 무엇을 할 것인지에 대한 판단일지도 모른다는 것.

AI가 개인의 생산성과 영향력을 이전과 비교하기 어려울 정도로 키우고 있는 지금, 이 질문은 오펜하이머의 시대보다 우리와 더 가까운 문제가 되어가고 있다.

그래서 《오펜하이머》를 보며 떠올랐던 생각들을 AI 시대의 ‘책임감 있는 영향력’이라는 관점에서 한번 정리해보려고 한다.

맨해튼 프로젝트

맨해튼 프로젝트에 참여한 과학자들은 자신들이 만들고 있는 것이 세상에 엄청난 영향을 미칠 수 있다는 사실을 알고 있었다. 원자폭탄은 기존의 무기와는 차원이 다른 파괴력을 가질 것이었고, 전쟁의 양상뿐 아니라 이후의 국제질서까지 바꿀 수 있는 기술이었다.

그럼에도 개발은 계속됐다. 당시에는 전쟁이 진행 중이었고, 독일이 먼저 핵무기를 개발할 수 있다는 두려움이 있었다. 자신들이 멈춘다고 기술 자체가 사라지는 것도 아니었다. 오히려 상대가 먼저 그 힘을 손에 넣을 가능성이 있었다.

여기에는 기술의 역사에서 반복해서 등장하는 익숙한 논리가 있다.

우리가 하지 않아도 누군가는 한다.

지금의 AI 산업에서도 비슷한 상황을 볼 수 있다. 한 회사가 개발 속도를 늦춘다고 경쟁사까지 기다려주는 것은 아니다. 한 국가가 규제를 강화한다고 다른 국가도 같은 속도로 움직이는 것도 아니다. 더 좋은 모델을 먼저 만든 기업이 시장을 가져갈 수 있고, 한 번 벌어진 기술 격차를 따라잡기 어려울 수도 있다.

AI가 가져올 문제를 우리가 전혀 모르는 것도 아니다. 자동화가 노동시장에 영향을 줄 수 있다는 것도 알고 있고, 허위 정보와 저품질 콘텐츠의 생산비용이 크게 낮아질 수 있다는 것도 알고 있다. 사람의 편견이나 욕망 역시 AI를 통해 더 빠르고 더 큰 규모로 증폭될 수 있다.

그럼에도 AI는 계속 발전할 것이다. 위험을 몰라서가 아니라, 그만큼 얻을 수 있는 것이 크기 때문이다.

그리고 바로 이 지점에서 오펜하이머의 이야기가 지금과 겹쳐 보였다.

알고 있어도 기술은 멈추지 않는다

오펜하이머에게 중요한 문제는 단순히 폭탄을 만들 수 있느냐가 아니었다. 전쟁이라는 현실 속에서 누가 먼저 만들 것인지, 그것을 어떤 방식으로 사용할 것인지, 이후에는 어떻게 통제할 것인지까지 모두 연결되어 있었다.

기술이 가능해지는 순간부터 그것은 더 이상 과학자들만의 문제가 아니게 된다. 군사와 정치가 개입하고, 국가 간의 경쟁이 붙고, 기술을 둘러싼 이해관계가 생긴다.

이때 개인의 판단은 훨씬 어려워진다. 위험성을 안다고 해서 멈출 수 있는 것도 아니고, 계속 간다고 해서 그 결과를 온전히 통제할 수 있는 것도 아니다.

AI 역시 비슷한 상황에 놓여 있다.

AI의 위험에 대한 논의는 이미 충분히 많다. 일자리의 변화, 저작권, 데이터 편향, 허위 정보, 자동화된 의사결정, 인간의 판단을 어디까지 맡길 것인지에 대한 문제까지 계속 이야기되고 있다.

하지만 동시에 AI는 너무 유용하다. 개발자는 더 빠르게 제품을 만들 수 있고, 창작자는 적은 비용으로 훨씬 다양한 표현을 시도할 수 있다. 작은 팀은 이전보다 큰 일을 할 수 있고, 개인은 예전이라면 조직이 있어야 가능했던 일을 직접 해볼 수 있게 된다.

경쟁의 압력도 크다. 경쟁사가 AI를 활용해 더 적은 비용으로 더 빠르게 움직인다면 나만 기존 방식에 머물기는 어렵다. 개인도 마찬가지다. 다른 사람이 AI를 이용해 훨씬 많은 결과물을 만들어내고 있다면, 그 도구를 쓰지 않는 선택의 비용은 계속 커진다.

결국 AI의 발전은 위험을 몰라서 계속되는 것이 아니다. 위험을 알고도 사용할 이유가 충분히 많기 때문에 계속된다.

그래서 더 중요한 질문은 기술이 위험한가 아닌가보다, 그 기술이 주는 힘을 어떤 기준으로 사용할 것인가에 가깝다.

오펜하이머 이후의 문제

트리니티 실험이 성공하면서 원자폭탄은 더 이상 이론이나 가능성이 아니게 됐다. 실제로 존재하는 무기가 되었고, 이후 히로시마와 나가사키에 사용됐다.

오펜하이머가 폭탄의 파괴력을 그제야 알게 된 것은 아니었다. 달라진 것은 그것이 현실이 되었다는 점이다. 계산과 예상으로 알고 있던 영향이 실제 사람과 도시, 전쟁과 국제정치의 문제로 나타났다.

그리고 한번 현실이 된 기술은 더 이상 그것을 만든 사람만의 것이 아니었다.

폭탄 개발에 큰 영향을 미쳤다고 해서 오펜하이머가 그 기술이 어떻게 사용될지를 마음대로 결정할 수 있었던 것은 아니다. 이후 핵무기를 어떻게 관리하고, 더 강력한 무기를 계속 개발할 것인지 역시 한 과학자의 판단으로 결정할 수 있는 문제가 아니었다.

기술을 만드는 사람은 엄청난 영향력을 가질 수 있지만, 그 기술이 세상에 퍼진 뒤의 모든 결과를 통제할 수는 없다.

AI에서도 같은 문제가 생긴다.

모델을 만든 회사가 있고, 그 위에 서비스를 만드는 회사가 있고, 그 서비스를 업무에 도입하는 조직이 있고, 실제로 사용하는 사람이 있다. 기술이 한 단계씩 전달될수록 활용 방식은 더 다양해지고, 처음 개발한 사람이 예상하지 못한 용도로 사용되기도 한다.

그렇다고 모든 결과를 최초 개발자의 책임이라고 할 수도 없고, 반대로 “나는 기술만 만들었다”고 완전히 선을 긋기도 어렵다.

결국 기술이 강력해질수록 책임은 한 사람에게 모이는 것이 아니라 여러 단계로 퍼진다. 그래서 오히려 각 단계에서 자신이 가진 영향력이 어디까지 이어지는지 보는 태도가 중요해진다.

AI가 바꾸는 것은 생산성보다 생산비용에 가깝다

AI의 발전을 이야기할 때 가장 많이 등장하는 단어는 생산성이다. 같은 시간에 더 많은 일을 하고, 같은 일을 더 적은 사람으로 처리하고, 반복적인 작업을 줄일 수 있다는 이야기다.

AI가 만들어내는 변화 중 더 중요한 부분은 바로 생산비용의 하락이라고 생각한다.

특히 글, 이미지, 영상, 소프트웨어처럼 디지털로 만들어지고 복제되는 것들은 추가로 하나를 더 생산하는 데 드는 비용이 빠르게 낮아지고 있다.

예전에는 글을 하나 더 쓰기 위해 그만큼의 시간이 필요했다. 이미지 한 장을 더 만들려면 직접 촬영하거나 누군가가 작업해야 했다. 영상을 하나 더 만들기 위해서는 촬영과 편집에 다시 비용을 들여야 했다. 소프트웨어 기능 하나를 추가하기 위해서도 개발자의 시간이 필요했다.

AI는 이 비용을 크게 줄인다.

한 사람이 하루 동안 만들 수 있는 결과물의 양이 늘어나고, 하나의 아이디어를 여러 형태로 변환하는 비용도 낮아진다. 글을 이미지로 바꾸고, 이미지를 영상으로 바꾸고, 아이디어를 곧바로 코드로 옮기는 일이 점점 쉬워진다.

이 변화는 분명 좋은 방향으로 쓰일 수 있다.

지금까지 자본이나 인력이 부족해서 시도하지 못했던 일을 개인이 직접 해볼 수 있다. 작은 팀이 더 큰 문제에 도전할 수 있고, 한 사람이 제품을 만들고 콘텐츠를 제작하고 직접 세상에 내놓을 수도 있다.

AI가 개인에게 주는 레버리지는 엄청나다.

하지만 생산비용이 낮아진다고 해서 좋은 것만 싸게 생산되는 것은 아니다.

좋은 아이디어를 확장하는 비용이 낮아지는 만큼, 자극적인 소재와 편견, 사람의 욕망을 이용하는 콘텐츠를 만드는 비용도 같이 낮아진다. 무엇인가를 만들기 위해 필요했던 돈과 사람, 시간이 줄어들면서 예전에는 실행 단계에서 자연스럽게 생기던 마찰도 사라지고 있다.

AI는 방향을 정해주지 않는다.

좋은 생각을 증폭할 수도 있고, 좋지 않은 판단을 증폭할 수도 있다. 창의성을 확장할 수도 있고, 이미 존재하는 편견을 훨씬 많은 결과물로 복제할 수도 있다.

그래서 생산의 비용이 낮아질수록 무엇을 생산할 것인지에 대한 판단의 중요성은 오히려 커진다.

앞으로 희소한 것은 만드는 능력이 아닐 수도 있다.

무엇을 만들 것인지 결정하는 능력이 더 중요해질 수 있다.

생산비용이 낮아지면 영향력의 비용도 낮아진다

AI가 낮추는 것은 결과물을 만드는 비용만이 아니다. 개인이 영향력을 만들고 확장하는 비용도 같이 낮아진다.

하나의 콘텐츠를 만들어 수많은 사람에게 전달하는 것 자체는 인터넷 이후 이미 쉬워졌다. AI는 그 앞단의 생산까지 더 빠르고 저렴하게 만든다. 아이디어 하나만 있으면 여러 버전으로 바꾸고, 다양한 플랫폼에 맞춰 다시 만들고, 반응이 좋은 방식을 찾아 계속 반복하는 일이 가능해진다.

이런 환경에서는 개인의 작은 실험이 생각보다 큰 의미를 가질 수 있다.

많은 사람에게 영향을 미칠 수 있는 누군가가 새로운 AI 활용 방식을 보여준다고 생각해보자. 어떤 사람에게는 단순한 기술적 실험으로 보일 것이다. AI로 이런 것까지 할 수 있다는 사례다.

하지만 그 시도가 많은 관심을 받고 실제 수익으로 이어지면 다른 의미가 생긴다.

그것은 하나의 성공 사례가 된다.

“이런 것도 가능하다”는 이야기가 “이런 방식은 사람들이 본다”로 바뀌고, 다시 “이렇게 하면 돈이 된다”는 신호가 된다.

그러면 다른 사람이 따라 한다. 비슷한 방식이 계속 성과를 내면 더 많은 사람이 들어온다. 경쟁이 붙으면 조금 더 눈에 띄는 소재를 찾게 되고, 그다음에는 더 자극적인 방식을 시도하는 사람도 생긴다.

그 이후의 모든 결과를 처음 시도한 한 사람의 책임이라고 할 수는 없다. 사람은 각자의 판단으로 행동하고, 자신의 선택에 책임을 져야 한다.

그렇지만 영향력이 큰 사람이 자신의 행동을 완전히 개인적인 선택으로만 보기도 어렵다.

내가 보여주는 방식이 누군가에게는 따라 해볼 만한 성공 사례가 될 수 있기 때문이다.

우리는 AI가 주는 레버리지를 이야기하면서 주로 한 사람이 더 많은 일을 할 수 있다는 점에 집중한다. 하지만 레버리지는 생산량만 늘리는 것이 아니다. 한 사람의 선택이 다른 사람에게 전달되는 범위 역시 함께 늘린다.

영향력을 자산으로 활용한다면, 그 영향력이 어디까지 퍼질 수 있는지도 완전히 별개의 문제로 떼어놓기는 어렵다.

시장의 반응이 항상 좋은 기준은 아니다

생산비용이 낮아지면 어떤 것이 잘되는지 시험하는 비용도 줄어든다.

여러 소재를 만들어보고 어떤 것이 더 많이 클릭되는지 확인할 수 있다. 제목을 바꾸고, 이미지를 바꾸고, 더 강한 표현을 사용하면서 반응을 비교한다. 효과가 좋은 패턴을 찾으면 AI를 이용해 훨씬 빠르게 확장할 수 있다.

자연스럽게 이런 기준이 생긴다.

사람들이 보고 싶어 하고, 실제로 돈도 된다면 좋은 아이디어 아닌가.

사업의 관점에서는 당연히 중요한 질문이다. 사람들이 원하는 것을 만드는 것은 시장의 기본적인 원리이기도 하다.

하지만 시장의 반응 하나만으로 모든 선택을 설명하기 시작하면 문제가 생긴다.

사람은 자극적인 것에 반응한다. 타인의 사생활을 궁금해하고, 갈등이나 논란에 관심을 갖고, 익숙한 편견을 확인해주는 콘텐츠에 끌리기도 한다.

그런 욕망이 존재한다는 것과 그 욕망을 최대한 크게 자극하는 것이 좋은 선택이라는 것은 다른 이야기다.

사람들이 원하는 것이 존재한다고 해서 그것을 가능한 한 많이 공급하는 것이 항상 옳은 것은 아니다.

만약 조회수와 수익만을 기준으로 판단한다면 결국 가장 강한 욕망을 가장 효과적으로 자극하는 사람이 가장 합리적인 선택을 하는 셈이 된다.

AI는 이 문제의 규모를 더 크게 만들 수 있다.

예전에는 자극적인 콘텐츠를 계속 만들어내기 위해서도 일정한 생산비용이 필요했다. 이제는 하나의 방식이 효과가 있다는 사실을 확인하면 그 방식을 수십 개, 수백 개의 변형으로 빠르게 확장할 수 있다.

사람의 욕망을 증폭하는 비용까지 낮아지고 있는 것이다.

그래서 생산비용이 낮아질수록 시장이 반응하는가와 별개로 우리가 무엇을 증폭하고 있는지를 바라볼 필요가 있다.

법보다 넓은 판단의 영역

법은 이런 문제에서 중요한 기준을 제공한다. 해서는 안 되는 일의 경계를 정하고, 피해가 발생했을 때 책임을 물을 수 있도록 한다.

하지만 기술의 발전 속도가 빠를수록 법이 모든 새로운 상황을 미리 다룰 수는 없다. AI를 이용한 새로운 서비스와 콘텐츠, 새로운 사업 방식은 계속 등장하고 있고, 사회적 합의와 제도는 그 뒤를 따라갈 수밖에 없다.

결국 법이 허용하는 범위 안에서도 개인과 조직이 직접 판단해야 하는 영역이 남는다.

무엇이 가능한가와 무엇을 하는 것이 좋은가는 같은 질문이 아니다. 불법이 아니라는 이유만으로 그 선택이 만들어내는 영향까지 사라지는 것도 아니다.

나는 AI에 더 많은 규제를 걸어 모든 새로운 시도를 막는 방향이 답이라고 생각하지 않는다. 오히려 AI가 더 많은 사람에게 새로운 기회를 주고, 개인이 지금보다 더 많은 것을 만들 수 있게 되는 변화에 기대가 크다.

그만큼 스스로 판단해야 할 영역도 커진다.

자유롭게 만들 수 있는 환경에서 중요한 것은 자유를 줄이는 것이 아니라, 그 자유를 어떻게 사용할 것인지에 대한 기준을 갖는 일이다.

책임감 있는 영향력

그래서 AI 시대에는 ‘책임감 있는 영향력’이라는 개념이 더 중요해질 것이라고 생각한다.

여기서 말하는 책임은 자신에게서 파생되는 모든 결과를 미리 예상하고 책임지라는 뜻이 아니다. 그런 일은 불가능하다. 오펜하이머 역시 자신이 참여한 기술이 수십 년 뒤 세계의 군사와 정치 질서에 어떤 모습으로 영향을 미칠지 모두 알 수는 없었다.

책임은 자신이 만들어낸 영향에서 너무 쉽게 빠져나가지 않는 태도에 가깝다.

내가 만든 것이 어떻게 사용되고 있는지 보고, 예상하지 못한 문제가 생겼을 때 처음의 의도만 이야기하지 않는 것. 내가 가진 영향력이 커질수록 내 선택이 다른 사람에게 어떤 신호로 받아들여질지도 함께 보는 것이다.

특히 AI는 한 사람이 가진 레버리지를 빠르게 키우고 있다. 한 명이 더 많은 결과물을 만들 수 있고, 작은 팀이 더 큰 시장에 영향을 미칠 수 있다. 과거에는 큰 조직만 할 수 있었던 일을 개인이 할 수 있는 시대가 오고 있다.

그 힘은 분명히 좋은 것이다.

하지만 같은 이유로 한 사람의 좋지 않은 판단이 확장되는 속도와 범위도 커진다.

AI 이전에는 실행력이 중요한 능력이었다. 아이디어가 있어도 직접 만들 수 없다면 세상에 영향을 주기 어려웠다. 앞으로 실행비용이 계속 낮아진다면 상황은 달라질 것이다. 만들 수 있는가보다 무엇을 만들 것인가가 더 중요한 질문이 된다.

무엇을 더 많이 만들 것인지, 어떤 욕망을 자극할 것인지, 무엇을 하나의 성공 사례로 보여줄 것인지에 대한 판단이 점점 더 큰 차이를 만들게 된다.

그래서 생산의 비용이 낮아질수록 판단의 가치는 오히려 올라간다.

그리고 영향력이 커질수록 책임감의 필요성도 함께 커진다.

오펜하이머와 AI가 남기는 질문

오펜하이머를 보며 AI를 떠올린 이유는 결국 기술이 강력해서만은 아니었다.

인간은 새로운 힘이 가져올 영향을 어느 정도 예상하면서도 앞으로 나아간다. 기술이 주는 가능성이 크고, 경쟁이 존재하며, 자신이 멈춘다고 다른 사람까지 멈추지 않는다는 사실을 알고 있기 때문이다.

이런 상황에서 중요한 것은 위험을 아느냐 모르느냐가 아니다.

알고 있다는 사실이 우리의 선택을 얼마나 바꾸느냐다.

오펜하이머의 시대에는 새로운 힘을 실제로 만들어낼 수 있는 사람이 극소수였다. AI는 다르다. 지금까지 거대한 조직이 가져야 했던 생산 능력과 영향력을 수많은 개인에게 나눠주고 있다.

앞으로 생산과 복제의 비용은 더 낮아질 것이다. 글과 이미지, 영상, 소프트웨어를 만들어내는 능력 자체가 지금보다 훨씬 흔해질 가능성이 높다.

그렇다면 기술적으로 무엇을 만들 수 있는가는 점점 덜 중요한 질문이 될지도 모른다.

대신 무엇을 만들기로 선택하는가가 중요해진다. 무엇을 반복해서 생산하고, 무엇을 더 크게 증폭시키며, 자신의 영향력을 어떤 방향으로 사용할 것인지가 중요해진다.

AI는 인간의 능력을 증폭한다. 동시에 우리의 아이디어와 욕망, 편견과 판단도 함께 증폭한다.

그래서 AI 시대에 필요한 것은 더 강력한 기술만이 아니다.

커진 능력과 영향력을 어떻게 사용할 것인지에 대한 판단도 그만큼 중요해진다.

나는 그것을 책임감 있는 영향력이라고 생각한다.

생산의 비용이 0에 가까워질수록 오히려 더 비싸져야 하는 것이 있다.

무엇을 만들 것인지에 대한 판단, 그리고 그것이 만들어낼 영향에 대한 책임감이다.