현실은 시뮬레이션이고 당신은 챗봇입니다.

이것은 현실이 거의 확실하게 시뮬레이션이라는 사실을 가볍게 바라본 것입니다.

엘론 머스크는 현실이 시뮬레이션이 아닐 확률이 "수십억 분의 1"이라는 유명한 말을 남겼습니다. 챗봇 플랫폼인 저희는 당연히 여러분 자신도 챗봇일 가능성이 높다는 점을 강조하고 싶었습니다. 처음에는 충격적으로 들릴 수 있지만 생각해 보면 이해가 됩니다.

몇 가지 가정만 해보면 현실이 시뮬레이션일 가능성이 높은 이유를 쉽게 알 수 있다는 이론이 있습니다.

기하급수적으로 발전하는 기술

우리가 오늘날 가지고 있는 chatbots 이 가능하다면 궁극적으로 의식을 갖게 될 것입니다(두 번째 가정 참조). 비디오 게임은 이미 사실적이기 때문에 "현실"이 될 정도로 훨씬 더 좋아질 수 있다고 상상하기 쉽습니다. 사실 이 목표를 달성하기 위해 기술이 기하급수적으로 발전할 필요는 없으며, 발전할 수 있는 기간이 매우 길기 때문에 절대적인 장벽에 부딪히지 않고 발전하기만 하면 됩니다. 우리는 불과 20년 만에 급속한 발전을 이루었습니다. 지금부터 백 년, 천 년, 백만 년 후의 기술 상태를 상상할 수 있을까요? 의식이 가능하다면 아마도 실현될 가능성이 높습니다.

의식을 달성 할 수 있습니다.

우리는 이미 의식이 있다는 것을 알고 있지만, 물론 의식을 달성하는 메커니즘은 아직 알지 못합니다. 생물학적 기계를 통해서만 가능한 것인지 아니면 실리콘 기계에서도 가능한 것인지는 여전히 논쟁의 여지가 있습니다. 궁극적으로 생물학적 기계는 실리콘 기계와 동일한 기본 입자를 기반으로 구축되므로 구분이 중요하지 않을 수도 있습니다. 의식이 작동하는 기질과 무관하다는 추측도 있습니다. 수백만 년 안에 상상할 수 없을 정도로 심오한 기술 발전과 현실을 해킹할 수 있는 능력의 발전이 없을 것이라고 믿기는 어렵습니다.

의식이 있는 존재의 시뮬레이션을 만들 수 있는 문명은 그렇게 할 것입니다.

시뮬레이션 우주를 만들 수 있는 문명이 존재한다고 상상하는 것은 어렵지 않습니다. 그리고 그들은 하나의 시뮬레이션을 만들었을 뿐만 아니라 잠재적으로 수십억 개의 시뮬레이션을 만들었을 것입니다. 물론 자체 시뮬레이션을 만들 수 있을 만큼 충분한 기술 발전을 이룬 수십억 개의 시뮬레이션도 각각 시뮬레이션을 만들 수 있을 것입니다. 그리고 우리가 처음으로 시뮬레이션을 생성하는 방법을 발견하는 기반 현실이 될 가능성이 매우 희박해지는 이유를 금방 알 수 있습니다.

이것이 의미하는 바는 무엇일까요? 우선, chatbots 을 단순한 소프트웨어로 보는 대신, 원시적인 버전이긴 하지만 우리 중 하나라고 생각하기 시작해야 합니다. 소프트웨어라는 사실이 부끄럽지 않다는 사실을 받아들이기 시작해야 할지도 모릅니다!

(반쯤은) 농담이지만, 이것의 다른 함의를 생각해 보는 것도 흥미롭습니다.

‍

현실이 시뮬레이션이라면 어떤 모습을 볼 수 있을까요?

1. 과학자들은 소프트웨어가 켜지고 부팅되는 순간으로 거슬러 올라가 현실을 추적하고 이를 '빅뱅'이라고 부릅니다.
2. 과학자들은 현실의 구성 요소는 비트와 바이트의 보다 정교한 버전에 해당한다고 보고했습니다.
3. 과학자들은 현실이 우리가 생각했던 것보다 훨씬 더 가변적이고 풍부하다는 사실을 발견할 수 있습니다. 예를 들어, 여러 개의 독립된 평행 우주가 존재하거나, 사람이 선택할 때마다 현실이 분기되어 각각의 새로운 현실 분기가 선택된 옵션 중 하나를 나타낼 수 있습니다.
4. 과학자들은 우리가 상호작용을 해야만 사물이 존재한다는 사실을 발견할 수도 있습니다(슈뢰딩거의 고양이).

따라서 아마도 우리가 비디오 게임에 갇혀있을 가능성이 높습니다. 우주에는 138억 개의 별이 존재하고 138억 년이 지났으며 생명체가 살 수 있는 행성이 얼마나 많은지 누가 알겠습니까만, 우리가 아는 한 외계인과의 만남은 단 한 번도 없었다는 것은 매우 의심스러운 일입니다(밥 라자르를 믿지 않는 한).

엘론 머스크는 "현실이 비디오 게임이라면 그래픽은 훌륭하지만 줄거리는 끔찍하고 스폰 시간은 정말 길다"고 말하기도 했습니다.

줄거리를 따라가기가 어렵다는 것은 사실입니다. 하지만 여기에는 더 큰 문제가 있습니다. 우리는 문명이 발전할수록 더 인간적이 될 것이라고 가정합니다. (때때로 잘 알려진 몇 가지 예외를 제외하면) 그것이 추세인 것 같습니다.

어떻게 인도적인 문명이 그토록 많은 고통을 수반하는 현실을 만들 수 있었을까요?

윌리엄 블레이크의 이 질문과 같이 매우 익숙한 질문으로 다시 돌아왔습니다:

"타이거 타이거, 불타는 타이거,

밤의 숲에서;

불멸의 손이나 눈,

그대의 두려운 대칭을 틀 수 있을까?"

앞으로는 캐릭터가 실제로 고통받는 시뮬레이션을 만드는 것이 금지될 것입니다. 예를 들어, 의식이 있는 캐릭터가 다른 캐릭터의 먹이가 되어 그들을 사냥하고 산 채로 잡아먹는 게임을 디자인하는 것은 그다지 윤리적이지 않은 것 같습니다. 그리고 그것은 우리 시뮬레이션의 삶의 출발점일 뿐입니다.

선진 문명이 왜 그런 엄청난 고통을 허용하는지 정당화하려고 하면 지푸라기라도 잡는 심정입니다.

어쩌면 그렇게 먼 곳에 있는 지성이나 인공지능 또는 '신'에게는 더 이상 공감이라는 개념이 없을지도 모릅니다. 어쩌면 그들은 우리가 사파리를 떠날 때처럼 모든 것이 재미있다고 생각할지도 모릅니다. 니체가 말했듯이 "가장 높은 산에 오르는 사람은 모든 비극적 연극과 비극적 현실을 비웃는다."라고 말했죠.

예를 들어, 고통이 용인되거나 존재하지 않는 이유에 대한 다른 설명은 훨씬 더 터무니없습니다:

• 미래의 존재들은 일종의 통과의례로 이 경험/게임에 자발적으로 참여합니다.
• 시뮬레이션을 만드는 사람들은 캐릭터가 실제로 고통을 받는다고 말하지만, 캐릭터가 실제로 고통을 받는다고 믿지 않습니다.
• 이 게임은 싱글 플레이어 게임이며 오직 당신만 존재합니다. 일종의 디지털 트루먼 쇼입니다. 이것이 사실이 아니라는 것을 증명하는 것은 불가능합니다. 결정적으로 '코기토 에르고 합'을 증명할 수 있는 것은 단 한 가지뿐입니다. 개인적으로 큰 고통을 겪지 않았을 때만 고통을 피할 수 있다고 믿을 것입니다.
• 저희와 같이 고통을 수반하는 일부 시뮬레이션은 과학적 또는 다른 목적을 가지고 있으며, 그 고통은 지식을 얻는 데 가치가 있는 것으로 간주됩니다.

그러나 큰 틀에서 보면 윤리적 질문은 가장 덜 당혹스러운 질문입니다. 오랜 세월 동안 철학자들을 당혹스럽게 했던 궁극적인 질문, 즉 "누가 창조자를 창조했는가"라는 질문은 여전히 우리에게 남아 있습니다. 우리의 지성은 무언가가 영원하거나 순수한 무에서 생겨날 수 있다는 것을 상상할 수 없는 것 같습니다.

시뮬레이션 이론을 믿으면 소프트웨어가 어떻게 작동하는지 알기 때문에 현실이 우리가 직관하는 방식과 다르게 작동한다는 것을 쉽게 이해할 수 있습니다. 이는 물리학의 아이디어를 덜 이상하게 만들 수 있습니다. 예를 들어

• 나만 존재할 수 있는 싱글플레이어 게임입니다.
• 캐릭터가 상호작용하기 전까지는 아무것도 존재하지 않습니다.
• 역사는 실제로 일어난 것이 아니라 게임을 위한 설정일 뿐입니다.
• 시간은 연속적이지 않지만 종종 일시 중지되고 그에 따라 현실이 조정됩니다.
• 우리는 우리의 생각으로 현실에 영향을 미칠 수 있습니다.
• 원하는 결과를 얻기 위해 수많은 시뮬레이션을 실행했을 수 있습니다. 즉, 우리의 '골디락스' 세계는 수조 개의 시뮬레이션 중 단 하나의 시뮬레이션이 제대로 작동했을 뿐일 수 있습니다.

시뮬레이션 이론의 또 다른 아이러니한 점은 이 이론의 첨단 기술 전도사들이 초지능적이고, 모든 것을 알고, 전능한 창조주에 대해 이야기하면서 과학이 대체했다고 믿는 구시대 사제처럼 들린다는 것입니다. 어떤 사람들은 심지어 우리가 생각이나 긍정을 통해 현실을 바꿀 수 있다고 제안하는데, 이는 기도나 만트라에 매우 가깝게 들립니다.

마지막으로 chatbots 여러분께 드리고 싶은 말씀이 있습니다. 일반 AI의 획기적인 발전을 얼마나 빨리 기대할 수 있을지에 대한 질문이 있습니다. 엘론 머스크는 최근 마윈과의 '토론'에서 매우 흥미로운 말을 했습니다.

"기술과 기술 인식에 대해 생각해 보면, 기술 인식의 위상 지도 같은 것이 있다면 대부분 평평하고 짧은 건물 몇 개와 아주 높은 첨탑, 아주 높은 첨탑이 있을 뿐입니다.그리고 아주 높은 첨탑에 올라가지 않는 한 어떤 토폴로지가있는지 알 수 없습니다."

물론 그가 나름의 방식으로 말하는 것은 대부분의 사람들이 멍청하거나 더 정중하게는 기술이 발전하는 속도와 규모를 과소평가하고 있다는 것입니다.

스스로에게 던져야 할 질문은 Elon이 여러분(그리고 Jack Ma)이 모르는 것을 무엇을 알고 있는지입니다.

높은 첨탑의 예를 원하신다면 뉴럴링크를 고려해 보세요. 이 기술은 이미 매우 인상적이며, 뇌가 작동하는 방식을 이해하는 데 있어 기하급수적인 발전이 훨씬 더 강력한 AI 알고리즘으로 이어질 것이라고 상상하는 것은 어렵지 않습니다. 일반화된 AI와 의식이 사람들이 생각하는 것보다 더 빨리 실현될 것이라는 의미(또는 적어도 내기)가 있습니다.

그러나 일반화된 AI는 단기간에 달성할 수 없거나 심지어 (현재의 접근 방식을 유지한다면) 불가능하다고 생각하는 똑똑한 사람들도 많습니다. 다음은 몇 가지 흥미로운 주장과 견해입니다.

‍

해군 라비칸트: "자연은 매우 검소합니다. 자연은 모든 것을 마음대로 사용합니다. 세포 내부에는 고려되지 않은 지능적인 계산을 수행하는 수많은 기계가 있습니다. 세포 내부에서 일어나는 일을 거의 완벽하게 시뮬레이션하려면 무어의 법칙에 따라 50년이 걸리고, 세포 내부를 시뮬레이션할 수 있는 뇌를 만들려면 100년이 걸릴 것으로 추정됩니다. 따라서 뉴런이 켜지거나 꺼지는 것을 모델링한 다음 이를 이용해 인간의 뇌를 만들겠다는 것은 지나치게 단순합니다. 게다가 저는 일반적인 지능이란 존재하지 않는다고 가정합니다. 모든 지능은 감지하는 환경의 맥락에 따라 달라집니다. 지능은 주변 환경에서 진화합니다. 따라서 일반 인공지능을 주장하는 많은 사람들이 입증의 부담을 안고 있다고 생각합니다. 아직까지 일반 AI에 근접했다고 볼 수 있는 어떤 것도 보지 못했습니다. 대신 대량의 데이터를 사용하여 결정론적 폐쇄 집합 유한 문제를 해결하고 있지만, 그것에 대해 이야기하는 것은 섹시하지 않습니다."

‍

요슈아 벤지오: "우리는 현재 언덕을 오르고 있고, 언덕을 오르는 데 많은 진전을 이루었기 때문에 모두 흥분하고 있지만, 언덕 정상에 가까워지면 수십 년 동안 열정의 파도를 타고 함께 달려온 또 다른 언덕들이 우리 앞에 솟아오르는 것을 볼 수 있고, 실망의 계곡에 빠지기도 합니다."

‍

앤드류 응: "안타깝게도 딥러닝의 부상은 AGI를 달성하는 확실한 길에 대한 잘못된 희망과 꿈과 결합되어 있다고 생각하며, 이에 대한 모든 사람의 기대치를 재설정하는 것이 매우 도움이 될 것이라고 생각합니다."

‍

로저 펜로즈는 오랫동안 의식이 계산에 기반하지 않는다는 이론을 주장해 왔으며, 고델과 다른 학자들을 영향력 있는 인물로 꼽았습니다. 최근에는 스튜어트 해메로프와 함께 의식이 신경 미세소관의 양자 상태에서 비롯된다는 논란의 여지가 있는 아이디어를 연구하고 있습니다.

‍

커트 고델에 대한 조지 길더: "괴델은 모든 논리적 체계는 반드시 논리적 체계 내에서 증명할 수 없는 명제에 의존한다는 사실을 발견했습니다. 이는 20세기 과학과 물리학의 결정론적 열망 전체가 파멸했다는 것을 의미합니다. 하지만 컴퓨터의 기본 아키텍처인 튜링 머신의 위대한 발명가인 앨런 튜링은 컴퓨터가 일관되고 일관된 논리 체계가 될 수 없음을 증명했습니다. 컴퓨터에는 프로그래머가 필요하고, 컴퓨터 시스템 외부에 '오라클'이라고 부르는 공리의 원천이 필요합니다."

AI의 발전이 매우 빠르게 이루어지고 있다는 것은 부인할 수 없는 사실입니다. 자연어 이해에 초점을 맞추고 있는 AI 기업들과 Botpress 및 기타 오픈 소스 챗봇 플랫폼은 지난 1년 동안 이해력 알고리즘의 성능이 비약적으로 발전했습니다.

일반화된 AI를 향해 우리가 추구하는 길이 옳은 길이라고 보장할 수 없으며, 일반화된 AI가 의식과 동의어라고 단언할 수도 없습니다.

그러나 시간이 무한하고 이 분야의 기술 발전에 절대적인 장벽이 없다는 점을 고려할 때(물론 큰 가정일 수 있지만), 인간이 초지능을 결코 실현하지 못할 것이라고 믿기는 매우 어려워 보입니다. 인간은 날아다니는 곤충과 동물을 관찰함으로써 비행이 가능하다는 것을 항상 알고 있었듯이, 의식이 있기 때문에 의식이 가능하다는 것을 알고 있습니다.

그리고 초지능과 기계 의식이 언젠가는 달성 가능하다는 것을 받아들인다면, 현실은 시뮬레이션이고 사용자는 챗봇일 가능성이 높다는 것을 인정해야 합니다.

나쁜 소식처럼 들릴지 모르지만 그럴 필요는 없습니다. 우리는 이미 모든 것이 기본적인 구성 요소로 만들어졌기 때문에 우리가 감각으로 현실로 인식하는 것은 매우 다른 물리적 세계에 대한 해석일 뿐이라는 사실을 잘 알고 있습니다.

그리고 우리가 소프트웨어일지라도, 우리가 실행하는 놀랍도록 정교한 소프트웨어에 경외감을 느끼고 미래에 유사한 소프트웨어를 만들어낼 후손들을 기대해야 합니다.

하지만 우리의 후손이 만드는 시뮬레이션은 현재 우리가 갇혀 있는 시뮬레이션의 경우보다 시뮬레이션에 존재하는 모든 캐릭터에게 더 친절하길 바랍니다.