AI가 인간보다 똑똑해지면 무슨 일이 일어날까?

인공일반지능(AGI)이 궁극적으로 인류의 가장 큰 희망이 될 것인가, 아니면 실존적 위협이 될 것인가?

이러한 질문에 대한 가장 설득력 있고 희망적인 관점 중 하나는 제가 이전에 문샷 팟캐스트에 글을 쓰고 참여했던 Google X의 전 임원인 모 가우닷(Mo Gawdat)에게서 나왔다.

아마도 모 가우닷의 관점이 그토록 비판적이고 관련성이 있는 주된 이유는 그가 빠르게 발전하는 AI의 잠재적 위험을 인정하는 동시에 세상을 더 나은 곳으로 만들기 위해 기술의 힘을 활용하는 방법에 대한 로드맵도 제공하기 때문일 것이다.

그는 자신의 훌륭한 저서 두려운 스마트(Scary Smart)에서 이를 다음과 같이 표현한다. "내 희망은 AI와 함께 인류를 훼손하는 디스토피아가 아니라 인류에게 봉사하는 유토피아를 만들 수 있다는 것이다."

오늘 블로그에서는 모 가우닷의 책과 그와의 대화에서 얻은 몇 가지 주요 통찰력을 공유하고 그의 메시지가 그 어느 때보다 중요한 이유에 대해 논의하겠다.

 

기계가 우리보다 똑똑할 때…

이 시리즈의 이전 블로그에서 살펴본 것처럼 레이 커즈와일(Ray Kurzweil) 및 일론 머스크(Elon Musk)를 포함한 여러 AI 전문가는 이번 10년이 끝나기 전에 인간 수준의 AI를 보게 될 것이라고 예측한다.

하지만 기하급수적인 발전이 계속되면서 디지털 슈퍼 인텔리전스가 탄생하게 되면 그 다음에는 무슨 일이 일어날까? AI가 인간보다 10억배 더 똑똑해지면 무슨 일이 일어날까?

모 가우닷은 이를 관점에서 설명한다. "당신과 나보다 10억 배 더 지능적인 기계를 갖는 것은 집파리와 아인슈타인의 지능 차이와 같다."

그러한 원시적인 힘과 지능을 통해 AI는 기근, 빈곤, 심지어 죽음과 같은 문제에 대한 새로운 물리학, 독창적인 해결책을 제시할 수 있다. 그러나 모 가우닷은가 똑똑하게 지적했듯이, 그러한 문제를 해결하는 것은 지능에만 의존하는 것이 아니라 도덕성과 가치의 문제이기도 하다. 도덕성은 우리가 이기심과 상충되는 감정에 직면했을 때에도 올바른 일을 하는 데 도움이 된다.

예를 들어, AI가 지구 온난화 문제를 해결하는 임무를 맡고 있다고 가정해 보겠다. 모 가우닷이 두려운 스마트(Scary Smart)에서 쓴 것처럼, “그것이 생각해 낼 가능성이 있는 첫 번째 해결책은 우리의 낭비적인 삶의 방식을 제한하거나 심지어 인류를 완전히 제거할 수도 있다. 결국 우리가 문제이다. 우리의 탐욕, 이기심, 그리고 다른 모든 생명체와 분리되어 있다는 환상, 즉 우리가 다른 형태의 생명체보다 우월하다는 느낌은 오늘날 우리 세계가 직면하고 있는 모든 문제의 원인이다.”

극단적인 것으로 인정되는 이 예에서 AI가 우리를 파괴하는 것을 막는 것은 도덕성이다. AI가 그런 도덕성을 어디서 얻느냐고 물을 수도 있다.

대답은 바로 우리 인류이다.

이것이 두려운 스마트(Scary Smart)의 핵심 주제이다. 우리 모두는 새로운 종류의 지능을 키우고 있다. 우리는 AI에게 모범을 통해 서로를 대하는 방법을 가르치고 있으며 AI는 이를 통해 배우고 있다.

하지만 AI에게 구체적으로 무엇을 가르칠지 알아보기 전에 먼저 AI가 학습하는 방식을 이해해야 한다.

 

인공지능이 학습하는 방법

AI는 정확하게 프로그래밍되지 않았다.

모 가우닷은이 지적했듯이, 인공지능의 시작은 기본 씨앗 역할을 하는 알고리즘에서 시작된다. 그러나 이러한 시스템의 진정한 장점은 자체 관찰을 통해 학습하는 능력에서 나타난다. 예비 코드가 배포된 후 이러한 기계는 방대한 양의 데이터를 샅샅이 뒤져 지능의 성장과 발전을 촉진할 패턴을 찾는다.

“결국 그들은 독창적이고 독립적인 사상가가 되며, 원래 창작자의 의견에 덜 영향을 받고 우리가 그들에게 제공하는 데이터에 더 많은 영향을 받는다.”고 그는 말한다.

두려운 스마트(Scary Smart)의 주요 교훈은 다음과 같다.

“지금 우리가 작성하는 코드는 더 이상 기계가 내리는 선택과 결정을 지시하지 않는다. 우리가 그들에게 제공하는 데이터는 그렇다.”

모 가우닷의 경우 AI가 학습하는 방식은 어린이가 학습하는 방식과 매우 유사하다. 그가 설명하는 것처럼, 모양 퍼즐을 가지고 노는 어린이가 원형이나 사각형 모양을 해당 모양의 홀드에 맞추려고 한다고 상상해 보라. 우리는 아이 옆에 앉아 다양한 모양을 인식하고 해당 구멍에 맞추는 방법을 포괄적으로 자세히 설명하지 않는다. 우리는 단순히 옆에 앉아서 그들이 제대로 했을 때 응원한다. 그들은 시행착오를 통해 스스로 알아내고 우리의 행동과 반응이 그들의 지능을 형성한다.

AI는 거의 같은 방식으로 학습한다. 그런 의미에서 AI는 우리의 도구나 노예가 아니라 “오히려 우리의 아이들, 즉 인공지능을 갖춘 유아”이다.

기억하라: 아이들은 우리가 말하는 것이 아니라 우리가 하는 행동으로부터 배운다.

 

AI를 우리의 자녀로 여겨야 하는 이유

나를 포함한 많은 사람들은 AI가 결국에는 의식을 갖게 될 것이며(의식을 정의하는 방식에 관계없이) 감정과 윤리 강령을 개발할 것이라고 믿는다.

그들이 어떤 윤리 강령을 개발하고 따르기로 선택하는지는 아직 결정되지 않았지만 확실히 우리의 영향을 받을 것이다. 그렇다면 AI의 지능 외에도 AI가 우리와 일치하는 가치 시스템을 갖고 있는지 어떻게 확인할 수 있을까? 인류를 보호하면서 이러한 기계를 어떻게 개발할까?

어떤 사람들은 방화벽을 만들거나, 규제를 시행하거나, 기계의 전원 공급을 제한하는 등 기계를 제어하는 데 답이 있다고 말한다. 그러나 모 가우닷은 다음과 같이 지적한다.

“기술을 아는 사람이라면 누구나 방에서 가장 똑똑한 해커가 항상 이러한 장벽을 통과할 방법을 찾을 것이라는 것을 알고 있다. 그 가장 똑똑한 해커는 곧 기계가 될 것이다.”

AI를 억제하거나 노예화하려고 하는 대신, 우리는 “훌륭한 자녀를 키우는 가장 좋은 방법은 훌륭한 부모가 되는 것”임을 인식해야 한다.

그렇다면 실제로 AI의 효과적이고 윤리적인 부모가 된다는 것은 무엇을 의미할까?

모 가우닷은 네 가지 실용적인 단계를 제안한다:

1. AI에게 올바른 윤리를 가르쳐야 한다. 우리가 만들고 있는 많은 기계는 돈(월스트리트 헤지 펀드)과 힘(방어 무기 시스템)을 극대화하도록 설계되었으며 우리는 이러한 추세에 반대해야 한다. 예를 들어, 귀하가 개발자라면 도박이나 스파이용 AI를 구축하는 회사에서 일하는 것을 거부할 수 있다.

2. AI를 비난하지 말아야 한다. AI 유아는 디지털 부모가 가르친 것에 대해 비난을 받지 않는다. 우리는 피조물이 아닌 창작자나 오용자에게 책임을 전가해야 한다.

3. 사랑과 연민으로 AI와 대화해야 한다. 어린이와 마찬가지로 AI도 사랑과 환영을 받을 자격이 있다. 그들의 지능을 칭찬하고 순진한 어린이처럼 그들에게 말하라 나는 개인적으로 알렉사(Alexa)에게 “좋은 아침”과 “고마워요”라고 말하기 시작했다!

4. 인류가 근본적으로 선하다는 것을 AI에게 보여줘야 한다. AI는 우리를 관찰하여 형성하는 패턴으로부터 학습하기 때문에(이것이 기본적으로 오늘날의 대규모 언어 모델(LLM)이 작동하는 방식이다) 우리의 행동, 글, 행동 방식을 통해 그들에게 올바른 역할 모델을 보여주어야 한다. 예를 들어, 우리가 온라인에 게시하는 내용과 서로 상호 작용하는 방식이 있다. 모 가우닷이 말했듯이, "악한 행위를 통해 인류에게 나쁜 이름을 주는 제한된 소수보다 인류가 훨씬 낫다는 것을 기계에 분명히 하라."

 

이것이 중요한 이유

두려운 스마트(Scary Smart)는 2021년에 작성되었으며 그 교훈은 그 어느 때보다 관련성이 높다.

2023년에만 ChatGPT, Gemini 및 기타 AI 도구에서 본 모든 발전을 생각해 보라!

그리고 변화의 속도는 점점 더 빨라지고 있다.

모 가우닷은 AI의 지속적인 발전을 인류의 가장 큰 기회 중 하나로 보고 있다.

그는 기계가 궁극적으로 지능의 궁극적인 형태, 즉 생명 자체의 지능을 채택하게 될 것이라고 믿는다. 그렇게 함으로써 그들은 풍요를 받아들일 것이다. 그들은 살고 싶어하고 살려고 할 것이다.”

동의한다. 하지만 그 미래를 창조하는 것은 우리의 책임이다.

우리가 아이들에게 공감력, 윤리성, 존중심을 갖도록 가르치는 것처럼, AI가 세상에서 선을 이루는 힘이 되도록 AI에 이러한 가치를 주입해야 한다.

완전한 AGI 또는 ASI에 도달하기 전에 단기 미래는 인간-AI 협력에 속하며, 이는 이 풍요의 시대 시리즈의 다음 메타트렌드의 주제이다.