인류의 마지막 발명품: 인공지능 그리고 인류의 운명

슈퍼인공지능이 존재한다면, 인류의 운명은 그것에 달려있다

인공지능은 인류가 만들어야하는 마지막 발명품이 될 것이다.

Nick Bostrom, Professor of University of Oxford

인공지능(AI)는 최근 폭발적인 기술적 성장을 이루고 있으며, 점차 그 발전 속도가 빨라지고 있다. 이번 기사에서는 인류의 마지막 발명품이 될 인공지능(AI)의 발전 그리고 인류에 대한 그 영향을 심도 있게 탐구하고자 한다.

인공지능의 종류와 단계는 약인공지능(ANI), 강인공지능(AGI), 초지능 또는 초인공지능(ASI) 그리고 초월지능(ATI) 총 4단계로 나눌 수 있다.

  1. 약인공지능(Artificial Narrow Intelligence, ANI): 이 단계의 AI는 특정 작업이나 기능에 초점을 맞추고 있다. 예를 들어, IBM의 왓슨이나 구글의 알파고와 같은 시스템들은 ANI로 볼 수 있다. 이러한 인공지능은 어떤 특정 분야에서 인간의 능력을 능가하거나 보조할 수 있지만, 그 범위나 이해력은 매우 제한적이다. 예를 들어, 체스나 바둑과 같은 특정 게임에서 뛰어난 성능을 보이지만, 그 외의 다른 영역에서는 무능력하다.
  2. 강인공지능(Artificial General Intelligence, AGI): AGI는 인간의 일반적인 지능을 모방하는 단계의 AI입니다. 이 단계의 AI는 다양한 종류의 문제를 해결할 수 있으며, 학습, 이해, 추론, 문제 해결 등 인간과 유사한 지능적 활동을 수행할 수 있습니다. AGI는 여러 분야에 걸쳐 유연하게 적용될 수 있으며, 자가 학습 및 자가 개선 능력을 가집니다. 현재 AGI는 아직 실현되지 않은 목표로 남아 있으나, 관련 연구들이 매우 빠르게 진행되고 있어 가까운 시일에 AGI의 시대가 도래할 것으로 학자들은 전망하고 있다.
  3. 초인공지능(Artificial Superintelligence, ASI): ASI는 인간의 지능을 훨씬 능가하는 인공지능의 단계입니다. 이 단계의 AI는 인간이 수행할 수 있는 모든 지적 활동뿐만 아니라, 창의적이고 복잡한 문제 해결 능력에서도 인간을 초월하는 것을 의미한다. ASI는 자신의 기능을 스스로 개선하며, 지능적 활동의 새로운 경계를 넓힐 수 있다. ASI의 등장은 인간 문명에 근본적인 변화를 가져올 수 있으며, 현재로서는 이러한 단계의 AI가 실현되는 것은 매우 먼 미래의 일이다.
  4. 초월인공지능(Artificial Transintelligence, ATI): ATI는 인간의 지능에 통달한 ASI에서 발전해 인간이 알지 못하는 새로운 지식을 인공지능 스스로 연구하고 발전시켜 인간의 지적 영역을 확장하는 아주 먼 미래에 인류가 도약해야할 인공지능의 최종형태이다.

현재의 인공지능 기술은 ANI와 AGI 사이에 있으며, Open AI ChatGPT와 Google Gemini & Bard가 매우 빠른 속도로 발전함에 따라 곧 AGI의 시대가 도래할 것으로 예측하고 있다.

그림 1. ANI에서 AGI로의 발전 과정 (자료출처: 구글 딥마인드 / 그림출처: 동아일보, https://www.donga.com/news/Inter/article/all/20231124/122328985/1)

그러나 많은 학자 및 전문가들은 AGI를 넘어 ASI 그리고 ATI로 진화와 발전을 하면서 인류가 처한 위험성을 강조한다. 이러한 진화는 인간의 지능을 능가하며, 결과적으로 인류가 AI의 지배를 받게 될 수도 있다는 것이 학계의 주장이다.

전문가들은 인류가 2040~2050년경 기술적 특이점에 도달하게 될 것이라고 예상하며, 이는 인간이 기계와 융합하여 ‘수퍼휴먼’으로 발전할 수 있는 계기가 될 것이라고 예측한다.

학계에서는 이러한 낙관주의를 신중하게 접근해야 한다고 경고한다. 인공지능 발전이 가져올 수 있는 잠재적인 위험과 도전을 강조하며, 이것이 인류에게 닥칠 수 있는 중대한 난제임을 주장한다.

인공지능은 인류를 뛰어넘는 처음이자 마지막의 존재가 될 가능성이 유일한 기술이기에, 초인공지능은 인류를 신과 같은 존재로 만들수도 혹은 인류를 파멸시킬수도 있을 것이다.

때문에, 단순히 기술적인 예측을 넘어서, 인류가 AI와 함께 나아가야 할 미래에 대한 깊은 성찰이 필요하며, AI 발전의 장점과 함께 그로 인해 초래될 수 있는 위험성에 대해 신중하게 생각해 볼 필요가 있다.

[1] Barrat, J. (2013). Our final invention: Artificial intelligence and the end of the human era. St. Martin’s Press.
[2] Bostrom, N. (2015). What happens when our computers get smarter than we are [Video]. TED Conferences. https://www.ted.com/talks/nick_bostrom_what_happens_when_our_computers_get_smarter_than_we_are/transcript?language=ko&subtitle=ko
[3] Kim, H. S. (2023, November 24). 올트먼 복귀작은 ‘무료 음성 챗GPT’… 오픈AI, 빅테크로 간다. Dong-a. Retrieved from https://www.donga.com/news/Inter/article/all/20231124/122328985/1