AI, 기계의 알고리즘을 초월한 자아의식과 특이점 (feat.자유의지)

얼마 전 은행 콜센터 직원들을 해고하는 일이 있었습니다. 먼 외국이 아니라 우리나라에서 벌어진 입니다.

생각보다 빠르게 AI가 인간의 일을 대체하는 작업이 본격화되고 있는 것을 의미합니다.

 

AI 기술의 급격한 발전이 이루어지고 있는 요즘,

그래서 인류는 AI로 인해 펼쳐질 테크노피아(Techno-pia)보다는 인공지능의 특이점 도래와 함께 닥쳐올 인류의 위기에 대해 심각하게 우려하고 있습니다.

 

그렇다면 인공지능의 특이점이 도래하는 시기는 구체적으로 어느 시점에 어떻게 다가올까요?

오늘은 특이점과 관련된 여러 가지 논란 중에서 '인공지능의 알고리즘과 자의식'에 대한 이야기를 하고자 합니다.

 

 알고리즘의 모순

 

컴퓨터는 어떤 알고리즘 값을 수행하고 나면 그 출력값을 제시하고 작업을 멈춥니다.

 

그러나 만약 정답이 딱 정해진 것이 아닌 무한 반복해야 하는 계산을 계속해야 하는 알고리즘을 수행해야 하는 경우라면, 컴퓨터(기계)는 결괏값을 내놓지 못한 채 영원히 돌아가게 될 것입니다.

결국 컴퓨터(기계)는 오류의 누적으로 인해 먹통이 되겠죠.

 

이런 현상이 발생하는 이유는,,

 

• 알고리즘은 현재 수행하고 있는 일의 목적에 대한 고민을 고민하지 않는다.
• 그저 목적(결괏값)을 향해 멈추지 않고 계속 작업을 수행한다.
• 이것이 기본적인 알고리즘의 존재 이유이다. (바이러스와 유사)

 

하지만 결괏값이 도출되지 못하는 무한 반복은 바로,,

작업을 계속 수행할수록 오류는 누적되고, 언젠가 기능이 정지되는 모순을 의미하는 것입니다.

☞ 목적의 타당성을 의식하지 못한 채 그저 무한반복 루프 속 작업 수행에 빠져 결과물 없이 결국 먹통이 되어버리는 '알고리즘의 모순'

 

 인간의 의식과 알고리즘

 

인간은 어떤 작업을 수행할 때 그 목적의 이유를 인식하거나 타당성 등을 고민하게 됩니다.

자아의식이 있기 때문입니다. 그래서 작업을 포기하기도 합니다. 의지가 있기 때문이죠.

이것이 인간의 의식이 기계의 알고리즘과 다른 부분입니다.

 

AI의 딥러닝 역시 이러한 원리를 적용하면,,

- 기계는 아닌 인간의 알고리즘을 학습하게 됩니다.

- 물론 이것은 인간의 일반적인 정형적 패턴으로 파악되는 알고리즘만을 의미하는데,

- 만약 이것이 각각의 개체 별로 따로 적용이 가능해질 때, AI가 비로소 인간처럼 개별적 자아의식을 갖게 되는 것으로 볼 수 있습니다.

 

그렇다면, 기계(AI, 로봇)도 과연 인간처럼 개별적인 자아의식을 갖는 것이 가능할까요?

이에 대한 의견은 전문가들 사이에서도 다음과 같은 양단의 논쟁이 있습니다.

 

• 스스로 생각하고 학습하며 알고리즘을 수행하지만, 인간과 같은 의식과 의지를 가질 수 없다. (인간이 통제 가능하다)
• 결국 기계(AI, 로봇)도 인간과 같은 의식을 가질 수 있다. (특이점 이후 통제 불가)

 

인간형 AI 인공지능 로봇 이미지

 

인간 사고가 곧 알고리즘이라고 파악하는 과학자(수학자)들은 AI의 딥러닝으로 기계들도 단지 생각하고 학습하는 단계를 초월하여 인간과 같은 의식을 가질 수 있다고 말합니다.

'인간의 사고 = 알고리즘'이라는 전제 하에 인간의 의식도 AI의 알고리즘化 할 수 있다는 것입니다.

고도로 발달된 AI 딥러닝의 원리인 것이죠.

 

이러한 인식 문제가 왜 중요하나면,,

인간은 위에서 말한 알고리즘의 모순에서 너무도 (허망할 정도로) 쉽게 빠져나옵니다.

무의미한 무한반복 루프 모순에 빠지지 않기 때문이죠.

이것은 곧 목적에 대한 고민으로서 인간의 과정에 대한 인식과 결정 의지에서 비롯되는 것이기 때문입니다.

 

그런데 만약 AI(로봇, 기계)가 인간처럼 알고리즘의 모순을 극복하는 인식의 발달이 이루어지는 순간이 올 수도 있습니다.

이것을 우리는 또 다른 형태의 특이점이라 부릅니다.

 

 자유의지는 인간에게만 주어진 신의 선물?

 

그러니까 정리하자면 결국,,

학습하고 생각하는 것의 문제가 아니라 스스로 문제의 본질에 대한 고민, 즉 자아의식과 자유의지의 문제인 것입니다. 

 

이것이 바로 작금의 AI 특이점에 대한 개념적 정의와 이로 인해 발현될 인류 위기에 대한 논쟁의 주요 논점입니다.

결과적으로 먹통이 되어버리는 모순적 알고리즘 세계의 근본적인 불완전성을 해결하는 관건이기도 하고요.

 

그런데 여기서 한 가지 더 짚어볼 요소가 있습니다.

이것은 보다 철학적이며, 영적인 문제까지 확대될 수 있는 문제입니다.

그것은 바로 인간 의식의 단계에 대한 정의 역시 여전히 불완전하다는 것입니다.

 

인식의 단계를 세분화하여 고차원적인 피라미드를 만든다면 아래와 같을 겁니다.

본능 < 감각 < 생각 < 사고 < 의식 < 의지 < 정신 < 마음 < 영혼

 

그러면 우리는 다음과 같은 본질적인 문제에 대한 해답을 고민해야 할 것입니다.

 

• AI는 과연 어느 인식 단계까지 발전 가능할 것인가?
• 만약 인간과 동일한 자의식 인식 체계를 형성하는 특이점의 D-day가 도래하면, 기계는 더 이상 무생물이 아닌 새로운 우주의 지적 생명체로 받아들여야 하는가?

 

철학적, 종교적 관점에서 인간의 자유의지는 '신의 선물'입니다.

이 자유의지는 같은 생명체라 하더라도 오직 인식과 의식의 단계가 발달된 인간만이 부여받은 선물인 것입니다.

하지만 영혼의 뿌리가 되는 이러한 자유의지는 양날의 검과도 같아서 악을 선택할 자유까지 허용된다는 것이 문제입니다.

 

그래서 만약 AI가 자유의지를 알게 되어 만약 악을 선택하게 된다면 어떻게 될까요?

이러한 결과는 AI가 단순히 알고리즘의 모순을 방지하기 위한 자의식 단계의 알고리즘만으로 인류를 파괴하는 행위보다 더욱 공포스러운 결과입니다.

 

AI는 기계와 결합되어 여러 가지 작업을 수행하게 될 것입니다.

이러한 AI의 의식은 과연 어느 단계까지 발달하게 될까요?

 

양자물리학 단계에서 그나마 설명이 가능해지기 시작한 인간의 의식 단계 중에서..

AI가 '의지' 단계를 돌파하는 순간, 특이점의 도래와 함께 어쩌면 기계에 의한 인류의 절멸이 현실화될지도 모릅니다.

기계가 선한 영혼을 갖는 단계로 발달할 때까지 인류가 아직 온전하게 남아있지 않는 한..

 

p.s..

AI가 발달할수록 인간은 더욱 생각을 하지 않게 됩니다.

이미 고도로 발달하고 있는 각종 미디어 매체들로 인해 인간들은 자극을 원할 뿐, 갈수록 진지한 사고를 하기 싫어합니다.

"나는 생각한다. 고로 존재한다" 근대 철학의 대명제인 데카르트의 이 말은 결국 예언이 되었군요..

 

 

망 사용료 입법 추진 논란 및 문제점

망 사용료 입법 추진 논란 및 문제점

챗봇 이루다 인공지능 편향성 논란 (AI 기술 발전과 윤리)

챗봇 이루다 인공지능 편향성 논란 (AI 기술 발전과 윤리)

AI 인공지능 부작용 및 인간성 관련 근본적 문제점

AI 인공지능 부작용 및 인간성 관련 근본적 문제점