인공지능(AI)에 대한 논란이 급부상하고 있습니다. 일상 속 AI 시대가 이제는 상상이 아니라 현실이 되어가고 있기 때문이며, 그 발전 속도가 예상치를 상회하고 있기 때문입니다.
그리고 얼마 전 발표된 Chat GPT와 관련하여 화두가 된 "구글의 시대는 이제 끝났다. (영국 인디펜던스 기사)"라는 내용의 뉴스를 보면서 이러한 분위기에 대한 기대감보다는 인공지능의 부작용 및 인간과 직접적으로 연관된 문제점들에 대한 경각심도 한층 고조되고 있는 추세입니다.
따라서 앞으로 이러한 AI의 단점 및 부작용, 그리고 인간에게 직접적으로 영향을 끼치는 부분들에 대한 문제점들에 대해 연재하고자 합니다.
오늘은 이와 관련된 내용들에 대해 우선 포괄적으로 간단히 정리해 보는 시간을 갖고자 합니다.
구글 검색 시장을 위협할 ChatGPT의 등장?!
최근 논란이 되고 있는 ChatGPT(이하 '챗봇'으로 통칭함)은 GPT-3 기반을 발전시킨 모델로 가장 큰 특징은 매우 자연스러운 대화가 가능하다는 점입니다.
이 챗봇을 이용해 "논문을 짧은 시간에 작성했다, 대학 리포트를 10분에 작성했다, 코딩을 쉽게 해냈다"라는 과시 아닌 자랑을 하는 유튜브, 블로그 콘텐츠들이 넘쳐나기 시작했습니다.
정말 매우 유용하고 효율적인 내용이 아닐 수 없습니다. 오히려 그 정도가 가히 경악스러울만하네요.
그런데 이러한 기능이 과연 마냥 유익하기만 한 것일까요?
일단 이러한 부분에 대한 문제점들을 다음과 같이 간단히 요약해 봅니다.
- 사람의 노력이 없는 과제의 수행 ▶ 대신해준 과제를 자신이 이룬 결과물이라 말할 수 있을까?
- 모든 것을 정답을 요구하는 질문으로만 해결하려는 부작용 ▶ "구글이 끝났다"라고 말하는 검색 시장 위기론의 근거. 그러나 정작 문제는 정보를 전적으로 별다른 검증과 비교 없이 오직 AI에게만 의존하려는 문제점이 발생한다.
- 페이크 데이터(역정보)와 잘못된 정보의 맹신 ▶ 사람의 검색량과는 비교도 안 되는 데이터를 기반으로 내놓는 대답이라고 해서 반드시 100%의 신뢰성을 담보할 수 있을까? 거대한 조작의 위험성은 없는 것일까?
- 장기적으로 인간은 결국 정보를 수집, 가공, 재생산하는 능력과 창의력을 거의 완전히 상실하게 된다.
- 구글 검색 시장을 걱정할 문제가 아니라 인간의 사고 자체가 사라질 위기에 처했다.
이러한 챗봇의 등장은 스마트폰이 처음 등장했을 때의 충격과는 비교도 되지 않는 사안입니다.
앞으로도 계속 발전하게 될 AI 기반의 이러한 기능들은 이제껏 인류가 경험하지 못했던 엄청난 효율과 편의성을 제공하겠지만, 이용자인 인간은 이에 상응하는 반대급부를 반드시 치르게 될 수도 있습니다.
산업, 일상 생활 분야에서의 인공지능에 대한 부작용
먼저 산업, 경제 분야에서 제기될 부작용에 일단 간단히 열거해 보겠습니다.
① 산업 분야
인공지능과 로봇은 인간처럼 휴식과 복지가 필요 없습니다.
제대로만 작동한다면 관리체계 또한 매우 효율적으로 작동할 것입니다.
그야말로 생산성의 극대화를 이룰 수 있기 때문에 산업 전반에 광범위하게 적용될 것입니다.
그러나 역설적으로 바로 이러한 편의성 때문에 사람의 일자리는 대폭 감소하게 될 것입니다.
극단적으로 표현하지면 갈수록 사람은 필요 없게 될지도 모릅니다.
이러한 과정에서 발생하게 될..
1. 대량의 해고 및 실업 사태,
2. 독과점, 불평등 같은 '부의 재분배 문제'는 상상을 초월할 정도로 극단화될 우려가 있습니다.
그렇다면 라이프 스타일 패턴에는 어떤 변화가 있을까요?
홈케어, 자동차 관리, 보안장치, 자산관리, 정보전달, 엔터테인먼트, 광고, 구매 등등..
수많은 소소한 분야에서부터 커다란 변화가 있겠지만,,,
오늘은 일단 이러한 분야들에 대한 장점들은 차체하고 포괄적인 단점 및 부작용에 대해 생각해 보겠습니다.
② 일상생활에서 야기될 수 있는 인공지능의 부작용
1) 해킹이나 Lock down 상태
예전에 어떤 영화(?)의 한 부분인지 확실치는 않지만 인상적인 한 장면이 있었습니다.
어떤 아이 엄마가 인공지능이 탑재된 차량에 비밀번호를 설정해 두고 이를 해제하려면 자신의 육성으로 말하는 비밀번호가 아니면 자동으로 닫힌 차량문이 절대로 열리지 않도록 설정해 놓았습니다.
바로 보안을 위해서였죠.
그런데 드라이브 도중 엄마는 차량에 오토 key와 아이를 놔둔 채 잠깐 밖으로 나왔다가 다시 들어가려는데 그만 깜박 비밀번호를 잊어버려 차량문을 열 수가 없었습니다.
하지만 문제는 갑자기 커다란 대형 트럭이 브레이크 고장으로 인해 멈추지 못하고 폭주하며 이쪽으로 다가오고 있었던 것입니다.
그다음 장면은 생략...
이와 유사한 부작용들이 어떤 것들인지 아마 상상이 되실 겁니다.
인공지능이라고 완벽한 것은 아니기 때문에 바로..
1. 해킹으로 인한 심각한 개인정보 유출 및 사고의 위험성이나
2. 돌발적인 Lock down과 같은 갑작스러운 돌발적인 상황이 발생할 위험을 배제할 수 없으며,,
그 영향은 매우 심각한 수준에 이를 수 있습니다.
2) 평범한 일상 생활에서 발생될 문제점
이 밖에 우리 일상과 관련하여 발생할 AI 부작용들을 간단히 열거하면 다음과 같습니다.
(☞ 각 세부적인 사항에 대해서는 앞으로 지속적인 업데이트 진행 예정)
- 개인정보 및 보안의 취약성 문제 ▶ 단 한 번의 해킹으로 개인의 전반적인 모든 정보의 유출
- 오류로 인한 사고의 위험성 (ex. 자율주행 시스템 오류 등)
- 딥페이크로 인한 사생활 침해 및 거짓 정보의 범람
- 어뷰징 범람, 오히려 획일화된 정보의 난립
- 일자리 감소, 의욕 상실, 무기력, 현실 도피, 방구석 폐인 증가, 아바타 등장 가능성 ^^;
- 사람 간 직접적인 소통 감소
- 불투명한 사회, 조작된 통제 시스템에 의한 피지배
- 논리력, 사고력, 창의력 퇴보 ▶ 소설, 시, 그림 같은 예술 창작도 AI가 대신해 주는 상황
인간성 존속과 관련된 문제점
만약에 인공지능에게 "신이 존재하는가?"란 질문을 던졌을 때 사실에 입각한 정보로 대답을 하는 AI는 어떤 대답을 내놓을까요?
인공지능이 발달할수록,,
1. 윤리, 2. 철학, 3. 이성, 4. 사랑, 5. 종교적 가치, 6. 인격과 개성의 다양성, 7. 사상 등등..
'인간성과 관련된 이런 부분들의 존속이 과연 가능할 것인가?'라는 문제가 심각하게 대두될 것입니다.
왜냐하면 이러한 가치들은 반드시 인간의 사고력(思考力)을 전제로 하기 때문입니다.
위에서 언급한 대로 이제는 그저 질문을 하면 정답에 가까운 대답을 해주는 챗봇들이 등장하기 시작했고, 갈수록 인간처럼 대화가 가능한 상황이기 때문에 편리성과 효율성 측면 때문에 생각을 요하는 스터디, 검색, 정보의 취합 및 가공과 같은 작업들을 하지 않을 것입니다.
아무리 인공지능에게 윤리지침을 설정해 놓았다 하더라도 결국 AI 시스템에 적용된 이러한 지침으로 인해 더욱 안심하고 의존한다면, 어차피 과정과 결과적인 부분에서 인간의 생각과 노력이 들어가지 않는 측면은 매한가지입니다.
한 마디로 말해서,, 생각을 하지 않는, 생각하기 싫은, 생각이 필요 없는..
즉 인간 사고력의 실종이 가속화될 수도 있다는 의미입니다.
사람이 생각을 하지 않는다면 과연 인간으로서의 가치가 있을까요?
개인적으로 AI(인공지능)의 고도화된 발달에 있어 가장 큰 부작용은 바로 '인간성의 상실'이라고 생각합니다.
"나는 생각한다. 고로 존재한다"라는 르네 데카르트의 말이 그저 고리타분한 철학적 언어유희가 아니었다는 사실이 새삼 실감 나는 요즘입니다..
♠ P.S..
과학기술 발전에 따른 사회 변화는 피할 수 없습니다. 그리고 AI가 가져올 긍정적인 영향도 분명 존재합니다.
그러나 인공지능의 부정적 측면, 즉 단점 및 부작용에 대한 문제점들로 인해 치러야 할 대가도 분명 상존합니다.
따라서 이와 관련한 세부적인 부분들과 AI로 인해 펼쳐질 미래사회의 변화 및 인공지능이 지닌 장점들 또한 꾸준히 업데이트될 예정입니다.
감사합니다~.
최근댓글