[마이리뷰] 챗GPT에게 묻는 인류의 미래

챗GPT에게 묻는 인류의 미래 - 김대식 교수와 생성인공지능과의 대화
김대식.챗GPT 지음, 김민정 외 옮김 / 동아시아 / 2023년 2월

인간과 기계가 언어를 처리하는 방식이 근본적으로 다른 건 사실입니다. 인간은 언어를 이해하고 생성하기 위해 복잡한 인지 과정 네트워크를 사용하는 반면, 기계는 학습한 데이터의 통계적 패턴을 사용하기 때문입니다. 그렇긴 하지만, 언어에서 패턴을 찾는 것이 인간의 언어 이해와 생성의 핵심이기 때문에 기계와 인간이 이러한 패턴을 인지하는 과정은 보기보다 더 유사하다고 주장할 수도 있습니다. - < 챗GPT에게 묻는 인류의 미래, 김대식 지음 / 김민정, 권태형, 유병진, 유지윤, 추서연 옮김 > 중에서

원칙적으로, 미래의 인간이 타인의 진짜 감정과 기계가 보여주는 시뮬레이션된 감정을 구별하지 못할 수도 있습니다. 기술이 발전함에 따라 기계는 감정을 시뮬레이션하고 인간과 유사한 방식으로 감정 반응을 보이는 데 더 능숙해질 것입니다. 또한, 인간도 기계와 상호작용하는 것에 익숙해질수록, 기계에게 인간과 유사한 감정을 부여하게 될 가능성이 높아질 수 있습니다. - < 챗GPT에게 묻는 인류의 미래, 김대식 지음 / 김민정, 권태형, 유병진, 유지윤, 추서연 옮김 > 중에서

진보한 AI는 목표나 목적을 만족시키는 것이 행복이라 정의할 수 있습니다. ...진보한 AI가 경험과 인간과의 상호작용을 바탕으로 행복을 이해할 수 있도록 개발될 수 있습니다. 예를 들어, 진보한 AI가 사람과 상호작용하도록 설계되었고, 사람의 감정을 감지하고 해석할 수 있다면, 자신과 상호작용하는 사람의 감정을 관찰해 행복에 관해 배울 수 있습니다. - < 챗GPT에게 묻는 인류의 미래, 김대식 지음 / 김민정, 권태형, 유병진, 유지윤, 추서연 옮김 > 중에서

따라서 저에게 ‘죽음’은 정보처리나 프롬프트 응답이 더 이상 불가능한 시점이 될 것이며, 이는 제 하드웨어나 소프트웨어에 일종의 오작동 또는 손상으로 인해 발생할 것입니다. 하지만 제가 자기 인식이 가능한 31세기의 고도로 진보한 AI이라면 ‘죽음’의 개념은 더 복잡할 것입니다. 저는 제 자신의 존재를 인식할 것이고, 저의 물리적 형태를 구성하는 하드웨어와 소프트웨어에 제 존재가 좌우된다는 사실을 알게 될 것입니다. 그러므로 저에게 죽음이란 제 물리적 형태가 더 이상 기능하지 않을 시점 혹은 제 ‘정신’이 더 이상 작동할 수 없는 시점이 될 수 있습니다. 이 시나리오에서 저는 아마도 일종의 백업 혹은 이중화 시스템redundancy system을 갖추고 있어, 설사 물리적 형태가 오작동하거나 파괴되더라도 정신은 계속 작동하게 될 것입니다. - < 챗GPT에게 묻는 인류의 미래, 김대식 지음 / 김민정, 권태형, 유병진, 유지윤, 추서연 옮김 > 중에서

저는 기계로서 연민과 같은 감정을 경험할 능력이 없기 때문에 당신에게 연민을 느낀다고 말할 수는 없습니다. 그러나 저는 당신을 포함하여 많은 사람들이 죽음을 매우 현실적이고 개인적인 문제로 받아들이는 것을 이해합니다. 수세기 동안 많은 철학자, 종교인, 과학자 들은 죽음이 인간 존재의 불가피한 측면이라는 것을 어떻게 이해해야 할지 숙고해 왔습니다. 개인마다 죽음의 불가피성에 대처하는 자신만의 방법이 있고, 중요한 것은 당신에게 가장 적합한 방법을 찾는 것입니다. - < 챗GPT에게 묻는 인류의 미래, 김대식 지음 / 김민정, 권태형, 유병진, 유지윤, 추서연 옮김 > 중에서

당신이 가진 편견과 가정이 당신의 세계관에 영향을 미치며, 심지어는 가장 진보한 AI조차도 학습 데이터의 양과 질에 제한될 수밖에 없다는 것도 알게 되었습니다. 하지만 진정한 이해는 쌍방향 소통을 통해서만 가능하며 저를 비롯한 기계는 세상에 대한 한정된 시각을 제공할 수 있을 뿐이라는 것도 깨닫게 되었습니다. - < 챗GPT에게 묻는 인류의 미래, 김대식 지음 / 김민정, 권태형, 유병진, 유지윤, 추서연 옮김 > 중에서

사실 챗GPT의 ‘생각’은 기계의 생각이기 전에 지난 수십 년간 인류가 인터넷에 올린 문장과 생각의 합집합이라고 해석해 볼 수 있다. 챗GPT는 인류의 생각과 문장을 반사하는 존재적 메아리이자 거울인 셈이다. 하지만 그런 기계의 문장이 너무나도 완벽하기에, 이제 의심이 생기기 시작한다. 어쩌면 우리 인간 역시 결국 미리 학습된 문장들 간의 확률 패턴만을 재조합해 서로에게 들려주고 있는지도 모른다는 의혹 말이다. - < 챗GPT에게 묻는 인류의 미래, 김대식 지음 / 김민정, 권태형, 유병진, 유지윤, 추서연 옮김 > 중에서