프롤로그
철학적 좀비? 디지털 좀비?
AI, 즉 인공지능 기술의 발전은 우리 삶에 큰 변화를 불러오고 있습니다. (중략). 기술의 발달은우리가 인식하지도 못하는 사이, 시시각각 급속한 속도로 진화를 거듭하고 있지요.
챗지피티(ChatGPT), 엠에스 코파일럿(MS Copilot), 스테이블 디퓨전(StableDiffusion), 피카(Pika) 등과 같은 생성형 인공지능 도구는 빠른 시간 동안대중적으로 널리 받아들여졌으며, 산업 전반의 방향을 재설정하고 있습니다. - P5
인류는 이제 인공지능이 우리 삶과 미래에 어떠한 영향을 미칠 지심도 있게 고민해야 할 중요한 시점에 다다랐습니다. - P6
(전략). 그러나 이후 아시모프는 그러한 법칙이 무조건 적용되는 것은 아님을 인식하게 되지요. 그의 작품 『바이센테니얼 맨(The BicentennialMan)』(1976)은 로봇 3원칙의 한계를 탐구하는 동시에, 로봇이 도덕적이고 자율적인 존재로 발전할 수 있음을 보여줍니다. - P7
인공지능 기술의 발전은 단지 영화나 소설 속 이야기에서 그치지 않고 우리 삶 깊숙이 침투하고 있습니다. 2022년 미국 ‘콜로라도주립 박람회 미술대회‘에서 우승을 차지한 작품은 「스페이스 오페라 극장」입니다. - P8
이외에도 영화 「마이너리티 리포트」를 연상시키는, 범죄를 예측하는 인공지능 모델도 있습니다. 시카고 대학교의 이샤누 차토파디아이(Ishanu Chattopadhyay)와 그의 동료들은 2014년부터 2016년 말까지의 시카고 범죄 데이터를 분석한 인공지능 모델을 만들고, 이 훈련 기간 이후의 주간 범죄 수준을 예측했습니다. - P9
철학적 좀비 (Philosophical Zombie, P-Zombie)는 철학적 사고 실험에서 자주등장하는 개념으로, 인간처럼 행동하고 말하는 등 모든 외적 행동은 인간과 동일하지만, 내적으로는 의식이나 감정이 전혀 없는 존재를 의미합니다. 이는 사람처럼 말하고 행동하는 듯 보이는 인공지능 안에 진정한 ‘의식‘이 있는가 하는 질문과 맞닿아 있지요. - P10
인공지능 기술이 고도화되면서, 우리는 새로운 형태의 ‘디지털 좀비‘를 만들어 내고 있는 것은 아닐까요? - P11
인공지능은 우리의 삶을 더욱 편리하게 해주고 다양한 문제를 해결할 잠재력을 가지고 있습니다. (중략).
현대 인공지능의 발전은 우리에게 중요한 질문을 던집니다. 우리가 인공지능을 설계하고 훈련할 때, 그 안에 인간과 같은 윤리적 기준과 감정적 깊이를 부여할 수 있을까요? - P11
(전략). 아울러 인공지능 윤리에 대한 이해를 돕기 위해 다양한 사례와 시나리오를 포함하며, 선생님과 학생이 교육 현장에서 직접 활용할 수 있도록 구체적이고 실용적인 가이드를 제시합니다. 부모님들도 가정에서 자녀와 함께 인공지능 윤리에 대해 깊이 있는 논의를 진행할 수 있도록 도움 자료를 포함하고 있지요. - P12
제2부
인간과
인공지능의
사이에서
EPISODE 4.
인간이 된다는 건 어떤 걸까?
이야기 하나
(전략). 제페토는 피노키오를 불렀다. 피노키오의 뒷면에는 스마트폰 앱과연동하여 작동 시의 상태가 기록되고 있었다.
•소유자 호출.
• 소유자의 성향에 맞춰 인간미를 더 느낄 수 있는 답변과 행동 실행.
피노키오의 인공지능은 제페토 박사에 대한 맞춤형 행동과 말을 했지만, 겉으로 볼 때는 그 나이 또래의 사랑스러운 아이의 모습을 하고있었다. 물론 제페토 박사 또한 피노키오를 눈에 넣어도 아프지 않은친손자처럼 여겼다. - P67
요즘엔 안드로이드를 실제 사람과 구별하기 힘들 정도로 꾸미고 개조하는 것이 유행이었다. 피노키오와 제페토 박사가 들어온 반려 로봇상점 위싱 스타도 그처럼 안드로이드를 개조하려는 사람들로 붐볐다. - P68
그러더니 제페토 박사는 피노키오에게 말했다.
"피노키오야, 너도 마음에 들지? 너도 이제 사람과 같은 새 몸을 갖는 거야. 진짜 인간이 되는 거지."
피노키오는 집안일을 담당하는 로봇의 인공지능이 아닌 반려 로봇의 인공지능을 탑재하고 있었다. 따라서 특별한 경우가 아니라면 무엇보다 인간을 만족시키는 것을 우선으로 했다. - P69
며칠 후, 제페토 박사 앞에는 더 이상 인간 아이와 구별되지 않는 피노키오가 서 있었다. 제페토는 눈물을 흘리며 피노키오를 덥석 안았다.
(중략).
"이제 진짜 인간이 되었구나, 피노키오.""네, 저도 이제 인간이에요. 정말 고마워요, 할아버지."
이때, 피노키오의 기록 저장 장치는 고객인 제페토 박사의 정서적 반응과 피노키오의 대응을 기록하여 위싱 스타 클라우드 서버에 전송하고 있었다. - P70
이야기 둘
오늘도 덕호는 학교에 오지 않았다. (중략). 조회 시작 전, 지우가 하진에게 말했다.
(중략).
그러자 하진이 한마디했다.
"덕호가 요즘 무슨 앱에 푹 빠져 있었잖아. 애들하고 어울리지도 않고, 스마트폰이나 디지털 교과서만 쳐다보고 있기 일쑤고. 혹시 그거 때문 아닐까?" - P71
덕호의 집. 선생님과 상담을 마치고 돌아온 덕호 엄마는 학교에 가기싫다는 덕호를 달래기도 하고 혼을 내보기도 했다. (중략).
"이제 학교 따위는 안 가도 된다니까. 인공지능 시대가 되면 모두 온라인에다 인공지능으로 대체된다고요!"
"그래도 학교에는 친구들이 있잖아. 너희 때는 친구들이나 다른 사람들하고도 어울려야지, 평생 온라인 속에서 인공지능하고만 살 순 없잖니?" - P71
"너 혹시 그 ‘절친‘인가 뭔가 하는 앱 때문에 이러는 거야?"
(중략).
"스마트폰 이리 내놔 봐! 엄마가 한번 봐야겠다!"
엄마는 바로 스마트폰을 빼앗았다. 덕호의 반항은 더욱 거세졌고, 급기야는 울부짖으며 고함을 질러댔다. - P72
대화창에는 갈수록 이런 대화들이 더 많이 보였다. 덕호 엄마는 입을 다물 수 없었다. 도대체 무엇이 어디서부터 잘못되었을까? - P73
이야기 셋
학교에서 막 돌아온 지수의 표정은 밝아 보이지 않았다. 오늘도 할머니와 어머니의 실랑이가 벌어지고 있었다. (중략). 인공지능 추도 서비스는 고인의 통화 녹음이나 동영상, 사진, 이메일 등의 기록을 제공하면 그 내용을 학습한 인공지능이 고인을 완전히 복원하여, 유족들과 대화도 나누고 유족의 아쉬움도 달래주는 앱이었다.
(중략).
처음에 할머니는 인공지능 추도 앱에 나오는 할아버지를 보고, 한편으론 어색해하고 한편으론 반가워하며 대화를 나누고 눈물도 흘리곤 했다. 하지만 할아버지의 모습과 목소리, 특징이 너무나 정교하게 재현된 탓에, 할머니는 그 서비스 속의 할아버지에게 갈수록 몰입하게되었다. - P74
"아니, 언제까지 이 앱 때문에 식사도 거르시고 방에서 나오지도 않으실 거예요?" - P74
탐구질문
이번 에피소드는 인공지능이 인간의 정서적 교감의 대상이 될 수있는지, 우리가 마음을 쏟는 실제 애정의 상대가 될 수 있는지를 다루고 있습니다. - P76
다음 질문들은 에피소드의 주요 주제인 인간과 인공지능의 관계, 정체성과 윤리적 문제에 대한 깊이 있는 탐구를 촉진하는 데 도움이 될 것입니다.
(중략).
질문3 피노키오가 ‘진짜 인간‘이 되었다고 할 수 있을까요? 그렇지 않다면 이유는 무엇일까요? 피노키오의 외형과 기능은 인간처럼 변했지만, 여전히기계적 프로세스가 존재하는 한계에 대해 논의해 보세요. - P77
질문7 인간이 인공지능을 가족처럼 대할 때 발생할 수 있는 사회적·심리적 영향과 효과는 무엇일까요? 인공지능이 사회적 관계와 인간의 정체성에 미치는 영향에 대해 선생님의 지도하에 탐구하고 토론해 보세요. - P78
질문9 제페토가 피노키오를 두고 ‘인간이 되었다‘고 믿는 것은 자기기만일까요, 아니면 새로운 형태의 진실일까요? - P79
|