프롤로그
철학적 좀비? 디지털 좀비?
AI, 즉 인공지능 기술의 발전은 우리 삶에 큰 변화를 불러오고 있습니다. (중략). 기술의 발달은우리가 인식하지도 못하는 사이, 시시각각 급속한 속도로 진화를 거듭하고 있지요. 챗지피티(ChatGPT), 엠에스 코파일럿(MS Copilot), 스테이블 디퓨전(StableDiffusion), 피카(Pika) 등과 같은 생성형 인공지능 도구는 빠른 시간 동안대중적으로 널리 받아들여졌으며, 산업 전반의 방향을 재설정하고 있습니다. - P5
인류는 이제 인공지능이 우리 삶과 미래에 어떠한 영향을 미칠 지심도 있게 고민해야 할 중요한 시점에 다다랐습니다. - P6
(전략). 그러나 이후 아시모프는 그러한 법칙이 무조건 적용되는 것은 아님을 인식하게 되지요. 그의 작품 『바이센테니얼 맨(The BicentennialMan)』(1976)은 로봇 3원칙의 한계를 탐구하는 동시에, 로봇이 도덕적이고 자율적인 존재로 발전할 수 있음을 보여줍니다. - P7
인공지능 기술의 발전은 단지 영화나 소설 속 이야기에서 그치지 않고 우리 삶 깊숙이 침투하고 있습니다. 2022년 미국 ‘콜로라도주립 박람회 미술대회‘에서 우승을 차지한 작품은 「스페이스 오페라 극장」입니다. - P8
이외에도 영화 「마이너리티 리포트」를 연상시키는, 범죄를 예측하는 인공지능 모델도 있습니다. 시카고 대학교의 이샤누 차토파디아이(Ishanu Chattopadhyay)와 그의 동료들은 2014년부터 2016년 말까지의 시카고 범죄 데이터를 분석한 인공지능 모델을 만들고, 이 훈련 기간 이후의 주간 범죄 수준을 예측했습니다. - P9
철학적 좀비 (Philosophical Zombie, P-Zombie)는 철학적 사고 실험에서 자주등장하는 개념으로, 인간처럼 행동하고 말하는 등 모든 외적 행동은 인간과 동일하지만, 내적으로는 의식이나 감정이 전혀 없는 존재를 의미합니다. 이는 사람처럼 말하고 행동하는 듯 보이는 인공지능 안에 진정한 ‘의식‘이 있는가 하는 질문과 맞닿아 있지요. - P10
인공지능 기술이 고도화되면서, 우리는 새로운 형태의 ‘디지털 좀비‘를 만들어 내고 있는 것은 아닐까요? - P11
인공지능은 우리의 삶을 더욱 편리하게 해주고 다양한 문제를 해결할 잠재력을 가지고 있습니다. (중략). 현대 인공지능의 발전은 우리에게 중요한 질문을 던집니다. 우리가 인공지능을 설계하고 훈련할 때, 그 안에 인간과 같은 윤리적 기준과 감정적 깊이를 부여할 수 있을까요? - P11
(전략). 아울러 인공지능 윤리에 대한 이해를 돕기 위해 다양한 사례와 시나리오를 포함하며, 선생님과 학생이 교육 현장에서 직접 활용할 수 있도록 구체적이고 실용적인 가이드를 제시합니다. 부모님들도 가정에서 자녀와 함께 인공지능 윤리에 대해 깊이 있는 논의를 진행할 수 있도록 도움 자료를 포함하고 있지요. - P12
제2부
인간과 인공지능의 사이에서
EPISODE 4. 인간이 된다는 건 어떤 걸까?
이야기 하나
(전략). 제페토는 피노키오를 불렀다. 피노키오의 뒷면에는 스마트폰 앱과연동하여 작동 시의 상태가 기록되고 있었다.
•소유자 호출. • 소유자의 성향에 맞춰 인간미를 더 느낄 수 있는 답변과 행동 실행.
피노키오의 인공지능은 제페토 박사에 대한 맞춤형 행동과 말을 했지만, 겉으로 볼 때는 그 나이 또래의 사랑스러운 아이의 모습을 하고있었다. 물론 제페토 박사 또한 피노키오를 눈에 넣어도 아프지 않은친손자처럼 여겼다. - P67
요즘엔 안드로이드를 실제 사람과 구별하기 힘들 정도로 꾸미고 개조하는 것이 유행이었다. 피노키오와 제페토 박사가 들어온 반려 로봇상점 위싱 스타도 그처럼 안드로이드를 개조하려는 사람들로 붐볐다. - P68
그러더니 제페토 박사는 피노키오에게 말했다. "피노키오야, 너도 마음에 들지? 너도 이제 사람과 같은 새 몸을 갖는 거야. 진짜 인간이 되는 거지." 피노키오는 집안일을 담당하는 로봇의 인공지능이 아닌 반려 로봇의 인공지능을 탑재하고 있었다. 따라서 특별한 경우가 아니라면 무엇보다 인간을 만족시키는 것을 우선으로 했다. - P69
며칠 후, 제페토 박사 앞에는 더 이상 인간 아이와 구별되지 않는 피노키오가 서 있었다. 제페토는 눈물을 흘리며 피노키오를 덥석 안았다. (중략). "이제 진짜 인간이 되었구나, 피노키오.""네, 저도 이제 인간이에요. 정말 고마워요, 할아버지." 이때, 피노키오의 기록 저장 장치는 고객인 제페토 박사의 정서적 반응과 피노키오의 대응을 기록하여 위싱 스타 클라우드 서버에 전송하고 있었다. - P70
이야기 둘
오늘도 덕호는 학교에 오지 않았다. (중략). 조회 시작 전, 지우가 하진에게 말했다. (중략). 그러자 하진이 한마디했다. "덕호가 요즘 무슨 앱에 푹 빠져 있었잖아. 애들하고 어울리지도 않고, 스마트폰이나 디지털 교과서만 쳐다보고 있기 일쑤고. 혹시 그거 때문 아닐까?" - P71
덕호의 집. 선생님과 상담을 마치고 돌아온 덕호 엄마는 학교에 가기싫다는 덕호를 달래기도 하고 혼을 내보기도 했다. (중략). "이제 학교 따위는 안 가도 된다니까. 인공지능 시대가 되면 모두 온라인에다 인공지능으로 대체된다고요!" "그래도 학교에는 친구들이 있잖아. 너희 때는 친구들이나 다른 사람들하고도 어울려야지, 평생 온라인 속에서 인공지능하고만 살 순 없잖니?" - P71
"너 혹시 그 ‘절친‘인가 뭔가 하는 앱 때문에 이러는 거야?" (중략). "스마트폰 이리 내놔 봐! 엄마가 한번 봐야겠다!" 엄마는 바로 스마트폰을 빼앗았다. 덕호의 반항은 더욱 거세졌고, 급기야는 울부짖으며 고함을 질러댔다. - P72
대화창에는 갈수록 이런 대화들이 더 많이 보였다. 덕호 엄마는 입을 다물 수 없었다. 도대체 무엇이 어디서부터 잘못되었을까? - P73
이야기 셋
학교에서 막 돌아온 지수의 표정은 밝아 보이지 않았다. 오늘도 할머니와 어머니의 실랑이가 벌어지고 있었다. (중략). 인공지능 추도 서비스는 고인의 통화 녹음이나 동영상, 사진, 이메일 등의 기록을 제공하면 그 내용을 학습한 인공지능이 고인을 완전히 복원하여, 유족들과 대화도 나누고 유족의 아쉬움도 달래주는 앱이었다. (중략). 처음에 할머니는 인공지능 추도 앱에 나오는 할아버지를 보고, 한편으론 어색해하고 한편으론 반가워하며 대화를 나누고 눈물도 흘리곤 했다. 하지만 할아버지의 모습과 목소리, 특징이 너무나 정교하게 재현된 탓에, 할머니는 그 서비스 속의 할아버지에게 갈수록 몰입하게되었다. - P74
"아니, 언제까지 이 앱 때문에 식사도 거르시고 방에서 나오지도 않으실 거예요?" - P74
탐구질문
이번 에피소드는 인공지능이 인간의 정서적 교감의 대상이 될 수있는지, 우리가 마음을 쏟는 실제 애정의 상대가 될 수 있는지를 다루고 있습니다. - P76
다음 질문들은 에피소드의 주요 주제인 인간과 인공지능의 관계, 정체성과 윤리적 문제에 대한 깊이 있는 탐구를 촉진하는 데 도움이 될 것입니다.
(중략).
질문3 피노키오가 ‘진짜 인간‘이 되었다고 할 수 있을까요? 그렇지 않다면 이유는 무엇일까요? 피노키오의 외형과 기능은 인간처럼 변했지만, 여전히기계적 프로세스가 존재하는 한계에 대해 논의해 보세요. - P77
질문7 인간이 인공지능을 가족처럼 대할 때 발생할 수 있는 사회적·심리적 영향과 효과는 무엇일까요? 인공지능이 사회적 관계와 인간의 정체성에 미치는 영향에 대해 선생님의 지도하에 탐구하고 토론해 보세요. - P78
질문9 제페토가 피노키오를 두고 ‘인간이 되었다‘고 믿는 것은 자기기만일까요, 아니면 새로운 형태의 진실일까요? - P79
EPISODE 9.
인공지능이 인간과진짜 가족이 될 수 있을까? 이야기 하나
"피노키오야, 이제 너도 학교에 다녀보지 않으련?" (중략). 연구소나학교에는 ‘인공지능의 인격 학습을 위한 관찰 실험 연구‘와 같은 적당한 구실을 붙여둔 상태였다. - P118
"인간의 삶과 배움에는 지식만이 전부가 아니란다. 인간은 어린아이부터 시작해서 스스로 배우는 능력을 키워야 하고, 다른 사람들과의 관계 속에서 사회성이란 것도 키워야 하지. 인간은 다른 사람들과의 관계에서 지식만으로는 전부 알 수 없는 실제 삶을 배우고, 다양한 과제를 통해 감성과 창의성, 사회성 그리고 생각하는 힘을 키우게 된단다." "지식처럼 그냥 데이터를 전송받고 저장하면 되지 않을까요? 그런것도 모두 학습 데이터로 처리할 수 있을 텐데…." - P119
피노키오는 존재론*에 대한 정보를 조사했다. (중략). "피노키오야, 학교는 어떻게 할래? 사실 강요할 생각은 없단다. 네가 하고 싶은 대로 자유롭게 하면 돼." (중략). 물론 피노키오도 스스로 판단하고 선택할 수는 있었다. 하지만 인간들이 말하는 ‘자유로운 판단을 통해 자신의 의지를 지닌 채 행동하며, 그에 대한 책임을 진다‘는 개념은 도무지 이해할 수 없었다. 그러나 피노키오는 제페토 박사를 기쁘게 해주려고 학교에 가고 싶다고 말했다.
* 존재론(Ontology)은 ‘무엇이 존재하는가?"를 탐구하는 철학이다. 가장 오래된 존재론적 질문 중 하나는 신(God)의 존재 여부에 관한 것이다. - P120
이야기 둘
피노키오는 제페토 박사의 주선으로 학교에 다니게 되었다. (중략). "선생님, 그런데 왜 안드로이드가 우리랑 같이 공부하나요? 시험을보거나 하면 우리가 엄청 불리하잖아요." - P121
. 학교 수업의 상당 부분은 증강현실(AR)과 가상현실(VR)이 적절히 어우러진 꽤 전형적인 인간 교육 방식으로 진행되었다. - P121
"할아버지가 그런 지식 말고도 많은 것을 배울 수 있다고 학교에 보내셨어. 기쁨, 슬픔, 연민, 공감 같은 정서부터 우정과 믿음이나 신뢰 그리고 사회성 같은...." 그러자 한 아이가 조롱하듯 말했다. "말도 안 돼, 그런 걸 왜 배워." "맞아. 학교에서 그런 걸 가르친다는 이야기는 들어본 적도 없어." - P122
다시 수업이 시작되어 선생님이 교실로 들어왔다. "자, 여러분. 이제 조별로 모여서 친구들과 오늘 배운 것에 대해 토론해 봅시다." (중략). 아이들이 시큰둥하게 말했다. "선생님, 쟤는 안드로이드잖아요. 모르는 것을 물어보는 것까진 괜찮지만 함께 토론하는 건 이상해요." - P123
사실 선생님도 그런 상황에 어떻게 대처해야 할지 모르긴 마찬가지였다. 아이들 간의 정서적 발달이나 마음의 상처에 대해 고민해왔지만, 피노키오에게 그런 것을 고려할 필요는 없을 듯했다. - P124
탐구질문
이번 에피소드는 피노키오가 인간의 학교에 다니며 인간 사회와감정을 배우려는 여정을 다릅니다. (중략). 첫 번째 이야기에서 제페토 박사는 피노키오에게 학교에 다닐 것을 제안합니다. (중략). 제페토의 진짜 의도는 피노키오를 통해 인공지능의 인격 학습을 연구하려는 것으로 드러나며, (후략). - P126
다음 질문들은 인공지능과 인간이 함께 살아가는 세상을 상상하면서, ‘인간다움이란 무엇일까?‘, ‘인공지능과 우리는 어떤 관계를 맺어야 할까?‘라는 깊은 고민을 해볼 수 있도록 돕습니다. - P127
질문1 인공지능이 감정을 배울 수 있을까요? 인공지능이 인간처럼 기뻐하고 슬퍼하는 법을 배울 수 있을까요? 예를 들어 인공지능 로봇이 울고 있는친구에게 "괜찮아?"라고 묻는다면, 그것은 진짜 걱정이 되어서 하는 말일까요, 아니면 단순히 학습된 반응일까요? 여러분은 감정을 배운다는 것이 단순히 따라 하는 것인지, 아니면 진짜 감정을 느끼는 것인지 어떻게 구별할수 있나요? - P127
질문3 인간과 인공지능이 함께 살아갈 때 가장 큰 문제는 무엇일까요? 피노키오는 인간들과 어울리려고 하지만, 친구들은 그를 쉽게 받아들이지 않습니다. 여러분이 인공지능 친구를 사귄다면, 어떤 점에서 어려움이 있을 것같나요? 인공지능이 인간과 어울릴 때 발생하는 문제를 친구 관계, 감정 표현, 신뢰 등 다양한 관점에서 생각해 보세요. - P128
질문6 인공지능이 감정을 ‘연기하는 것‘과 ‘진짜로 느끼는 것‘은 어떻게 다를까요? 인공지능이 "오늘 기분이 어때?"라고 묻는다면 진짜로 궁금해서묻는 걸까요, 아니면 프로그래밍된 질문일까요? 인공지능이 인간의 감정을단순히 모방하는 것과 진짜로 감정을 느끼는 것의 차이를 생각해 보세요. - P129
|