인공지능이 내놓은 답은 옳은가

AI는 차별을 인간에게서 배운다 - 인간과 기술의 공존을 위해 다시 세우는 정의 ㅣ 서가명강 시리즈 22
고학수 지음 / 21세기북스 / 2022년 1월

챗GPT를 이용하여 레포트를 작성하거나 과제를 해결하는 대학생들의 이야기가 뉴스화되고 있는 시점이다. 인공지능은 실생활에 적용되기 시작했고, 인공지능을 어떻게 활용할 것인가, 어떻게 활용하는 것이 바람직한가 하는 논의가 필요하다. 이 책은 현재 우리 사회가 인공지능을 어느 수준까지 개발했고, 어떻게 활용되고 있는지, 어떤 문제가 있는지를 짚고 있다. 

인간은 내가 직간접적으로 경험한 데이터를 가지고 판단한다. 각자는 각자가 경험한 데이터를 기반으로 사람이나 사물, 일을 판단하는 것이다. 때문에 각자가 어떤 사안에 대해 다르게 판단할 수 있고, 그 다른 판단들을 공론장에서 토론을 통해 옳고 그름을 논의하는 것이다. 우리는 보통 사람은 주관적이고, 기계나 컴퓨터는 객관적이라고 여기지만 인공지능은 철저히 사람들이 그동안 쌓아온 데이터를 학습해서 답을 내리거나 판단-이때의 판단은 사람이 내리는 판단과는 성격이 다르다. 인공지능이 답을 내리는 과정을 지칭했다.-한다. 컴퓨터가 내린 답안을 우리는 신뢰할 수 있다고 믿고, 객관적이라고 보지만, 인공지능의 판단에 사용된 데이터 자체가 인간이 쌓은 데이터라 객관적이지 않다. 예를 들어, 가난한 사람들 중 흑인이 백인보다 많이 아파도 병원에 가지 못하는데, 병원이 갖고 있는 데이터는 백인들의 것이 더 많고, 이를 바탕으로 학습한 인공지능은 잘못된 판단을 내릴 수 있다. 

세상은 편리해졌고, 더 쉽게 지식을 얻고-쉽게 얻는다기보다는 쉽게 찾는다는 표현이 적절할 것 같다-, 더 쉽게 원하는 정답을 도출할 수 있을 것 같지만, 판단의 영역까지 인공지능에게 넘겨줬을 때 인간으로서의 기능까지 포기하는 것은 아닌가 하는 생각도 든다. 생각하는 것, 사고하는 것, 판단하는 것을 제외하면 살아있는 생물체뿐이지 않을까. 기술의 발전은 놀랍고 환영할 일이지만, 자신을 놓아버리는 사람들이 더 많아질 것 같다. 그래도 되는 세상일 것처럼 느껴지니까.

현재의 인공지능은 풍부한 데이터를 확보하여 학습하는 것이 핵심 관건이다. 특히 현실적으로 가장 많이 쓰이는 인공지능은 지도학습 방식의 인공지능인데, 지도학습을 위해서는 레이블된 데이터를 충분히 확보하는 것이 중요하다. (…) 데이터의 중요성을 강조하여 ‘쓰레기를 넣으면 쓰레기가 나온다’는 관행적 표현이 언급되기도 한다.
- P73

아마존에서는 그 이전 10년 정도의 기간에 회사에 지원한 사람들의 이력서를 활용하여 인공 지능 모델을 구축하고자 했는데, 그 기간에 회사에 지원한 사람 중 여성의 비율 자체가 낮았던 것이 문제의 출발점이라는 것이다. 더군다나 IT 업무를 다루는 직군은 여성 비율이 더욱 낮았다는 한계도 있다. 알고리즘의 개발 과정에서, 이력서에 여학교 이름이나 여성 전용 동아리 이름 등 여성임을 파악할 수 있는 표현이 있으면 부정적인 평가가 지속적으로 나타나는 것이 파악되었고, 결국 이 작업은 잠정 중단되었다.
- P82

요컨대 인공지능은 그룹화를 통한 분석과 의사결정에 특히 강점을 가진 기술인 것이고, 이는 사회적인 맥락에서는 차별에 관한 논란으로 쉽게 확대될 수 있는 것이다.
- P140

오늘날의 인공지능은 데이터의 존재가 핵심적인 관건이다. 적어도 개념적으로는 인공지능 모형을 개발하는 첫 단계는 실제 세상의 데이터에서 출발한다. 사회적 환경을 배경으로 하는 유형의 작업은 실제 세상의 데이터가 더욱 중요하다. 그런데 사회에는 편견과 차별, 불공정이 어느 정도는 있기 마련이다. 인공지능 개발의 기본 배경이 되는 인간 사회의 모습은 인공지능 기술 자체에 관한 문제라기보다는 우리 사회의 근본적인 문제라 하겠다.
- P153

사람의 판단은 결국 자기가 살아오면서 겪은 직접 경험, 간접 경험을 그룹화하고 일반화하여 판단하는 것임을 부인할 수는 없다. 만약 그게 가능하지 않다면 인간의 학습이라는 것 자체가 의미가 없어지게 된다. 인공지능의 경우에도 그룹화하고 일반화하는 과정을 통해 학습이 이루어진다는 점은 마찬가지다.
- P232

환경 생태와 최재천 입문하기

생태적 전환, 슬기로운 지구 생활을 위하여 - 지속가능한 지구를 위한 마지막 선택 ㅣ 굿모닝 굿나잇 (Good morning Good night)
최재천 지음 / 김영사 / 2021년 3월

피트니스 센터에서 러닝머신을 뛰는 동안 최재천의 아마존 유튜브를 즐겨본다. 무거운 주제지만 유쾌하고 가볍게 풀어내시는 재주가 있으시고, 한국의 큰 학자지만 재미있으시다. 2015년에 휴머니스트 출판사에서 나온 "대담"으로 최재천을 처음 접했다. 세월이 많이 흘렀지만, 최재천 교수는 여전히 열정이 넘친다. 

이 책은 김영사에서 굿모닝 굿나잇 콘셉트로 만든 시리즈물 중 하나다. 얇고 작아서 가볍게 손에 들고, 가볍게 읽을 수 있다. 읽은 후에는 생각이 많아지고, 마음은 무거워진다. 매우 쉽게 읽을 수 있어, 독자들이 이 학자들을 입문하기에 좋은 책이다. 다 읽고 나서 이 주제에 관심이 생기면 저자가 추천하는 참고 문헌이 뒤에 있다. 생태와 기후 문제에 대한 관심으로, 몇몇 책들을 장바구니에 담았다. 출퇴근 길 지하철에서 하루에 읽기 좋다. 

우리가 만일 2030년부터 지구의 생물다양성이 조금이라도 증가하도록 만들려면 다음과 같은 조치가 필요하다. 첫째, 강화된 생태계 보전과 복원, 둘째, 기후 변화 감쇠, 셋째, 오염, 외래침입종 및 남획 감축, 넷째, 재화와 용역, 특히 식량의 보다 지속 가능한 생산, 다섯째, 소비와 폐기물 축소, 이 다섯 가지는 어느 하나 덜 중요한 것이 없기 땜누에 어느 것 하나 소홀히 할 수 없다. - P133

자연과 달리 인간은 거의 모든 일에서 철저하게 다양성을 줄이는 방향으로 일한다.
- P147

"두 팔을 완전히 펴고, 그것이 지구의 역사 전체를 나타낸다고 생각해 보는 것이다. (…) 인간의 모든 역사는 손톱줄로 손톱을 다듬을 때 떨어져 나오는 중간 크기의 손톱 가루 한 알 속에 들어가버린다."(빌 브라이슨, "거의 모든 것의 역사") - P157

감정의 탄생과 역사, 분류, 영향

감정의 뇌과학 - 지금 느끼는 이 감정은 어디에서 오는가
레너드 믈로디노프 지음, 장혜인 옮김 / 까치 / 2022년 10월

저자의 자전적 이야기와 주변의 사례를 바탕으로 감정에 대해 풀어낸다. 역사적으로 '감정'이란 단어가 탄생하기까지의 과정, 그리고 감정이 담고 있는 의미, 기쁨, 슬픔, 분노 등 여러 가지 감정의 사례와 의미, 영향 등을 다룬다. 

우리는 목표와 데이터를 바탕으로 이성적으로 사고하여 논리적인 결론을 도출해낼 수 있지만, 감정은 그보다 추상적인 수준에서 작동한다. 감정은 우리가 목표에 부여하는 중요성과 데이터에 부여하는 가중치에 영향을 미친다. 감정은 건설적이고 필수적인 평가 틀을 만들고, 지식과 경험을 바탕으로 현재 상황과 미래 전망에 대한 사고방식을 미묘하지만 결정적으로 바꾼다. - P12

감정은 환경을 효율적으로 재빨리 파악해서 필요에 따라 반응할 수 있도록 돕는다. 감정은 이성적인 생각을 도와 더 나은 결정을 내리도록 한다. 다른 사람과 이어지고 소통하는 데에도 도움이 된다. 감정의 목적과 기능을 이해한다고 해서 삶을 더 풍요롭게 만드는 감정의 역할이 줄어들지는 않는다. 감정을 통해서 우리는 인간이 된다는 것이 무엇인지 더 잘 이해하게 된다. - P70

핵심 정서는 신체의 생존력을 나타내는 일종의 온도계라고 볼 수 있다. 핵심 정서는 신체의 데이터, 외부 사건에서 오는 정보, 세상의 상태를 반영한 생각을 바탕으로 일반적인 건강 상태를 나타내는 감각을 읽어낸다. 핵심 정서는 감정과 마찬가지로 일종의 정신 상태이다. - P74

주변 사람이 행복하면 자신도 행복하고 미래에도 행복할 가능성이 크다. 비슷한 사람과 관계를 맺는 성향 때문이 아니라 행복의 확산 때문이다.
- P254

감정은 우리를 깊은 슬픔과 고양된 기쁨으로 이끈다. 감정은 뒤에서 우리의 선택과 행동을 이끄는 지배적인 동력이며 목표를 수립하고 달성하게 만드는 이유이다. - P255

오늘과 내일의 작은 루틴이 1년 뒤의 나를 만든다

나는 하루 5분만 바꾸기로 했다 - 멘탈이 흔들려도 최고의 하루를 만드는 루틴의 법칙
옥민송 지음 / 콘택트 / 2022년 12월

나만의 루틴이 있다. 그리고 루틴이 잘 지켜지면 하나씩 추가하고는 한다. 그러다 안 되면 또 하나씩 빼고 휴식을 취하곤 한다. 자기 관리를 위해 우연히 앱스토어에서 마이루틴 앱을 발견했고, 몇 달 간 이용했었다. 지금은 이용하지 않고 있는데, 스마트폰을 들여다 보는 시간이 너무 많아서다. 그리고 루틴을 완성할 때마다 열고 체크하는 것이 번거로워, 일상에서는 비슷한 루틴을 계속 수행하고는 있지만 체크하지 않는다. 올해 초 한 장짜리 종이로 1년을 체크할 수 있는 연간 플래너 여러 장을 사서 연필로 체크하고 있다. 예를 들면, 오늘 애플워치 원 세 개 다 채우기, 또 한 장은 피트니스와 요가 간 날 체크, 또 한 장에는 달리기한 날의 거리 기록 등.

작은 루틴들은 오늘의 나를 채우고, 내일의 나를 만들며, 1년 후 복리로 돌아온다. 적금은 만기를 채워본 적이 없지만, 일상의 작은 습관들은 그럭저럭 잘 해내는 편이다. 새해가 시작하고 한 가지 루틴을 새로 만들었다. 집에서 아침에 문밖에 나가기 전까지 한 시간 동안 독서를 하거나 달리기를 하는 것이다. 날이 풀리면 달리기를 할 것이고, 지금은 추운 날씨라 독서를 하고 있다. 며칠 안 됐지만 잘 지키고 있다. 이 책도, 오늘 아침 1시간 조금 넘는 시간 동안 집중해서 다 읽었다. 하루 1시간 독서인데 책 한 권을 뚝딱 다 읽지 않았는가. 매일 이렇게 읽으면 1년 동안 많은 책을 읽게 된다. (책의 무게감에 따라 다르고, 매일 지키기는 어렵겠지만)

마이루틴이라는 앱을 대학생 때 창업해서 만들고 2-3년 사이 시장에 굳건하게 정착시킨 젊은 창업자의 이야기다. 동시에 자신이 루틴앱의 헤비 이용자로서의 경험이 담겨 있다. 새해 마음가짐을 다지며 읽기 좋은 책이다. 

작은 루틴은 오래했을 때 힘을 발휘한다. 그리고 좋아하는 행동일수록 오래하기 쉽다. 목표든 행동이든 자신과 맞는 걸 찾아야 한다. 타인의 목표가 멋있어 보여서 따라하다가 이 정도까지 노력해서 얻고 싶은 목표가 아니란 걸 깨달을 수도 있고, 목표는 와닿지만 이 방법은 아니라고 생각할 수도 있다. 목표를 달성하는 방법은 하나가 아니니까 자신에게 맞는 방법을 찾을 때까지 짧게 짧게 시도해보는 게 좋다. 남들에게는 어렵지만 내게는 쉬운 게 있다. 남들에게는 재미없지만 내게는 즐거움을 주는 것도 있다.
- P63

루틴은 건강한 마음을 유지하는 데도 도움이 된다. 일상 멘탈을 관리하기에도, 힘든 시기를 지탱하기에도 유용한 도구이기 때문이다. 하루에 하나라도 작은 성취를 경험하는 것 자체가 자기 효능감을 높이는 가장 효과적인 방법이다. 그뿐만 아니라 루틴은 일종의 온도계의 역할도 한다. 루틴을 꾸준히 지키다 보면 별 탈 없이 수월하게 잘 지키는 시기와 행동 하나하나가 유난히 어려워지는 시기가 있는데, 이 자체가 삶의 속도와 스트레스 수준을 가늠하게 해 준다.
- P94

루틴은 적은 에너지로 원하는 삶을 살 수 있게 도와준다. 내가 원하는 삶과 연결된 루틴을 만들고 쌓아갈수록 점점 더 적은 에너지로, 점점 더 만족스러운 삶을 살 수 있다.
- P99

"당신의 믿음은 당신의 생각이 된다. 당신의 생각은 당신의 말이 된다. 당신의 말은 당신의 행동이 된다. 당신의 행동은 당신의 습관이 된다. 당신의 습관은 당신의 가치가 된다. 당신의 가치는 당신의 운명이 된다."(마하트마 간디)
- P105

환경 윤리의 고전

침묵의 봄 - 개정판 ㅣ 레이첼 카슨 전집 5
레이첼 카슨 지음, 김은령 옮김, 홍욱희 감수 / 에코리브르 / 2011년 12월

환경 윤리학의 고전으로 당연하게 여겨지는 책이다. 레이첼 카슨이 조사하고 탐구한 각종 사례를 중심으로 써 있으며, 때문에 빨리 읽을 수 있다. 메시지는 책을 읽기 전부터 이미 명확하다. 우리는 책에 나온 각종 사례들로 메시지를 뒷받침하는 근거를 알게 된다. 식물, 동물, 곤충, 인간 모두 서로가 서로에게 영향을 주고 있고, 자연의 정화 기능을 제외한 어떤 인위적인 방법도 자연을 회복하는 데 도움이 되지 않는다. 자연은 통제될 수 없으며, 스스로 정화할 뿐이다. 

인간은 이 화학전에서 결코 승리를 거두지 못하며, 그저 격렬한 포화 속에 계속 휩싸일 뿐이다.
- P32

생물들의 자기 복원은 상당히 힘들다. 야생 생물이 살충제에 한 번이라도 노출된다면 원래 상태로 완전히 회복되기란 거의 불가능하다. 일반적으로 독극물로 인한 환경오염은 그곳에 사는 생물들에게만 해를 입히는 것이 아니라 철새 등 이주성 동물에게도 치명적인 덫이 된다. 살충제가 뿌려지는 지역이 넓을수록 생물의 기본적인 안전을 지켜주는 오아시스가 없어지기 때문에 피해는 더욱 심각해진다.
- P113

동식물 집단을 건강하게 유지하는 열쇠는 영국의 생태학자 찰스 엘턴이 말한 ‘종 다양성 유지’에 있다. 지난 세대에 일어난 일들은 현재에 이르기까지 생물학적 영향을 끼친다. 겨우 한 세대 전만 해도 넓은 지역에 한 종류의 나무를 심는 것이 커다란 재앙을 몰고 오리라고 생각한 사람은 없었다. 따라서 모든 도시의 거리에는 느릅나무가 심어졌고 도시의 공원에도 똑같은 나무들이 점찍듯이 들어찼다. 그러나 오늘날 느릅나무들이 죽어가고 있으며 그와 함께 새들도 죽어가고 있다.
- P143

"멀리 떨어진 아주 작은 창문을 통해서는 오직 한 줄기 빛만을 볼 수 있다. 창에 가까이 다가갈수록 우리의 시야는 점점 더 넓어지고 결국 이 창을 통해 전 우주를 다 볼 수 있게 된다."(생물학자 조지 월드)
- P227

"자연을 통제한다"는 말은 생물학과 철학의 네안데르탈 시대에 태어난 오만한 표현으로, 자연이 인간의 편의를 위해 존재한다는 의미로 이해된다. - P325