아픔에도 우선순위가 있나요?(S2-119번째 책리뷰)

아픔에도 우선순위가 있나요? - 열세 가지 질문으로 만나는 의료윤리 ㅣ 곰곰문고 21
김준혁 지음 / 휴머니스트 / 2022년 12월

아픔에도 우선순위가 있나요?는 의료윤리에 관한 책이라고 책표지에서 정보를 주어요. 그래서 의사들이 지켜야 할 윤리 정도로 생각하고 책을 읽기 시작했어요. 연구윤리라고하면 연구를 할때 지켜야 할 규칙정도잖아요. 그러나 이것은 의사분들이 그 업종에서 종사하면서 고민했던 부분을 바탕으로 일반인들이 궁금해하는 것에 답하는 책이었어요. 그래서 의사분들이 전문가로서 의료 분야에서 어떤 고민을 하는지에 대해서 알 수 있는 책이기도 하여요. 그러나 아쉽게 몇몇 챕터들은 논리전개가 깔끔하지 못했고, 잘못된 정보를 수록한 부분이 있어요. 아무래도 의료분야와 다른 분야가 겹쳐지는 내용도 있었는데 다른 분야의 비중이 큰 분야의 경우 의사분들도 잘못 알고 있을수도 있으니까요. 이러한 부분이 조금 아쉬웠지만 의사분들이 어떤 고민을 하는지도 알 수 있었어요. 책은 청소년을 위해서 작성된 책이지만, 성인도 별 무리 없이 읽을 수 있는 책이에요^^. 의사분들이 어떤 고민을 하는지, 어떻게 문제를 해결해야 된다고 생각하는지를 알 수 있으니까요. 그래서 저의 평가는 의사분들의 의료중 느끼는 고민을 알 수 있지만, 일부 잘못된 정보가 포함된 책이라고 평가하였습니다. 1판 1쇄를 읽었습니다.

책의 내용은 밑줄을 인용은 이탤릭체를 사용했습니다. 그 밖의 내용은 저의 의견입니다.

● 사회의 문제나 의료문제를 의사들의 시각으로 전달하여요.

책의 내용은 모두 의료와 관련이 있어요. 그러나 LGBTQ등의 성정체성 문제라든지 장애인에 관한 문제등은 사회문제이기도 하기 때문에 이런 부분이 의료문제와 사회문제의 공통으로 작성되기도 하였어요. 청소년에게 정보를 전달하는 수준에서 작성되었지만, 의료분야를 잘 모르는 성인이 읽어도 별 문제는 없는 것 같아요.

"의문 없이 열심히 탐색만 해 권위주의적 가치를 받아들이는 것이 폐제, 의문도 없고 탐색도 없어 사회적 고립을 느끼는 것이 정체성 혼미, 의문은 있지만 탐색하지 않아 불안을 겪는 것이 유예, 의문과 탐색을 통하여 자신의 정체성을 확립하는 것이 정체성 성취"같이 특정 문제에 도움을 주는 지식도 같이 포함하고 있어서 청소년 자녀의 부모가 청소년의 문제를 해결하는 것에서도 도움이 될거에요.

또한 우울증 치료에 대해서도 마음의 감기로 이야기하고 이런 개인정보에 대해서 보호해야 한다고 하는 주장을 하기도 하는 등 다양한 정보에 대해서 알수 있어요.

보통 각 챕터의 내용은 찬성과 반대의견 모두를 전달하는데 저자는 의료 윤리에 대해서 무엇이 맞다 무엇이 틀리다가 아니라 과정을 고민하는 문제라고 하며 각 문제에 대해서 다양한 의견을 전달합니다만 살짝 특정 답으로 무게를 기울여서 서술하는 형태로 되어 있어요^^.

● 논리전개에 문제에 있는 챕터가 있었어요.

다양한 챕터를 포함하는 책에서 일부 챕터는 살짝 논리전개등에서 미흡한 챕터가 나오기도 하여요. 일단 사교육과 공교육의 구분에서 지식획득은 사교육에서 한다는 주장은 살짝 아쉬웠네요. 물론 우리나라가 사교육이 너무 큰 비중을 가지는 부분이 있고, 의사가 되는 분들이 공부를 열심히 해서 사교육과 관련이 있었겠지만, 교육 분야 분들은 살짝 아쉽게 서술했다고 느낄거에요.

또한, 사람이 합리성이 부족하다고 했는데, 행동주의 혹은 행태학의 지식에서는 이런 부분을 말하기도 하고 책에 인용되어 있기도 하여요. 하지만, 인간의 추구하는 가치는 다양하다는 부분을 살짝 놓인 것 같아요. 경제학은 인간이 추구하는 가치는 합리성 하나만 두고 답을 찾지만, 행정학은 자유, 평등, 정의와 합리성등을 포함한 다양한 가치를 추구하면서 답을 찾는 학문이에요. 다양한 가치를 추구한다는 것에서 한가지 가치 기준으로 인간을 확인하는 것. 즉 합리성만으로 인간이 올바른 결정을 스스로 할 수 없다는 것으로 결론 짓는 것은 살짝 논리전개가 아쉬웠다고 볼수 있어요. 물론 그 챕터에서 낙태에 대해서 숙려 기간을 가지고 다양한 사람들이 정신적으로 도와야 한다는 것에 대해서는 어느정도 공감하지만, 물론 이 과정이 산모에게 정신적으로 경제적으로 무리가 가지 않는 범위이며 최종 결론은 산모가 결정하여야 하겠지만요. 그 중간의 논리전개는 살짝 아쉬웠어요.

● 책에 틀린 내용이 있어요.

현대 소비사회에서 광고를 차단하는 것은 불가능하다고 했지만, EU의 판결에 의하면 모니터는 광고회사의 재산이 아닌 일반 사용자의 재산이며, 그렇기에 모니터에 어떤 것을 표시할지는 광고회사가 아니라 개인이 결정한다고 판결하였어요. 즉, 광고를 표시하지 않아도 불법이 아니게 되었지요. 그렇게 duckduckgo브라우저의 duck player로 동영상 중에 삽입된 중간 광고를 보지 않거나, adblock을 사용해서 광고를 안봐도 되었어요.

데이터 경제에서 데이터를 구한 다음 그로부터 기업이 최대한 활용해서 가치를 높여도 된다고 하였어요. 그러나 사생활 정보와 개인정보는 기업이 악용해도 되고 마음대로 가져가서 수익을 내도 되는 분야가 아니에요. 철저히 보호되어야 하는 분야이지요. 이것을 어떻게 활용되는지에 대한 정보와 그 활용범위는 데이터 생성자가 항상 결정할 수 있는 범위에 있어야 하는데, 현재 이 부분은 적절한 규제가 만들어지지 못하고 있어요. 데이터 생성자가 이것은 되고 저것은 안된다를 결정하지 못하고 서비스를 사용하려는 목적에서 허락하면 다양한 다른 악용 범위까지 다 허락해야 하는 상황이에요.

"나를 특정할 수 없는 데이터를 전달하는 것도 문제일까요? (중략) 이름표나 환자번호가 부터 있는 않다면 누군가 이 데이터를 가지고 나를 찾아낼수 없습니다." 라고 하였는데 재식별화 기술은 이와 같이 이름표나 환자번호를 제거한 비식별화 기술에서 다시 누구인지 알아내는 기술이에요. 이 기술을 적용하면 디지털 데이터에서 누구인지 찾는 것도 가능하지만, 아날로그로 종이에 작성된 1900년대초 임상실험 데이터에서 이름을 지운 임상실험 참가자가 누구인지도 찾아냈다는 결과가 있어요. 이 저자의 주장은 잘못된 정보에요. 《당신은 데이터의 주인이 아니다》라는 책에 잘 설명되어 있어요.

특이 마지막의 자료를 바탕으로 개인정보관련 챕터의 논리전개를 하였으므로 그 챕터 내용이 전반적으로 다 틀린 내용이 되었어요. 데이터 과학의 내용은 의료분야 분들이 다 알기는 어려울 것이니까요. 그러나 이와 같이 데이터 활용을 해야 한다는 분도 데이터는 확실하게 관리되어서 외부로 유출되면 안되며, 어떻게 활용될지는 데이터 생성자가 가진다는 것을 이야기했어요. 이것 마저도 현재 안되고 있어요. 물론 데이터에 대한 신뢰는 이 수준이 아니라 더 높은 수준이 되어야 하여요.

● 의료에서 도움이 되는 다양한 지식들이 있어요.

실생활에서 도움이 되는 여러가지 이야기가 있어요. 페이스북의 자회사 인스타그램에서는 신체에 대해서 가지는 생각, 불안, 우울증 심지어 자살충동까지 가진다는 연구결과를 가졌음에도 반대로 사람들에게 알렸는데 이는 내부문서 유출과 내부고발자가 알려져서 페이스북의 메타로 이름을 바꾼 사례를 말하면서 실생활에서도 도움이 되는 여러가지 지식을 말해 주어요. 회사들이 다 사실만 말하고 윤리적으로 활동할 것이라고 생각해서는 안되어요. 특히 신기술 분야에서는 거짓 정보를 고의적으로 알리는 경우가 많아요. 게다가 위의 메타의 경우 사용자에게 연구의 목적과 방법을 알리지 않고 실험했다는 것때문에 연구윤리를 위반했는데, 메타는 연구윤리를 어기며 사용자들에게 다양한 실험을 하는것으로 악명이 높은 회사중 하나이지요.

책은 전반적으로 의사들이 고민하는 부분을 알고, 그들의 해결책을 어떻게 생각하는지도 알 수 있었어요. 일부 문제들은 아직 저에게는 많은 고민을 하지 않았기에 어떻게 접근해서 생각해야 할까? 같은 질문을 던져주지만, 또 특정 분야는 다른 분야와 겹쳐 있어서 저자와는 다른 의견을 가지고 있는 부분도 있었어요. 그러나 의사분들의 우리의 건강을 위해서 열심히 노력하고 있다는 부분에서 항상 감사하고 있다는 부분은 변함없을 것 같아요.

그림 내 폰트 출처: 고양체

AI에게 건강을 맡겨도 될까요?(S2-58번째 책리뷰)

AI에게 건강을 맡겨도 될까요? - 로봇 의사부터 건강 데이터까지, 헬스케어 AI의 미래, 국립어린이청소년도서관 4월 추천 도서 ㅣ 곰곰문고 37
김준혁 지음 / 휴머니스트 / 2025년 11월

AI에게 건강을 맡겨도 될까요? 는 중립적으로 쓰기 위해서 AI의 장점과 단점을 동시에 소개하고 결론으로 이어지게 되어요. 그런데 이 과정에서 일부 부분은 자료 조사가 살짝 미흡했고, 결론으로 이어지는 과정에서 그 결론과 AI의 장단점과 잘 매칭되지 않았어요. 즉, AI의 장점을 살리자라면 그 부분의 단점과 연결되는 부분을 어떻게 단점이 일어나지 않게 해야 하는지를 말하고 장점을 살리자고 해야 하는데, 이런 부분의 언급없이 갑자기 뜬금없는 결론을 작성하면서 논리전개가 조금 꼬였어요. 즉, 저자는 의료 발전을 위해서 데이터라고 말하는 개인정보와 사생활을 이용해야 한다는 결론을 미리 만들어두고 AI의 단점으로 사생활 보호가 안된다는 것을 말하면서도 그 부분의 대책없이 결론으로 이끌면서 논리전개가 좀 이상해져 버렸어요. 논리전개가 인과성이 없이 딱딱 끊겨서 작성되어 있다는 느낌이 드는 책이기도 하여요. 그래서 이 책의 평가는 균형잡힌 시각으로 작성하려 했지만, 논리전개가 조금 부족한 책으로 결정하였어요.

● 균형잡힌 시각으로 책을 쓰려고 노력하였어요.

이 책의 시작은 AI의 장점에 대해서 일어날 수 있는 일에 대해서 작가의 상상력을 더해서 작성되어 있어요. 그 다음에 AI의 문제점을 이야기하고 마지막에 결론이 이어지는 구조에요. 작가는 이런 구조로 인해서 균형잡힌 시각으로 책을 쓰려고 하였어요.

● 의료분야에만 있는 AI 문제를 잘 설명하였어요.

저자가 의사이므로 의료분야의 AI에게서 생기는 문제에 대해서 잘 말해주고 있어요. 치료에서 이익을 얻을 수 있는 점(비록 AI도 충수염을 최고 확률로 이야기했으므로 AI로 틀린 것이지만 두번째 가능성이 맞아서 도움이 되었다는 이야기에요)도 있다고 말하여요. 또한 AI의 결과로 의사에게 항의하는 환자 이야기도 있기도 하고요. 책에 비슷한 내용은 있지만(오진사례와 잘못처방한 사례및 정신병 환자를 자살시킨 사례), 책이 출판된 이후에 미국에서 일반적인 병(정신병이 아님)을 AI 결과로 치료했다가 사망사고가 일어나서 재판중에 있기 때문에, 이제 이렇게 항의하는 분들은 줄어들 것 같지만요. 이 밖에도 의료분야에서만 경험할 수 있는 AI와 관련된 사례들을 많이 볼 수 있었어요.

● AI의 단점도 잘 말하고 비교적 AI의 이해도가 높아요.

유전정보(다른 분야면 개인정보이겠지요)를 팔아도 안되며, AI가 오답을 많이 낸다는 것도 말하여요. AI가 어떻게 결론을 냈는지 모르는 경우도 많으며 내는 경우. (책에는 없지만 '의사 결정 나무 분석'을 사용하거나 또한 이유를 마음대로 붙여버리는 방법도 있어요) 데이터로 인한 차별 등. AI에 대한 이해도가 높으며, 단점도 상당히 정확하게 말하였어요.

● 근거에서 빠뜨린 부분이 있어요.

AI에게 사생활을 이야기하는 것은 매우 위험해요. AI에게 말한 내용은 모두 수집되어서 AI회사의 데이터센터에 저장되어요. 그런데 이것은 그 회사가 자유롭게 사용하고 있을 뿐 아니라, 심지어 데이터를 팔아서 데이터센터의 매출이 잡히기도 하여요. 다시 말해서 AI에게 사생활을 말하는 것은 SNS에 올리는 것과 같아요. 또한 저자는 SNS에 올리는 것에 대해서 사생활의 경계가 모호해졌다고 하지만 이것은 모호한 것이 아니에요^^. 데이터의 주인은 데이터 생성자이고, 그 데이터 주인이 마음대로 결정할 수 있어요. 다시 말해서 SNS에 올린 것은 데이터 주인이 SNS에 사용하겠다고 결정한 것이고, 그것을 다른 사람이 수집할 권리도 사용할 권리도 없어요. 수집하고 사용하려면 그 주인에게 다시 권리사용을 요청해서 수락받아야 하고, 어디에 사용할지에 용도도 모두 수락받아야 해요. 다시 말해서 저작권은 원주인이게 있으며 수집한 사람은 권리가 없어요. 원주인이 2차저작에 대해서 어디에 사용할지 허락했다면 그렇게 재가공된 정보는 2차저작이 되고 원주인과 2차저작자가 서로 다른 부분의 권리를 가져요. 2차저작자는 어떻게 해도 원데이터에 대한 권리는 가지지 못해요. 그러므로 서로 다른 권리를 가지는 거에요. 이게 맞는 것이겠지요. 절대 우리의 사생활 정보로 인해서 차별이 일어나서는 안되어요. 다시 말해서 입사면접의 결과로, 승진의 결과로 사용되어서는 안되며, 다양한 부분에서 사람들을 차별하는 것에 쓰이면 안되는 거에요. 또한 AI 제품을 팔기 위해서는 데이터의 원주인 모두에게 특정 용도로 사용하기 위해서 허락을 다시 다 받아야 해요. 업데이트 할때도 새로운 AI로 만들때도 마찬가지에요. 여기에서 AI는 2차저작물이 되므로 2차저작자에게도 권리가 생기는 것이며 모두 허락을 받고 판매할때 수익을 낼 수 있는 거에요.

그러나 현실은 규제도 미흡하고 규제를 지키는지 확인도 하지 않으며, 무차별적으로 사용하고, 데이터를 수집한 사람들은 데이터의 주인도 아니면서 데이터의 주인처럼 행동한다는 거에요.

또한, 데이터의 판매에서도 일어난 일인데, 코인등을 주고 산 이후에, 그 회사를 매각하고 데이터를 팔지 않겠다는 약속을 깨뜨린 사례도 있어요. 회사의 주인이 바뀌고 바뀐 CEO가 그 전 CEO와의 약속이라며 지키지 않았지요. 우리의 의료정보는 유출되면 매우 심각하기 때문에 이런 부분의 주의가 필요해요.

또한 저자는 웨어러블 혹은 IoT제품들. 스마트 워치, 인공지능 스피커등의 제품등에 대해서도 장점만 소개했는데, 이 제품의 데이터도 수집되므로 사용하지 않는 것이 좋아요. 이후에 어떻게 차별을 가해올지 모르니까요. 또한 한번 수집된 데이터는 삭제하기 어려워요. 우리가 데이터 센터에 뭐가 저장되어 있는지도 모르잖아요. 게다가 데이터 판매까지 해서 데이터센터에 매출이 잡혀 있으며 2차저작자가 1차저작자의 권리를 침해한 거에요. 심지어 비식별화하면 허가없이 수집.활용.판매가 가능하지만 재식별화 기술로 누구인지 알아낼 수 있어요.

이런 부분에서 다른 AI 책의 내용에 비해서 살짝 미흡한 부분이 있었어요. 여기에서는 수집, 활용되는 과정에 대해서는 약간 미흡했어요. 우리가 생각하는 것 이상으로 많은 부분으로 데이터를 수집하고 보통 사람이라면 그렇게 활용할 수 없는 비윤리적 부분으로 활용하니까요. 규제가 없거나 있어도 제대로 작동하지 않아서 그래요.

● 결론으로 가는 과정에서 논리전개가 살짝 미흡했어요.

이 책의 논리전개는 각 챕터마다 서로 따로따로 말하고 연결이 잘 안되는 느낌이에요^^. AI가 편한다고 했다가 문제가 있다고 하는 부분이 서로 단절되어서 말하는 편이에요^^. 또한 데이터로 인해서 많은 사람이 차별이 될 수 있다고 말하고는, 결론은 데이터를 많이 공유해야 된다고 말하여요.

개인정보보호 신념의 분들은 데이터를 사용하고 싶다면 먼저 규제부터 만들고 규제를 철저히 적용하라는 거에요. 지금은 규제도 미흡하고, 규제를 철저히 적용하지도 않는데, 이런 상황에서 데이터를 마구 공유하는 것은 위험해요. 데이터를 수집한 사람이 데이터를 악용하고 차별을 일삼기 때문이지요. 그들은 데이터를 팔면 돈이 되므로 데이터는 21세기 금이라고 하지만, 반대로 데이터를 생성한 사람들은 고통받는 상황이에요. 이런 부분을 고쳐져야 하지만, 저자는 이런 부분의 해결책을 제시하지 않고 바로 데이터를 공유해서 의료를 발전시키자고 하여요.

그런데 책에서는 의사들중 일부는 AI답을 그대로 믿는다고 하여요. 그러나 AI 답대로 했다가 사망사고가 일어나는 등 문제가 많으며, AI의 오답률이 높다는 부분을 의사에게 교육하는 일도 필요하여요.

이런 부분등 논리 전개는 조금 아쉬운 부분이 있었어요.

한국 저자의 책으로서는 AI 문제점을 많이 지적하고 의료 분야에서 경험할 수 있는 경험으로 AI의 문제점과 장점을 서술한 것은 흥미로웠어요. 그러나 논리전개와 AI의 문제점은 더 많은데 의료 분야만 보다보니 시각이 조금 좁았다고 보여요^^. 그리고 미국의 종합병원 영상진료가 AI가 가능할 것으로 보고 인원을 충원하지 않고 있다가 최근에 인간의사를 더 많이 고용하고 있다고 해요^^. AI의 오답률은 0%가 될 수 없는 한계가 있어요. AI가 불가능하므로 사람의사를 더 많이 뽑는 것이 더 좋다고 판단했고 사람의사가 병원의 경쟁력이라고 생각하는 것이지요. 이런 부분을 좀 더 조사했다면 좋을 것 같아요. 또한 AI가 오답률이 높으므로 아직은 의료같이 사람의 생명과 직결되는 분야에는 AI를 사용하지 않는 병원을 선호할 것 같네요. 그리고 이 책에서는 AI로봇을 이야기하는 AI는 소프트웨어이고 로봇은 기계산업이에요. 둘은 다른 것인데 로봇이 컴퓨터 같이 하드웨어이고 그 안에 AI를 적용할 뿐이며 로봇이라도 소프트웨어를 AI를 안쓰는 로봇도 있으며 저는 로봇산업에서도 AI를 안쓰는 로봇이 더 가능성이 있다고 생각하고 있어요^^. 마지막으로 하나만 덧붙인다면 의료 발전을 위해서 사람이 연구할때는 데이터라고 하는 의료정보를 공유하고 싶어요. 의사들은 의료윤리와 연구윤리를 따르며 비밀을 지키고 그렇지 않을때 의사협회의 제재를 받을 거에요. 하지만 AI개발자들은 아니에요. 이들은 개인정보를 무차별적으로 수집하고 악용하고 있으며 사람들을 속여서 돈만 벌 목적이에요. 이들에게는 데이터를 공유하고 싶지 않아요. 지금의 규제는 의사들에게 공유하고 AI개발자에게 고유하지 않고 싶을때 저희가 선택할 수 있는 길이 없어요. 이런 부분의 규제도 필요해요.

그림 내 폰트 출처: 고양체