AI에게 건강을 맡겨도 될까요?(S2-58번째 책리뷰)

AI에게 건강을 맡겨도 될까요? - 로봇 의사부터 건강 데이터까지, 헬스케어 AI의 미래, 국립어린이청소년도서관 4월 추천 도서 ㅣ 곰곰문고 37
김준혁 지음 / 휴머니스트 / 2025년 11월

AI에게 건강을 맡겨도 될까요? 는 중립적으로 쓰기 위해서 AI의 장점과 단점을 동시에 소개하고 결론으로 이어지게 되어요. 그런데 이 과정에서 일부 부분은 자료 조사가 살짝 미흡했고, 결론으로 이어지는 과정에서 그 결론과 AI의 장단점과 잘 매칭되지 않았어요. 즉, AI의 장점을 살리자라면 그 부분의 단점과 연결되는 부분을 어떻게 단점이 일어나지 않게 해야 하는지를 말하고 장점을 살리자고 해야 하는데, 이런 부분의 언급없이 갑자기 뜬금없는 결론을 작성하면서 논리전개가 조금 꼬였어요. 즉, 저자는 의료 발전을 위해서 데이터라고 말하는 개인정보와 사생활을 이용해야 한다는 결론을 미리 만들어두고 AI의 단점으로 사생활 보호가 안된다는 것을 말하면서도 그 부분의 대책없이 결론으로 이끌면서 논리전개가 좀 이상해져 버렸어요. 논리전개가 인과성이 없이 딱딱 끊겨서 작성되어 있다는 느낌이 드는 책이기도 하여요. 그래서 이 책의 평가는 균형잡힌 시각으로 작성하려 했지만, 논리전개가 조금 부족한 책으로 결정하였어요.

● 균형잡힌 시각으로 책을 쓰려고 노력하였어요.

이 책의 시작은 AI의 장점에 대해서 일어날 수 있는 일에 대해서 작가의 상상력을 더해서 작성되어 있어요. 그 다음에 AI의 문제점을 이야기하고 마지막에 결론이 이어지는 구조에요. 작가는 이런 구조로 인해서 균형잡힌 시각으로 책을 쓰려고 하였어요.

● 의료분야에만 있는 AI 문제를 잘 설명하였어요.

저자가 의사이므로 의료분야의 AI에게서 생기는 문제에 대해서 잘 말해주고 있어요. 치료에서 이익을 얻을 수 있는 점(비록 AI도 충수염을 최고 확률로 이야기했으므로 AI로 틀린 것이지만 두번째 가능성이 맞아서 도움이 되었다는 이야기에요)도 있다고 말하여요. 또한 AI의 결과로 의사에게 항의하는 환자 이야기도 있기도 하고요. 책에 비슷한 내용은 있지만(오진사례와 잘못처방한 사례및 정신병 환자를 자살시킨 사례), 책이 출판된 이후에 미국에서 일반적인 병(정신병이 아님)을 AI 결과로 치료했다가 사망사고가 일어나서 재판중에 있기 때문에, 이제 이렇게 항의하는 분들은 줄어들 것 같지만요. 이 밖에도 의료분야에서만 경험할 수 있는 AI와 관련된 사례들을 많이 볼 수 있었어요.

● AI의 단점도 잘 말하고 비교적 AI의 이해도가 높아요.

유전정보(다른 분야면 개인정보이겠지요)를 팔아도 안되며, AI가 오답을 많이 낸다는 것도 말하여요. AI가 어떻게 결론을 냈는지 모르는 경우도 많으며 내는 경우. (책에는 없지만 '의사 결정 나무 분석'을 사용하거나 또한 이유를 마음대로 붙여버리는 방법도 있어요) 데이터로 인한 차별 등. AI에 대한 이해도가 높으며, 단점도 상당히 정확하게 말하였어요.

● 근거에서 빠뜨린 부분이 있어요.

AI에게 사생활을 이야기하는 것은 매우 위험해요. AI에게 말한 내용은 모두 수집되어서 AI회사의 데이터센터에 저장되어요. 그런데 이것은 그 회사가 자유롭게 사용하고 있을 뿐 아니라, 심지어 데이터를 팔아서 데이터센터의 매출이 잡히기도 하여요. 다시 말해서 AI에게 사생활을 말하는 것은 SNS에 올리는 것과 같아요. 또한 저자는 SNS에 올리는 것에 대해서 사생활의 경계가 모호해졌다고 하지만 이것은 모호한 것이 아니에요^^. 데이터의 주인은 데이터 생성자이고, 그 데이터 주인이 마음대로 결정할 수 있어요. 다시 말해서 SNS에 올린 것은 데이터 주인이 SNS에 사용하겠다고 결정한 것이고, 그것을 다른 사람이 수집할 권리도 사용할 권리도 없어요. 수집하고 사용하려면 그 주인에게 다시 권리사용을 요청해서 수락받아야 하고, 어디에 사용할지에 용도도 모두 수락받아야 해요. 다시 말해서 저작권은 원주인이게 있으며 수집한 사람은 권리가 없어요. 원주인이 2차저작에 대해서 어디에 사용할지 허락했다면 그렇게 재가공된 정보는 2차저작이 되고 원주인과 2차저작자가 서로 다른 부분의 권리를 가져요. 2차저작자는 어떻게 해도 원데이터에 대한 권리는 가지지 못해요. 그러므로 서로 다른 권리를 가지는 거에요. 이게 맞는 것이겠지요. 절대 우리의 사생활 정보로 인해서 차별이 일어나서는 안되어요. 다시 말해서 입사면접의 결과로, 승진의 결과로 사용되어서는 안되며, 다양한 부분에서 사람들을 차별하는 것에 쓰이면 안되는 거에요. 또한 AI 제품을 팔기 위해서는 데이터의 원주인 모두에게 특정 용도로 사용하기 위해서 허락을 다시 다 받아야 해요. 업데이트 할때도 새로운 AI로 만들때도 마찬가지에요. 여기에서 AI는 2차저작물이 되므로 2차저작자에게도 권리가 생기는 것이며 모두 허락을 받고 판매할때 수익을 낼 수 있는 거에요.

그러나 현실은 규제도 미흡하고 규제를 지키는지 확인도 하지 않으며, 무차별적으로 사용하고, 데이터를 수집한 사람들은 데이터의 주인도 아니면서 데이터의 주인처럼 행동한다는 거에요.

또한, 데이터의 판매에서도 일어난 일인데, 코인등을 주고 산 이후에, 그 회사를 매각하고 데이터를 팔지 않겠다는 약속을 깨뜨린 사례도 있어요. 회사의 주인이 바뀌고 바뀐 CEO가 그 전 CEO와의 약속이라며 지키지 않았지요. 우리의 의료정보는 유출되면 매우 심각하기 때문에 이런 부분의 주의가 필요해요.

또한 저자는 웨어러블 혹은 IoT제품들. 스마트 워치, 인공지능 스피커등의 제품등에 대해서도 장점만 소개했는데, 이 제품의 데이터도 수집되므로 사용하지 않는 것이 좋아요. 이후에 어떻게 차별을 가해올지 모르니까요. 또한 한번 수집된 데이터는 삭제하기 어려워요. 우리가 데이터 센터에 뭐가 저장되어 있는지도 모르잖아요. 게다가 데이터 판매까지 해서 데이터센터에 매출이 잡혀 있으며 2차저작자가 1차저작자의 권리를 침해한 거에요. 심지어 비식별화하면 허가없이 수집.활용.판매가 가능하지만 재식별화 기술로 누구인지 알아낼 수 있어요.

이런 부분에서 다른 AI 책의 내용에 비해서 살짝 미흡한 부분이 있었어요. 여기에서는 수집, 활용되는 과정에 대해서는 약간 미흡했어요. 우리가 생각하는 것 이상으로 많은 부분으로 데이터를 수집하고 보통 사람이라면 그렇게 활용할 수 없는 비윤리적 부분으로 활용하니까요. 규제가 없거나 있어도 제대로 작동하지 않아서 그래요.

● 결론으로 가는 과정에서 논리전개가 살짝 미흡했어요.

이 책의 논리전개는 각 챕터마다 서로 따로따로 말하고 연결이 잘 안되는 느낌이에요^^. AI가 편한다고 했다가 문제가 있다고 하는 부분이 서로 단절되어서 말하는 편이에요^^. 또한 데이터로 인해서 많은 사람이 차별이 될 수 있다고 말하고는, 결론은 데이터를 많이 공유해야 된다고 말하여요.

개인정보보호 신념의 분들은 데이터를 사용하고 싶다면 먼저 규제부터 만들고 규제를 철저히 적용하라는 거에요. 지금은 규제도 미흡하고, 규제를 철저히 적용하지도 않는데, 이런 상황에서 데이터를 마구 공유하는 것은 위험해요. 데이터를 수집한 사람이 데이터를 악용하고 차별을 일삼기 때문이지요. 그들은 데이터를 팔면 돈이 되므로 데이터는 21세기 금이라고 하지만, 반대로 데이터를 생성한 사람들은 고통받는 상황이에요. 이런 부분을 고쳐져야 하지만, 저자는 이런 부분의 해결책을 제시하지 않고 바로 데이터를 공유해서 의료를 발전시키자고 하여요.

그런데 책에서는 의사들중 일부는 AI답을 그대로 믿는다고 하여요. 그러나 AI 답대로 했다가 사망사고가 일어나는 등 문제가 많으며, AI의 오답률이 높다는 부분을 의사에게 교육하는 일도 필요하여요.

이런 부분등 논리 전개는 조금 아쉬운 부분이 있었어요.

한국 저자의 책으로서는 AI 문제점을 많이 지적하고 의료 분야에서 경험할 수 있는 경험으로 AI의 문제점과 장점을 서술한 것은 흥미로웠어요. 그러나 논리전개와 AI의 문제점은 더 많은데 의료 분야만 보다보니 시각이 조금 좁았다고 보여요^^. 그리고 미국의 종합병원 영상진료가 AI가 가능할 것으로 보고 인원을 충원하지 않고 있다가 최근에 인간의사를 더 많이 고용하고 있다고 해요^^. AI의 오답률은 0%가 될 수 없는 한계가 있어요. AI가 불가능하므로 사람의사를 더 많이 뽑는 것이 더 좋다고 판단했고 사람의사가 병원의 경쟁력이라고 생각하는 것이지요. 이런 부분을 좀 더 조사했다면 좋을 것 같아요. 또한 AI가 오답률이 높으므로 아직은 의료같이 사람의 생명과 직결되는 분야에는 AI를 사용하지 않는 병원을 선호할 것 같네요. 그리고 이 책에서는 AI로봇을 이야기하는 AI는 소프트웨어이고 로봇은 기계산업이에요. 둘은 다른 것인데 로봇이 컴퓨터 같이 하드웨어이고 그 안에 AI를 적용할 뿐이며 로봇이라도 소프트웨어를 AI를 안쓰는 로봇도 있으며 저는 로봇산업에서도 AI를 안쓰는 로봇이 더 가능성이 있다고 생각하고 있어요^^. 마지막으로 하나만 덧붙인다면 의료 발전을 위해서 사람이 연구할때는 데이터라고 하는 의료정보를 공유하고 싶어요. 의사들은 의료윤리와 연구윤리를 따르며 비밀을 지키고 그렇지 않을때 의사협회의 제재를 받을 거에요. 하지만 AI개발자들은 아니에요. 이들은 개인정보를 무차별적으로 수집하고 악용하고 있으며 사람들을 속여서 돈만 벌 목적이에요. 이들에게는 데이터를 공유하고 싶지 않아요. 지금의 규제는 의사들에게 공유하고 AI개발자에게 고유하지 않고 싶을때 저희가 선택할 수 있는 길이 없어요. 이런 부분의 규제도 필요해요.

그림 내 폰트 출처: 고양체