AI. 환호에서 공포로 바뀌기도 한다. 여전히 환호하는 사람들도 있지만, 공포감을 느끼는 사람도 있다. 왜냐하면 인공지능이 어떻게 작동하는지 정확히 알지 못하기 때문이다. 여기에 인간이 따라갈 수 없는 능력을 발휘하니...
최근에 벌어진 전쟁에서 인공지능이 활용되고 있다. 인공지능끼리 전쟁을 하는 시뮬레이션을 작동시켜보기도 했다고 한다. 어떤 인공지능은 방어적으로, 어떤 인공지능은 공격적으로 전쟁을 수행했다고 하는데, 인간의 개입 없이 인공지능끼리 전쟁을 벌이는 일이 일어날까 생각하면 모골이 송연해지기도 한다.
이 책의 표지에 있는 말처럼 인공지능은 두려움도 분노도 없는 전쟁기계이기 때문이다. 두려움과 분노가 없기 때문에 효율적으로 전쟁을 수행한다. 반면에 연민도 없기 때문에 살상을 아무렇지도 않게 저지를 수도 있다. 목표를 달성하기 위해서 인간의 목숨은 변수가 되지 않을 수도 있다.
그렇게 우리는 되돌릴 수 없는 기술의 발전으로 이제 대부분의 무기들에 인공지능을 장착하고 있다. 무기들이 스스로 판단해서 전쟁을 수행할 수 있는 단계까지 나아갔다고 하니, 핵무기의 위협만큼이나 이제 인공지능 무기들도 인류에게 위협이 되고 있다.
핵확산금지조약이 발효되어 더이상의 핵무기를 제조하지 않는다는 큰틀에 세계가 어느 정도 (여기에 가입하지 않은 나라도 있지만 대체로 핵무기의 위험을 인식하고, 그 무기를 개발하지 않는 쪽으로 가야 한다는 데는 동의를 한다) 합의를 한 인류니, 이제는 인공지능 무기를 어느 정도까지 허용할 것인지에 대해서도 합의를 해야 한다.
단지 합의가 아니라 조약으로 강제해야 하는데, 아직까지는 강대국들이, 그것도 인공지능 무기를 개발하고 있는 나라들이 그러한 조약에 반대하고 있으니, 아직 갈 길이 멀다.
이 책을 읽어보면 무섭다. 벌써 인공지능들이 전쟁에 사용되었음을, 이런 무기의 효용성을 목격한 각 나라들이 인공지능 무기를 절대로 포기하지 않을 것이기에 더더욱 무섭다.
인공지능 무기들로 인해 사상자가 줄 수 있다고 하지만, 군인 사상자는 줄 수 있어도 과연 죽어가는 인간들의 수가 줄어들 수 있을지는 의문이다.
무기가 무기를 파괴한다고 해서 전쟁이 끝나지 않기 때문이다. 지금 미국-이스라엘이 하는 일을 보면 무기만을 파괴하는 것이 아니라 사람을 표적으로 삼아 살상하고 있지 않은가. 결국 인공지능 무기들로 전쟁을 하더라도 뒤에 있는 사람을 제거하는 것이 목표가 된다.
인간 '없는' 전쟁은 없다. 인간을 제거하기 위한 인공지능 무기로 작동할 가능성이 있다. 소위 표적을 제거한다는 목적으로, 그러한 표적만을 제거하기 때문에 인명 피해는 덜하다고 주장하기도 하지만, 표적이라 불리는 사람들도 인간이기는 마찬가지다.
또 인공지능이 잘못 판단할 수도 있으니, 더더욱 무서워진다. 돌이킬 수 없는 피해를 입힌 다음에 그것이 잘못된 정보에 의해서 행해졌다고 한다면 도대체 누구에게 책임을 물어야 할지 알 수 없기 때문이다.
그렇지만 인공지능 무기 개발을 막을 방도는 없다. 이미 사용되었고, 효용성이 증명되었기에 자신들만 뒤처지면 안 된다고, 자기 나라가 개발 안 하고, 다른 나라가 개발했을 때 그 힘의 불균형을 감당할 수 없게 된다고 생각하기 때문이다.
돌이킬 수 없는 단계까지 왔다고 보면 이제 우리에게 남은 과제는 인공지능 무기들이 인류를 파괴하지 않도록 통제하는 일이다. 지배, 통제라는 말에 어떤 집단의 권력이 느껴진다면, 공존이라는 말로 바꾸자.
인공지능과 공존하기 위해서 어떻게 해야 할까? 질문을 이렇게 바꾸고 있다. 인공지능은 이미 돌이킬 수 없기에.
저자는 그래서 질문을 바꿔야 한다고 한다.
'우리는 더 근본적인 질문을 던져야 한다. 누구의 가치를 반영한 AI인가? 누구를 위한 안전인가? 누구의 이익을 우선하는가?(328쪽)'로.
이런 질문 앞에 당연히 'AI의 목표와 행동을 인간의 가치와 일치시키는 '정렬'이 선행되어야 하고, AI가 무엇을 학습했는지 알고, 왜 그런 판단을 내리는지 이해하고, 문제가 생기면 원인을 찾아 고칠 수 있게 '추적 관리'를 할 수 있어야 하며, AI 서비스 기획 단계에서 잠재적 사용자, 분야별 전문가, 시민단체가 참여'(310-325쪽)하는 것이 보장되어야 한다고 한다.
이것을 기본으로 하면서 질문을 바꾸면 특정 집단에게 AI를 독점하지 않게 해야 한다고 한다. 그래야 AI와 공존하는 세상이 될 수 있다고.
이제 인간은 AI라는 시험대 앞에 섰다. 문제를 발견했다. 문제를 발견했다면 해답 역시 찾을 수 있다. 그렇게 우리 인간은 해답을 찾아 AI와 공존하는 세상을 만들어가야 한다는 것이 저자의 주장이다.
인공지능 무기들이 현대 전쟁에서 어떻게 사용되었고, 성능이 어떠하며 어떠한 위험성이 있는지를 잘 설명해주고 있는 책이다. 저자는 AI의 효용성만큼이나 위험성에 대해서도 구체적으로 설명하고 있으니, AI에 대한 찬양도, 그렇다고 무조건 부정하는 것도 아닌 공존의 필요성을 인식하게 하고 있다.
저자의 말, 새겨들을 필요가 있다.
'우리가 정말 두려워해야 하는 것은 AI가 인간보다 똑똑해지는 순간이 아니다. 소수가 AI를 독점하고, 다수가 AI에 의해 통제되는 순간이다.' (331쪽)
'AI시대에 인간다움을 지킨다는 것은 AI와 맞서 싸우는 것을 뜻하지 않는다. 이는 우리가 지켜야 할 가치는 무엇이고, AI로 대체해서는 안 되는 영역은 무엇인지, 끊임없이 고민하고 질문하며 대화하고 선택하는 과정이다. 기업이나 국가, 사회 차원의 문제만이 아니다. 개인 역시 일상 속에서 실천할 수 있고, 실천해야 하는 일이다.' (334쪽)
끝으로 이러한 AI 무기들에 대한 글을 읽고 그럼 우리나라는? 하는 생각이 들었는데, 이 책의 뒷부분에서 그 점에 대해서 간략하게 설명해주고 있다.
