AI 쇼크, 다가올 미래

AI 쇼크, 다가올 미래 - 초대형 AI와 어떻게 공존해야 하는가
모 가댓 지음, 강주헌 옮김 / 한국경제신문 / 2023년 6월

2049년쯤 , 어쩌면 우리 생전에,여하튼 다음 세대에는 분명히 인공지능이 가장 똑똑한 인간보다 (모든 면에서) 10억 배는 더 똑똑할 것이라 예측한다. 달리 말하면 그 기계에 비교할 때 우리의 지능은, 알베르트 아인슈타인에 비교되는 파리의 지능에 불과하다는 뜻이다. 우리는 그 순간을 '특이점(SINGULARITY)'이라 칭한다. (-15-)

세번째, 필연적 사건은 , 오류와 실수가 범해질 거라는 것이다. 우리는 어떻게든 감춰보려 하지만 항상 실수를 범한다.실수를 바로잡더라도 권력이 부패하기 때문에, 절대 권력은 절대 부패하지 때문에 우리가 방향을 바꾸지 않은다면 기계들이 우리에게 가장 이익이 되는 방향으로 행동하지 않을 개연성이 무척 높다. 따라서 적어도 단기적으로는 십중팔구 디스토피아적 시나리오가 뒤Ek를 것이고, 결국에는 모든 것이 각자도생하는 길을 찾을 것이다. (-78-)

우리는 쇼핑사이트, 게임 엔진,자동차, 디자인 애플리케이션에 인공지능을 탑재했다. 콜센터, 은행, 휴대폰에도 인공지능을 더했다. 특히 감시 시스템과 법 집행 시스템, 무기와 전쟁 기계에 인공지능을 심었다. 그 결과 돈을 가진 사람이 더 많은 돈을 벌었고, 게으른 사람이 더 게을러졌다. (-154-)

하사비스의 소개에 따르면 딥마인드 연구팀은 거기에서 멈추지 않았다. 그들은 딥큐를 한 시간 더 훈련시켰다. 이번에는 기적이 일어났다. 딥큐가 게임비결을 알아낸 것이다.어떤 레벨에서든 게임이 시작되면 딥큐는 벽에 구멍을 만들어 지붕과 벽돌 담 사이로 공을 넣는데 집중했다. 그 기법은 모든 레벨을 신속하고 안전하게 끝내는 최적의 방법으로 알려진 것이었다. (-224-)

일반적으로 우리 인간은 극단적인 것을 선호하는 경햐을 띤다. 특히 이데올로기에 관한 한 더욱 그렇다. 경제 규모를 바로잡는 노력보다는 월스트리트를 점령하고 싶어 한다. 잘못된 것을 드러내기는 쉽디만그 잘못을 대체할 만한 걸 제시하는 것은 쉽지 않다. (-300-)

게이머들은 치트(cheat) 라 일컬어지는 편법을 좋아한다. 치트는 게임 설계에 내재한 눈에 띄지 않는 작은 결함이고, 숨겨진 무기 상자를 찾아내는 비결이며,다른 레벨로 옮겨가는 입구다. 또 게임에서 힘든 부분을 거치지 않고 우리가 원하는 곳으로 데려가 주는 통로이기도 하다. (-367-)

2016년 3월 알파고는 이세돌을 꺽었다. 2023년 chatGPT 가 나타나 대화형 인공지능 서비스를 체험하고 있다. 어릴 적 보았던 전격 -Z 작전 속 주인공 키트가 우리 앞에 현실이 될 개연성이 완벽하게 충족되었다. 여기서 우리는 희망을 꿈꾸어야 하지만, 두려움, 공포를 느낀다. 반드시 인공지능이 나타날 필연적 사건이 나타날 수 있기 때문이다. 이 책에는 세가지 필연적 사건이 나타난다고 말한다.그 세가지 필연적 사건은 인간사회를 단기적으로 디스토피아적인 사회로 나아가며, 그 필연적 사건으로 인해 유토피아로 전환된다고 말한다. 인공지능에 의해 특이점이 나타나면, 지구 사에서, 최고 뛰어난 인간의 지능조차도 인공지능에 경쟁이 되지 못한다. 인간이 그동안 사회활동에서 보여주었던 실수, 오류, 편법, 위선과 모순들이 원천 차단될 수 있고, 문제를 해결하는데 최적화된 인공지능 기술이 등장한다.그로 인해 인공지능 기술이 만들어낸 시나리오에 대해 희망 뿐만 아니라 절망도 느낄 수 있다.그럴 때,우리에게 놓여진 문제들을 스스로 풀어나가야 한다. 딤마인드 연구팀이 부여주는 인공지능 기술의 성장과 발달은 지금보다 새로운 형태의 인공지능으로 나타날 수 있고,지금보다 할 수 있는 일들이 늘어날 것이다.그에 대비해 인간은 새로운 형태의 문화와 사회,라이프 스타일을 구축해 나가야 한다.