#도서협찬"인류의 AI 개발이 매우, 매우 나쁜 비극(파멸)으로 끝날 확률이 25%에 달한다."AI와 가장 가까운 곳에서 기술을 개발하는 사람들조차 AI의 미래에 공포를 느끼기 시작했다.하지만 아이러니하게도 AI 산업의 자원과 인력은 안전 연구보다는 당장 수익을 창출할 수 있는 기술 개발에 집중되고 있다."우리가 멈춰도 다른 누군가가 만든다. 다만, 덜 신중하게, 더 위험하게 만들 것이다. 그렇다면 차라리 우리가 앞서서 책임감 있게 만드는 것이 낫다."엔트로픽의 설립자 다리오 아모데이가 내세운 AI 개발 철학이자, 동시에 외부로부터 비판받는 논리이기도 하다.이 발언은 지금 AI 산업이 안고 있는 가장 근본적인 모순을 보여준다고 생각한다.AI가 인류에게 심각한 위협이 될 수 있다는 사실을 알면서도, 경쟁에서 뒤처지지 않기 위해 개발을 멈출 수 없는 현실.안전을 위해 개발을 계속해야 한다는 논리와 안전을 위해 개발을 멈춰야 한다는 주장이 공존하는 역설이다.『AI 인물열전 3. AI의 안전망을 구축하는 사람들』에 등장하는 인물들은 모두 같은 문제의식에서 출발한다.바로 AI의 발전이 인류의 안전을 위협할 수 있다는 것이다.하지만 AI의 위험을 바라보는 관점과 해결 방법은 서로 다르다.AI 개발과 인류의 안전을 동시에 추구하는 사람들고발과 날카로운 독설로 AI 개발을 당장 멈춰야 한다고 주장하는 사람들무엇이 문제인지 근본적인 질문부터 논리적으로 파고드는 사람들법과 제도를 통해 AI 개발의 속도를 조절하려는 사람들이들은 각자의 자리에서 서로 다른 방식으로 AI의 안전망을 구축하고 있다.얼마 전 뉴욕시의 AI 청문회에서도 한 개발자가 AI로 인한 인류 멸망 가능성을 경고하는 등, AI의 위험성을 알리는 경고의 목소리는 점점 커지고 있다.하지만 정작 우리의 관심은 그 목소리를 따라가지 못하고 있는 것 같다. 이 책에 등장하는 인물들의 이름조차 우리에게 낯설다는 사실이 이를 잘 보여준다.기술은 이미 빠르게 발전하고 있다. 하지만 그 기술을 안전하게 다룰 수 있는 우리의 준비는 그 속도를 따라가고 있을까?더 똑똑한 AI를 만드는 경쟁만큼이나, 더 안전한 AI를 만들기 위한 노력이 절실한 시대다.AI의 발전 속도를 따라가진 못해도 그 방향과 속도에 대해 끊임없이 질문하고 고민해야 하지 않을까.AI의 미래는 기술자들만의 몫이 아니다. 그 기술이 만들어 갈 세상에서 살아갈 우리 모두가 관심을 갖고 함께 고민해야 할 문제다. 어쩌면 AI 시대에 인류를 지켜낼 가장 중요한 안전망은 기술이 아니라, 위험을 외면하지 않고 끊임없이 질문하는 우리 자신일지도 모른다.그래서 AI 인물열전 시리즈 중에서도 특히 3편이 더 반갑게 다가온다.