[마이리뷰] 제리 카플란 생성형 AI는 어떤 미래를 만드는가

[전자책] 제리 카플란 생성형 AI는 어떤 미래를 만드는가 - 최정상 인공지능 전문가의 15가지 미래 예측
제리 카플란 지음, 정미진 옮김 / 한즈미디어 / 2024년 7월

현재 합의된 사항은 방아쇠를 당기기 전 모든 표적 결정에 대해 인간이 ‘개입’해야 한다는 것이지만, 이러한 검토의 요구가 생명을 위험에 빠뜨릴 수도 있기 때문에 이것이 실용적이거나 윤리적으로 정당한지는 분명하지 않다.2

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P173

생성형 AI가 군사적 상황에서 활용될 것은 틀림없으나, 이 복잡한 윤리적 문제를 ‘살상용 로봇’이라는 단순하고 자극적인 표현으로 축약하는 것은 도움이 되지 않는다.

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P173

이 문제의 중요성을 최소화하거나 무시하고 싶진 않지만, 좋은 뜻을 가진 많은 현명한 사람들이 잠재적 위험과 그 영향력을 잘 알고 있고, 이를 사전에 방지하기 위해 적극적으로 노력하고 있다는 사실에서 위안을 얻을 수 있길 바란다.

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P173

현대적 맥락에서 이 개념이 대중화된 것은 이 용어가 탄생한 때부터는 아니더라도, 1993년 〈다가오는 기술적 특이점: 포스트 휴먼 시대의 생존법(The Coming Technological Singularity: How to Survive in the Post-human Era)〉33이라는 제목의 글을 쓴 컴퓨터과학자이자 저명한 공상 과학 작가인 버너 빈지Vernor Vinge 덕분으로 여겨진다. 이 개념은 그의 여러 공상 과학 작품의 발판이 되었다.

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P174

중국은 인구만 많은 것이 아니라 재능있는 엔지니어도 많다. 최신 데이터를 구하기는 좀 어렵지만, 2016년에 중국의 과학, 기술, 공학, 수학과(STEM) 졸업생은 470만 명에 이르렀던 것으로 추정되는데, 이는 미국의 56만 8,000명의 약 10배에 해당하는 인원이다.18

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P211

버클리대학의 존 설John Searle 교수(현재 은퇴)는 ‘약한’ AI의 가장 유명한(그리고 내 생각에 가장 설득력 있는) 지지자다. 그는 ‘중국어 방 실험(Chinese Room Experiment)’을 제안한 것으로 널리 알려졌는데, 여기에서 그 내용을 자세히 설명하진 않겠다.

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P223

AI 철학은 컴퓨터, 일반적인 기계, 또는 자연적으로 발생하지 않은 모든 것이 정신을 지니거나 생각한다고 말할 수 있는지에 대한 질문을 던진다.

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P223

간단히 말해 그 답은 ‘정신’과 ‘생각’이 무엇을 의미하느냐에 달려 있다. 이 논쟁은 수십 년 동안 끝이 안 보이도록 누그러지지도 끝나지도 않고 다양한 형태로 계속되어 왔다.

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P223

[마이리뷰] 제리 카플란 생성형 AI는 어떤 미래를 만드는가

[전자책] 제리 카플란 생성형 AI는 어떤 미래를 만드는가 - 최정상 인공지능 전문가의 15가지 미래 예측
제리 카플란 지음, 정미진 옮김 / 한즈미디어 / 2024년 7월

혼자 살면서 다른 사람들과 어울릴 기회가 거의 없는 연로한 부모님을 둔 사람들의 경우, 생성형 AI를 활용하는 것은 그러한 상황에 대처하는 효과적인 방법이 될 수 있다

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P162

우리는 곧 기계가 우리를 위해서가 아니라 서로를 위해 읽고 쓰는 이상한 나라에서 살게 될 것이며, 알고리즘의 처분대로 우리가 관심을 가질 필요가 있는 것과 없는 것이 결정될 것이다.

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P165

하지만 일생의 대부분을 실용적인 제품을 만드는 데 보낸 나는 의도된 성능을 뛰어넘기는커녕 실제로 작동하는 제품을 만드는 것이 얼마나 어려운 일인지 잘 알고 있다.

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P171

전지전능한 생성형 AI가 바로 우리 눈앞에 와 있다는 생각은 내게는 최고 속도가 없는 자동차나 무한히 밝은 손전등을 만드는 것처럼 터무니없어 보인다

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P171

내가 보기에 더 큰 위험은 경쟁적인 상업적 압력으로 인해 불충분하게 테스트된, 특히 체내가 아닌 체외에서 테스트된 시스템을 구축하거나 제품을 출시하는 것이다.

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P171

정렬 문제를 좀 더 쉽고 면밀하게 이해하고 싶다면 2019년에 출간된 스튜어트 러셀Stuart Russell의 저서 《인간과의 양립: 인공지능과 통제의 문제(Human Compatible: Artificial Intelligence and the Problem of Control)》를 추천한다.

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P171

그는 고급 AI 시스템을 위한 세 가지 설계 원칙을 제안한다. 첫째, 기계의 유일한 목표는 인간이 선호하는 것을 최대한 실현하는 것이다. 둘째, 기계는 처음에는 인간이 선호하는 것에 대해 단정할 수 없어야 한다. 셋째, 인간이 선호하는 것에 대한 궁극적인 정보의 원천은 인간의 행동이 되어야 한다. 그의 목표는 어떤 목표가 주어졌을 때 그 목표 하나만 좇는 기계가 아니라, 우리가 할 것 같은 행동을 하는 기계다. 다시 말해 ‘내가 말하는 대로가 아닌, 내가 뜻하는 대로 하는’ 기계다.

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P172

정부가 다른 나라 국민을 상대로 언제, 어떻게 이 권리를 행사할 수 있는지는 ‘군대 윤리Military Ethics’라는 학문의 주제다

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P172

[마이리뷰] 제리 카플란 생성형 AI는 어떤 미래를 만드는가

[전자책] 제리 카플란 생성형 AI는 어떤 미래를 만드는가 - 최정상 인공지능 전문가의 15가지 미래 예측
제리 카플란 지음, 정미진 옮김 / 한즈미디어 / 2024년 7월

AI를 둘러싼 두 번째 통념이 있다(물론 모든 형태의 자동화에 동일한 주장이 적용되긴 하지만). AI(또는 생산성을 높이는 모든 기술)가 광범위한 부문에 걸쳐 업무를 자동화하면 인간의 할 일이 없어진다는 것이다

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P133

로봇은 기계적인 사람이 아니며 앞으로도 그렇게 될 일은 없을 것이다. 따라서 대면 접촉이 필요한 오늘날의 직업은 자동화가 가능하더라도 위험에 처하지 않는다. 우리의 손주들은 로봇 바텐더에게 고민을 털어놓고 싶지 않을 것이고 로봇이 바이올린으로 쇼팽을 연주하는 모습도 보고 싶지 않을 것이다

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P145

따라서 다가오는 자동화 물결의 아이러니는 자동화가 개인 서비스의 황금기를 불러올 수 있다는 것이다.

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P145

중요한 기술적 진보가 있을 때마다 새로운 산업과 직업이 생겨났고, 생성형 AI도 여기에서 예외는 아닐 것이다

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P146

우선 가장 중요한 것은 생성형 AI로부터 유용한 결과를 끌어내는 기술이다. 최근 이를 ‘프롬프트 엔지니어링Prompt Engineering’으로 부르자는 공감대가 형성되고 있는 것 같다

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P146

프랑스 작곡가 폴 뒤카Paul Dukas의 교향시 〈마법사의 제자(The Sorcerer’s Apprentice)〉를 디즈니 식으로 해석한 작품11에서 미키 마우스가 힘겹게 배운 것처럼, 요청 사항이 충분히 구체적이지 않으면 사용자는 원하는 결과를 얻지 못할 수도 있다

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P146

입에 올리기 껄끄럽지만, 온라인 음란물은 아마존, 넷플릭스, 트위터를 합친 것보다 더 많은 방문자를 매달 끌어모으고 있다. 추정컨대 인터넷 콘텐츠의 약 30%가 음란물이다

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P161

[마이리뷰] 제리 카플란 생성형 AI는 어떤 미래를 만드는가

[전자책] 제리 카플란 생성형 AI는 어떤 미래를 만드는가 - 최정상 인공지능 전문가의 15가지 미래 예측
제리 카플란 지음, 정미진 옮김 / 한즈미디어 / 2024년 7월

만약 과거 왕족의 자녀들처럼 모든 학생에게 자신만의 개인 교사가 생긴다면? 학생들은 자기 속도에 맞춰 학습할 수 있다. 교사는 다음 과정으로 넘어가기 전 학생들이 필요한 모든 개념을 충분히 이해했는지 확인하고 각자의 필요에 가장 적합한 학습 방식대로 가르칠 수 있다.

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P113

개인 교사는 주의력 결핍 장애(ADD)부터 영양 결핍, 심리적 문제까지 학습 장애를 진단하고 이 정보를 선생님과 부모 모두에게 공유할 수 있다. 게다가 학생들에게 비싸고, 시간이 오래 걸리고, 스트레스를 유발하는 표준화된 시험을 치르도록 강요하는 대신, 개인 교사는 학생들의 역량을 간단히 입증할 수 있다.

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P113

컴퓨터가 작성한 컴퓨터 프로그램은 난해하고 인간이 이해하기 어려울 것으로 생각할지도 모르겠다. 전혀 그렇지 않다. 오히려 코드는 명확하고, 좋은 프로그래밍 관행을 따르며, 훌륭하게 짜여 있다.

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P122

전형적인 실리콘밸리 선임 소프트웨어 엔지니어 한 명에 드는 총비용(모든 비용 포함)은 하루에 약 1,200달러다. 그에 비해 오늘날 LLM이 비슷한 품질의 코드 100줄을 작성하는 데 드는 비용은 하루에 12센트뿐이다. 자그마치 1만 배의 차이다.

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P123

사람마다 상황이 다를 수 있고, 생성형 AI 프로그래밍 기능의 발전이 반드시 프로젝트의 규모나 복잡성에 비례하지 않을 수 있다. 따라서 개발 과정에서 사람의 감독은 항상 필수적일 것이다

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P123

하지만 자신의 목표를 명료한 언어로 설명할 수 있는 사람이라면 누구나 저렴한 비용으로 생성형 AI가 즉시 코드를 생성하도록 할 수 있을 가능성이 크다.

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P123

초보 또는 아마추어 소프트웨어 엔지니어로서 여러분이 할 일은 자연어 설명으로 작동하는 프로그램을 만드는 것이다. 그러면 프로그램을 만드는 것은 곧 누구라도 할 수 있는 일이 될 것이다.

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P124

오늘날의 것과 같은 소프트웨어 개발 방식은 곧 끝장날 것이다

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P124

미래에는 누구나 컴퓨터 프로그래밍을 할 수 있게 될 것이다. 이미 보편화된 컴퓨터 프로그램은 거의 0에 가깝게 비용이 떨어지고 급격히 확산될 것이다.

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P124

[마이리뷰] 제리 카플란 생성형 AI는 어떤 미래를 만드는가

[전자책] 제리 카플란 생성형 AI는 어떤 미래를 만드는가 - 최정상 인공지능 전문가의 15가지 미래 예측
제리 카플란 지음, 정미진 옮김 / 한즈미디어 / 2024년 7월

지금은 부끄러운 발진을 전화기나 카메라에 내보이는 것이 어색하게 느껴질 수 있지만, 멀티모달 생성형 AI는 어쩌면 지금 여러분의 의사보다 더 확실하게 병을 진단할지 모른다.

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P100

생성형 AI가 의료 부문에 미치는 영향도 극적일 테지만, 법률 제도에 미치는 영향은 더더욱 광범위할 것으로 예상된다. 의료 부문의 경우 생성형 AI는 기존 프로세스와 업무에 비교적 쉽게 통합될 것이다.

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P102

‘예측 코딩(predictive coding)’이란 기술은 컴퓨터가 인간 검토자를 훨씬 능가하는 속도, 부지런함, 정확성으로 이 따분한 작업을 수행할 수 있게 한다

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P105

머신러닝 프로그램이 사람이 한 일과 최대한 일치하도록 하는 기준을 찾는다. 기준에는 단순한 구문 매칭부터 텍스트, 맥락, 참가자에 대한 매우 정교한 의미 분석까지 모든 것이 포함될 수 있다

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P105

하지만 이것은 오래된 기술이다. 곧 생성형 AI는 이 과정을 단순화하고 속도를 높일 것이다. 증거개시의 목적과 개별 문서들의 관련성을 이해하는 능력이 과거 이 일에 적용된 AI 기술을 훨씬 뛰어넘을 것이기 때문이다.

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P105

현실 세계에서 법정 내부를 상시로 경험하는 사람은 거의 없다. 분명한 사실은 대부분의 법적 활동이 분쟁이 아닌 간단한 업무라는 것이다

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P105

게다가 변호사가 제공하는 일반적인 서비스 중 상당 부분은 충분히 틀에 박힌 일이어서 꽤 간단한 AI 시스템도 평범한 변호사만큼 또는 그보다 더 일을 잘 할 수 있을 정도다

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P105

소송을 제기하는 흔한 동기 중 하나는 자신의 이야기를 ‘들려’주고 ‘법정에서’ 하루를 보내고자 하는 원고의 욕구다. 실제로 판사가 내리는 많은 법적 의견(판결)의 상당 부분은 패소 당사자의 정당한 우려를 살피고 인정하는 것이다

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P109

실제로 무슨 일이 있었는지에 대해 모두가 동의하거나 모든 사람의 기억이 일치한다면 더할 나위 없이 좋겠지만, 명백한 ‘결정적 증거’는 놀라울 정도로 드물다.

-알라딘 eBook <제리 카플란 생성형 AI는 어떤 미래를 만드는가> (제리 카플란 지음, 정미진 옮김) 중에서 - P109