[마이리뷰] 마침내 특이점이 시작된다

[전자책] 마침내 특이점이 시작된다 - 인류가 AI와 결합하는 순간
레이 커즈와일 / 비즈니스북스 / 2025년 6월

영국 철학자 사이먼 블랙번Simon Blackburn의 표현을 빌리면, 자유 의지를 배제하는 것처럼 보인다는 점에서 "우연은 필연만큼 가혹하다."17 오히려 유의미한 자유 의지 개념은 결정론적 철학 개념과 비결정론적 철학 개념을 어떻게든 종합해야 한다(무작위성으로 빠져들지 않는 동시에 엄격한 예측 가능성을 피하면서).

-알라딘 eBook <마침내 특이점이 시작된다> (레이 커즈와일) 중에서 - P99

AI의 행동이 인간과 비슷해 보인다면, 설령 그 인지가 생물학적 신경세포에 기반을 두지 않았더라도, 우리는 마치 AI를 주관적 의식이 있는 존재인 양 응원하게 된다.

-알라딘 eBook <마침내 특이점이 시작된다> (레이 커즈와일) 중에서 - P105

그러한 교체가 매번 일어날 때마다 새로운 나는 여전히나일까? 결국 뇌가 완전히 디지털 방식으로 변한다 하더라도?

-알라딘 eBook <마침내 특이점이 시작된다> (레이 커즈와일) 중에서 - P108

이 미세 조정 문제에 대한 가장 보편적인 설명에 따르면, 우리가 그러한 우주에서 살 확률이 아주 낮은 것은 ‘관찰자 선택 편향’observer selection bias때문이다.76 다시 말해서, 우리가 이 질문을 던지려면 우리가 미세 조정된 우주에살고 있어야 한다.

-알라딘 eBook <마침내 특이점이 시작된다> (레이 커즈와일) 중에서 - P115

안드로이드의 기능 측면에서는 기술 발전이 ‘모라벡의 역설’Moravec’s paradox84이라고 부르는 큰 문제에 봉착해 있다. 이 역설은 내 친구인 한스 모라벡이 수십 년 전에 발견한 것이다. 간단히 말하면, 이것은 인간에게 어려워 보이는 정신적 과제(큰 수의 제곱근을 구하거나 많은 양의 정보를 기억하는 것처럼)가 컴퓨터에게는 아주 쉬운 반면, 인간에게는 너무나도 쉬운 정신적 과제(얼굴을 기억하거나 걸어가면서 균형을 유지하는 것처럼)가 AI에게는 매우 어렵다는 내용이다.

-알라딘 eBook <마침내 특이점이 시작된다> (레이 커즈와일) 중에서 - P118

교육, 의료, 위생, 민주화처럼 서로 뒤엉킨 요소들은 상호 강화 피드백 고리를 만든다. 한 분야의 발전은 다른 분야에도 혜택을 가져다주는 경우가 많다.

-알라딘 eBook <마침내 특이점이 시작된다> (레이 커즈와일) 중에서 - P140

의약품 개발에서 우연히 일어난 가장 획기적인 발견은 항생제 혁명을 일으키면서 지금까지 최대 2억 명의 목숨을 구한 페니실린이었다

-알라딘 eBook <마침내 특이점이 시작된다> (레이 커즈와일) 중에서 - P153

하지만 발견이 문자 그대로 우연히 일어나는 것이 아닌 경우조차도 연구자가 전통적인 방법으로 획기적인 돌파구를 열려면 상당한 행운이 필요하다.

-알라딘 eBook <마침내 특이점이 시작된다> (레이 커즈와일) 중에서 - P153

가능한 약물 분자를 남김없이 철저하게 시뮬레이션할 능력이 없는 상태에서 연구자들은 고속 대량 스크리닝과 그 밖의 매우 많은 노력이 필요한 실험 방법에 의존해야 하는데, 이는 훨씬 느리고 효율성이 떨어진다.

-알라딘 eBook <마침내 특이점이 시작된다> (레이 커즈와일) 중에서 - P153

[마이리뷰] AI를 압도하는 내면 경쟁력

[전자책] AI를 압도하는 내면 경쟁력 - 나의 가능성을 발견하는 7가지 인간다움의 힘
이헌주 지음 / 라이프앤페이지 / 2025년 6월

과거의 후회는 우울감과 연관됩니다. 우울은 과거와 연관되는 감정입니다. 반대로 미래에 대한 감정은 걱정거리죠. 그 걱정거리라고 하는 요소를 담고 있는 감정이 불안입니다.

-알라딘 eBook <AI를 압도하는 내면 경쟁력> (이헌주 지음) 중에서 - P9

AI는 그 삶을 직접 산 것이 아니기 때문에 삶에 관해 이야기를 할 수 없는 것입니다. 직접 느끼고 경험하고 깨달은 삶의 정수는 인간이 가질 수 있는, 고유성의 결정체입니다

-알라딘 eBook <AI를 압도하는 내면 경쟁력> (이헌주 지음) 중에서 - P10

AI는 인간이 지녀야 할 주체성, 삶의 방향성을 깊이 있게 이해하는 것을 대체할 수 없습니다. 삶의 주체는 곧 나에게서 옵니다. 그래서 우리는 더욱 가야 할 방향을 이해하고 있어야 합니다.

-알라딘 eBook <AI를 압도하는 내면 경쟁력> (이헌주 지음) 중에서 - P10

[마이리뷰] 마침내 특이점이 시작된다

[전자책] 마침내 특이점이 시작된다 - 인류가 AI와 결합하는 순간
레이 커즈와일 / 비즈니스북스 / 2025년 6월

어떻게 하면 신피질의 유연성과 추상화 능력을 디지털로 복제할 수 있을까?

-알라딘 eBook <마침내 특이점이 시작된다> (레이 커즈와일) 중에서 - P52

초차원 언어 처리의 가장 유망한 응용 중 하나는 ‘트랜스포머’transfor-mer라는 AI 시스템이다. 이것은 입력 데이터 중에서 가장 적절한 부분에 연산 능력을 집중시키는(인간의 신피질이 우리의 사고에 가장 중요한 정보에 주의를 집중하게 만드는 것과 거의 같은 방식으로) ‘주의’ 메커니즘을 사용하는 딥러닝 모델이다

-알라딘 eBook <마침내 특이점이 시작된다> (레이 커즈와일) 중에서 - P58

그렇다면 규모가 왜 그토록 중요할까? 간단히 말하면, 규모는 모델이 훈련 데이터의 더 깊은 특징에 접근할 수 있게 해준다.

-알라딘 eBook <마침내 특이점이 시작된다> (레이 커즈와일) 중에서 - P60

그러한 모델 중에서 상업적으로 출시되고 사용자에게 깊은 인상을 주는 방식으로 창의성을 보여준 최초의 모델은 바로 GPT-3였다.

-알라딘 eBook <마침내 특이점이 시작된다> (레이 커즈와일) 중에서 - P61

향후 몇 년 사이에 그런 능력은 인간의 엄청난 잠재력을 분출시킬 텐데, 전에는 소프트웨어를 통해 창의적인 아이디어를 실행하는 데 코딩 기술이 필수였지만 이제는 더 이상 그것이 걸림돌이 되지 않기 때문이다.

-알라딘 eBook <마침내 특이점이 시작된다> (레이 커즈와일) 중에서 - P64

2022년 11월, 오픈AI는 챗GPTChat-GPT라는 인터페이스를 출시했는데, 이를 통해 일반 대중이 처음으로 대규모 언어 모델 GPT-3.5와 손쉽게 상호 작용할 수 있게 되었다.

-알라딘 eBook <마침내 특이점이 시작된다> (레이 커즈와일) 중에서 - P66

지난 몇 년의 성과가 보여주듯이, 우리는 이미 신피질의 능력을 재현하는 길을 향해 잘 나아가고 있다. 오늘날 남아 있는 AI의 결함은 몇 가지 주요 영역으로 나누어지는데, 그중에서 가장 중요한 것은 맥락 기억과 상식, 사회적 상호 작용이다.

-알라딘 eBook <마침내 특이점이 시작된다> (레이 커즈와일) 중에서 - P68

맥락 기억은 대화나 글로 표현된 모든 개념이 서로 어떻게 동역학적으로 결합돼 있는지 추적하는 능력이다. 관련 있는 맥락의 크기가 증가하면, 개념 사이의 관계의 수는 기하급수적으로 증가한다. 이 장 앞에서 나왔던 복잡성 한계를 떠올려보라.

-알라딘 eBook <마침내 특이점이 시작된다> (레이 커즈와일) 중에서 - P69

GPT-4가 대화 도중에 앞에서 들은 내용을 잊어버리는 것은 이 때문이고, 일관성 있고 논리적인 구성으로 소설을 쓰지 못하는 것도 이 때문이다.

-알라딘 eBook <마침내 특이점이 시작된다> (레이 커즈와일) 중에서 - P69

두 가지 측면에서 좋은 소식이 있다. 적절한 맥락 데이터에 더 효율적으로 집중하는 AI의 설계에서 큰 진전이 일어나고 있고, 가격 대비 성능의 기하급수적 개선 덕분에 10년 안에 계산 비용이 99% 이상 떨어질 가능성이 있다.

-알라딘 eBook <마침내 특이점이 시작된다> (레이 커즈와일) 중에서 - P69

[마이리뷰] 마침내 특이점이 시작된다

[전자책] 마침내 특이점이 시작된다 - 인류가 AI와 결합하는 순간
레이 커즈와일 / 비즈니스북스 / 2025년 6월

이제 AI는 경쟁자라기보다는 우리 자신의 확장된 일부가 될 것이다. 이런 일이 일어날 때쯤이면 우리 마음에서 비생물학적인 부분이 생물학적 부분보다 수천 배나 많은 인지 능력을 제공할 것이다.

-알라딘 eBook <마침내 특이점이 시작된다> (레이 커즈와일) 중에서 - P22

그러고 나서 마침내 초인적 AI의 도움을 받아 가상 신경세포층으로 우리의 신피질을 방대하게 확장시킬 ‘뇌-컴퓨터’ 인터페이스를 설계하는 문제로 넘어갈 수 있다. 이를 통해 완전히 새로운 사고방식이 나타날 것이고, 결국 우리의 지능이 수백만 배나 팽창할 것이다. 이것이 바로 특이점이다.

-알라딘 eBook <마침내 특이점이 시작된다> (레이 커즈와일) 중에서 - P23

하지만 AI가 그 목표를 달성하면, 우리 인간의 눈에 그 업적은 하찮은 것으로 평가절하된다.

-알라딘 eBook <마침내 특이점이 시작된다> (레이 커즈와일) 중에서 - P26

인공 지능에서 AI 모델의 내부 변수. 신경망에서 파라미터 개수가 많다는 것은 모델의 복잡성과 성능이 높다는 것을 뜻한다.

-알라딘 eBook <마침내 특이점이 시작된다> (레이 커즈와일) 중에서 - P32

하지만 그 이유를 짧게 설명하자면, 오류들이 상쇄되기 때문이다.

-알라딘 eBook <마침내 특이점이 시작된다> (레이 커즈와일) 중에서 - P38

만약 데이터세트(자료 집합)가 충분히 크다면, 이 잘못된 정보들이 상쇄되어 훈련 과정을 특정 방향으로 왜곡시키지 않을 것이다.

-알라딘 eBook <마침내 특이점이 시작된다> (레이 커즈와일) 중에서 - P38

[마이리뷰] Dify AI, 코드 없는 미래

Dify AI, 코드 없는 미래 - 클릭만으로 업무 프로세스 리빌드, 노코드 AI 자동화 실전 가이드, 18개 프로젝트 파일 제공
김정욱 지음 / 한빛미디어 / 2025년 12월

먼저 에이전트(Agent)라는 용어부터 이해해 보겠습니다. 에이전트는 일반적으로 "특정 목적을 위해 자율적으로 행동하는 개체를 의미하는 용어입니다.
부동산 중개인(에이전트)가 고객을 대신해 집을 찾아 주고 보험 설계사(에이•전트)가 고객에게 맞는 상품을 추천하듯이 에이전트는 누군가를 대신해 능동적으로 일을 처리합니다.
AI 기반 애플리케이션에서도 이러한 에이전트의 개념을 사용합니다. 앞서2-3장에서 살펴본 챗봇과 AI 에이전트는 다른 개념입니다. - P160

다양한 도구를 활용하는 능력AI 에이전트의 핵심 특징 중 하나는 상황에 맞는 다양한 도구를 선택하고 활용할 수 있다는 점입니다. 마치 숙련된 목수가 작업에 따라 망치, 드릴, 톱등을 적절히 선택해서 사용하듯이 AI 에이전트도 목표 달성을 위해 필요한 도•구를 판단하고 실행합니다. - P164