신을 ‘믿는다‘라고 흔히 표현하는데 정확한 의미는 ‘따른다‘ 혹은 ‘순종한다‘라고 해석하는 것이 적당하다. 생명체를 창조한 신이 존재한다는 것과 그 신을 믿고 따르는 것은 별개 문제다. 가령 우리 개개인은 생물학적으로 부모에 의해 창조되었지만, 그렇다고 꼭 부모를 믿고 따르진 않으니까. - P53
"신앙이 없으면 양심에 따라 살면 된다." _프란치스코 교황, 《비종교인에게 보내는 편지》 - P55
조혈모세포는 백혈구, 적혈구, 혈소판 등 혈액세포를 만들어내는 일종의 원조 세포다. - P58
초지능은 속도 초지능speed superintelligence, 집단 초지능 collective superintelligence, 질적 초지능 quality superintelligence으로 구분 - P73
속도 초지능은 인간과 동등한 사고 구조를 가지지만 훨씬 빠른 연산 속도로 모든 인간 수준의 지식을 초고속으로 수행할 수 있는 시스템이다. - P73
집단 초지능은 수많은 소규모 지성체가 협력 · 조직해서 전체 시스템이 현재 존재하는 어떤 인지 시스템보다 뛰어난 전반적 수행력을 갖는 형태다. 이러한 시스템은 분할 가능하고 병렬화할 수 있는 작업에서 강력하며, 구성 요소 일부가 실패해도 전체가 유지되는 견고성이 있지만, 조율 복잡성과 의사결정 지연이 단점이다. - P73
질적 초지능은 인간보다 질적으로 훨씬 우수한 사고력을 갖춘 시스템으로, 인간과 동등한 속도를 유지하면서도 전혀 새로운 차원의 창의성과 고차원적 문제 해결 능력을 지니며, 이는 속도나 집단적 증강만으로는 도달할 수 없는 독자적 인지 능력의 혁신을 의미한다. - P73
일반적으로 지능은 학습 능력, 문제 해결 능력, 그리고 환경에 대한 적응 능력을 핵심 요소로 포함한다고 볼 수 있다. - P76
인간의 지능은 단순히 계산과 판단만으로 구성되지 않는다. 끊임없이 변화하는 환경 속에서 의미를 해석하고, 감정을 공유하며, 맥락 속에서 자신을 조율하는 복합적인 능력이다. - P77
지능과 의식 사이에는 본질적인 차이가 존재한다는 점은 분명히 인식할 필요가 있다. 일반적으로 지능은 학습, 문제 해결, 새로운 상황에 대한 적응 능력 등을 의미하지만, 의식은 고유한 주관적 경험을 갖고, 그 경험을 스스로 자각하는 상태나 과정을 말한다. - P77
의식은 특정 정보가 단순히 처리되는 것이 아니라, 전체 시스템 내에서 광범위하게 공유되고, 역동적으로 재귀적 피드백을 주고받는 구조와 연결되어 있는 것으로 보인다. - P77
실제로 인간의 뇌에서는 의식 상태일 때 다양한 영역 간의 상호작용이 활발히 이루어지며, 상향식 신호와 함께 하향식 피드백 신호가 끊임없이 교차한다. 이러한 피드백 구조는 단지 정보의 흐름을 강화하는 데 그치지 않고, 의도, 주의, 자기지각 등의 고차원적 기능과도 깊은 연관을 맺고 있다. - P78
현재의 인공지능 시스템은 대부분 ‘피드포워드 feedforward‘ 구조를 중심으로 설계되어 있다. 이는 입력 데이터를 받아 단방향으로 처리하여 출력을 내보내는 방식으로, 정보의 통합적 상호작용이나 재귀적 피드백이 제한적이다. - P78
최근에는 트랜스포머 기반의 언어 모델들이 ‘자기 참조적 구조self-reference‘를 통해 정보를 동적으로 연결하려고 시도하고 있지만, 이러한 구조는 여전히 의식의 주관성이나 자각성을 설명하고 구현하기에는 미흡하다. 결과적으로, 지금까지의 인공지능 구조는 의식의 핵심적인 요소인 정보의 통합성, 상호작용성, 자기 참조성 등을 충분히 반영하지 못하고 있으며, 이는 지능과 의식 사이의 본질적 차이를 드러낸다. - P79
이(재귀적 자기 개선)는 초기 또는 약한 인공일반지능 시스템이 인간의 개입 없이 스스로의 능력과 지능을 향상시켜 초지능이나 지능 폭발로 이어지는 과정을 의미한다. 재귀적 자기 개선의 흥미로운 점은 이 과정에서 시스템이 단순히 외부 문제를 해결하는 것을 넘어서, 자기 자신의 구조와 과정을 지속적으로 관찰하고 개선하는 메타인지적 능력을 발달시킨다는 것이다. - P79
초지능이 현실화되기 전에 우리가 해야 할 일은 단순한 기술 개발이 아니라, 그 지능이 윤리적 선을 어떻게 이해하고 학습할 것인가에 대한 윤리적 설계와 방향성 설정이다. 결국 인류는 언제, 어디서나 생존을 최우선 과제로 삼아 왔고, 초지능을 바라보는 우리의 시선 또한 이 본능적인 경향으로 자연스럽게 수렴되고 있는 듯하다. - P81
"과학의 가장 복잡한 분야는 인간 생물학" _엔비디아 CEO 젠슨 황 - P83
과학적 창의성이란 것이 신비로운 영감의 영역이 아니라, 방대한 정보의 연결과 고차원적 패턴 인식을 통해 발현될 수 있음 - P85
향후 제약 산업이 ‘빅파마 vs 스타트업‘ 구도가 아닌, ‘생성형 AI를 활용해 협업하는 곳 vs 그렇지 못한 곳‘으로 재편될 것 - P86
인간이 평생에 걸쳐도 다 읽지 못할 수십 년 치의 연구 결과를 AI가 단숨에 종합하여 새로운 결과를 예측할 수 있다는 사실은 우리에게 ‘지능‘과 ‘창의성‘의 본질이 무엇인지 다시 묻게 한다. 과학자는 더 이상 고독한 천재가 아니라, 인간의 직관을 넘어서는 AI와 협력하여 미지의 영역을 탐험하는 방향으로 가고 있다. - P86
이제 AI는 데이터 분석부터 실험 수행까지 스스로 할 수 있는 ‘AI 에이전트 Al Agent‘로 진화하고 있다. 이 에이전트들은 인간 과학자의 지시 없이도 연구 목표를 달성하기 위해 스스로 문헌을 검색하고, 가설을 세우며, 실험을 진행한다. 이런 AI 덕분에 인간 연구자들은 반복적이고 지루한 작업에서 벗어나 더 창의적이고 중요한 문제에 집중할 수 있게 되었다. - P87
숫자는 설명으로, 설명은 권고로, 권고는 습관 변화로 이어진다. 하루, 한 달, 1년이 반복되면 그것은 곧 내 몸과 삶을 바꾸는 하나의 서사가 된다. - P87
‘집단 평균‘을 근거로 권장치를 제시하던 기존 의학과 달리, 오직 개인만을 들여다보는 새로운 의학 패러다임 - P88
AI는 과학적 발견뿐 아니라, 인간이 자기 자신을 이해하는 방식까지도 재정의하고 있다. - P88
이제 질병은 더 이상 병원이라는 물리적 공간에서만 다뤄지지 않는다. - P88
분자에서 인구 전체로 이어지는 다중 스케일 예측이 현실이 되고 있는 것이다. - P88
AI 에이전트는 특정 목표가 주어졌을 때, 스스로 계획을 수립하고, 필요한 도구를 사용하여 과업을 자율적으로 수행하는 AI 시스템이다. - P89
문헌 탐색 및 가설 생성 에이전트 / 검증 및 평가 에이전트 / 실행 및 실험 에이전트 / 진화 및 개선 에이전트 - P89
AI 에이전트의 등장은 인간 과학자의 역할을 근본적으로 변화시킨다. 데이터 전처리, 반복적인 실험, 문헌 검색과 같은 노동 집약적 업무는 AI 에이전트에게 위임된다. 이를 통해 인간은 단순 실무자에서 벗어나 연구의 방향을 결정하는 ‘지휘자‘이자 ‘전략가‘로 거듭난다. - P90
인간의 역할은 다음과 같이 재정의된다.
창의적 질문 제시 : AI가 탐색할 독창적이고 중요한 연구 목표를 설정한다.
통찰력 있는 의사결정 : AI가 생성한 수많은 가설과 데이터 속에서 핵심적인 통찰을 발견하고, 다음 연구 단계에 대한 전략적 결정을 내린다.
최종 검증 및 감독 : AI의 결론을 비판적으로 검토하고, 윤리적·과학적 타당성을 최종적으로 판단하는 ‘휴먼 인 더 루프Human-in-the-loop‘ 역할을 수행한다. - P90
인간의 창의성과 AI의 압도적인 분석 능력이 결합될 때, 연구의 시너지는 극대화된다. - P90
시간의 압축, 규모의 확장, 과정의 자동화 - P90
AI가 인간을 대체하는 것이 아니라, 인간과 협력하여 더욱 놀라운 성과를 만들어낼 수 있음을 이해해야 한다. AI가 새로운 가설을 내놓으면, 인간은 자신의 전문 지식과 비판적 사고를 통해 이를 검증하고 최종 결정을 내리는 역할을 맡아야 한다. 그렇게 협력할 때, 우리는 생명의 비밀을 더 깊이 이해하고, 질병을 더 효과적으로 치료하며, 궁극적으로 인류의 삶의 질을 향상시킬 수 있다. - P93
창작을 둘러싼 ‘관계성‘ ...(중략)... 단순히 ‘실력‘ 혹은 ‘능력‘으로 환원되지 않는 창작을 둘러싼 세상의 맥락들이 수면 위로 떠오르고 있다. - P97
우리는 에세이뿐만 아니라 작가가 자신의 주관적 견해를 드러낸 글 속에서 ‘작가‘와 대화하는 느낌을 받는다. - P97
결국 앞으로는 작가와 독자의 관계성에 대한 더 복합적이고진실된 맥락을 고려해야 하게 되었다. - P99
만약 작가가 AI를 활용한다면, 거짓이 아닌 차원에서 활용하며 당당하게 독자와 소통할 필요도 있어 보인다. 지식의 검색과 정리, 맥락 보완, 아이디어 보충 등에서 AI를 활용하는 것을 꼭 부끄럽게 여길 필요는 없다. 그러나 자신의 진실을 써야 하는 주관적 에세이나 견해의 영역에서는 어디까지나 진실을 써야 한다. - P99
우리는 ‘쓰기와 읽기‘가 상호 관계 맺기라는 차원에서 이루어진다는 점을 잊지 말아야 할, 더 섬세하고도 정교한 관계의 시대에 진입했다고 말할 수 있다. 새로운 시대에도 진짜 소통, 진실된 관계, 진짜를 기반으로 한 신뢰가 존재할 것이다. - P100
표면적인 성능 수치만으로는 AI의 진정한 신뢰성을 결코 담보할 수 없다. 이 문제의 근본적인 해결책은 ‘알고리즘 투명성 algorithm transparency‘을 확보하는 것이다. 이는 단순히 AI의 코드를 공개하는 것을 넘어, AI가 어떤 데이터를 기반으로, 어떤 논리적 과정을 거쳐 결론에 도달했는지 사용자가 이해하고 검증할 수 있어야 한다는 원칙이다. - P107
투명성은 AI 시스템에 대한 신뢰를 구축하고, 문제 발생 시 원인 규명과 책임 소재 파악을 위한 감사audit 및 통제control를 가능하게 하는 필수 전제 조건이다. 이러한 이유로 유럽연합의 인공지능법, 한국의 AI 기본법을 비롯한 세계 각국의 AI 관련 법규와 정책은 투명성을 핵심 원칙으로 규정하고 있다. - P107
스케일의 법칙scaling law이란 AI 모델의 성능이① 모델의 크기(매개변수 수), ②학습 데이터의 양, ③학습에 사용되는 계산량이라는 세 가지 요소를 늘릴수록 향상된다는 경험 법칙이다. - P108
XAI(Explainable AI, 설명 가능 인공지능)의 핵심 기능은 모델이 올바른 근거로 판단하는지, 혹은 앞서 소개한 ‘클레버 한스 효과‘처럼 데이터의 우연한 단서에 의존하지는 않는지 검증하는 것이다. - P112
XAI는 개발자에게 모델의 신뢰성을 검증하고 데이터의 편향을 수정할 수 있는 진단 도구를 제공하며, AI의 결정을 맹목적으로 신뢰하는 대신 비판적으로 수용할 수 있는 근거를 마련해 준다. - P113
XAI는 모델의 디버깅과 최적화를 위한 진단 도구로도 기능한다. - P113
(훈련 데이터세트의 신경망 가중치 전체를 한 바퀴 업데이트하는 이 과정을 ‘에포크epoch‘라고 부른다. 모델을 만들 땐 적게는 수 에포크에서 많게는 수백 에포크까지 훈련을 진행한다) - P117
(변형을 통해 데이터의 다양성을 높여 모델의 실전 예측 성능을 높이는 이 과정을 ‘증강‘이라고 한다). - P118
잘 훈련된 기존 모델을 가져와 목적에 맞게 수정해 쓰는 방법을 전이학습이라고 한다. 모델 개발 시 실제로 많이 사용하는 전략이다. - P120
훈련된 모델에 새로운 데이터를 넣어 실전에 필요한 예측을 수행하는 작업을 추론(인퍼런스)이라고 한다(최근 대형언어모델LLM에서 사용하는 ‘추론reasoning‘과는 다른 작업이다). - P121
파라미터는 학습 시마다 역동적으로 변화하는 가중치를 의미한다. 큰 모델일수록, 이들을 학습시킬 때 소비되는 전기도, 배출하는 탄소도 늘어날 수밖에 없다. - P123
케이트 크로포드가 지적했듯이, AI 산업의 핵심 동학은 데이터, 값싼 노동력, 지구 에너지와 광물 자원의 추출이다. 데이터와 정보만 흡수되는 게 아니다. 방송 프로그램 제작 노하우, 영상 편집 기술, 창작 아이디어 등 배타적 소유가 아닌 ‘공통의 소유‘이거나 집합적·사회적 부에 해당하는 것들도 예외 없긴 마찬가지다. - P133
|