https://m.blog.naver.com/syeong21/224032750125푸코는 “비판은 자유의 예술”이라고 했다. 푸코의 말은 IRB 행정에도 그대로 적용될 수 있을 것이다. 제도는 통제의 장치가 아니라, 인간의 자유를 보호하기 위한 구조여야 한다. IRB 행정은 바로 그 긴장 위에 있다. 자유를 위하여 통제하고, 통제를 통하여 자유를 지키는 일 말이다. 그 균형은 언제나 불안정하지만, 그 불안 속에서만 윤리는 살아 있을 것이다. 비판 없는 행정은 권력으로 흐르고, 성찰 없는 윤리는 형식으로 굳어진다. 그러므로 비판은 행정의 첫 번째 덕목이다.
언젠가는 AGI에 대해서 책을 써야겠다는 생각을 훨씬 오래전, 가령 챗GPT가 처음 공개됐을 때 막연하게나마 했을 수도 있으니까요.-알라딘 eBook <AGI, 천사인가 악마인가> (김대식 지음) 중에서 - P42
그보다 문맥적으로 얼마나 비슷한 단어인지에 집중해야 한다는 것입니다.이 방법을 집중 스코어attention score라고 부릅니다.-알라딘 eBook <AGI, 천사인가 악마인가> (김대식 지음) 중에서 - P45
여러 가지 계산 방법이 있고, 이를 제대로 표현하기 시작한 게 트랜스포머 알고리즘Transformer Algorithm입니다. 아마 챗GPT가 등장하고, 생성형 AI에 관심을 가지고 알아본 사람이라면 익숙한 단어일 겁니다. 트랜스포머는 챗GPT의 핵심입니다.-알라딘 eBook <AGI, 천사인가 악마인가> (김대식 지음) 중에서 - P45
하지만 중요한 건 이렇게 언어를 학습하기 위해서는 정말 많은 예제, 데이터를 필요로 한다는 것입니다. 예를 들어, 한 작가의 문장만 학습시키면 그 작가의 스타일만 배우게 되니까 보편적인 언어 사용 패턴을 학습하지 못하겠지요. 우리가 원하는 건 보편적이고 범용적인 언어의 규칙입니다-알라딘 eBook <AGI, 천사인가 악마인가> (김대식 지음) 중에서 - P46
단백질 구조를 학습해서 예측할 수도 있습니다. 그런데 더 중요한 건 조합 학습이 가능하다는 것입니다. 예를 들어 글과 그림을 동시에 학습시켰더니, 우리 인간은 그런 게 있는지도 몰랐는데, 글과 그림의 교집합 문법이 있다는 걸 알게 됐습니다. 우리는 그런 걸 한 번도 생각해 본 적 없었습니다-알라딘 eBook <AGI, 천사인가 악마인가> (김대식 지음) 중에서 - P50
마찬가지로, DNA 구조와 단백질 구조를 동시에 학습시켰더니, DNA 구조를 입력하면 거기에 적합한 단백질 구조를 예측해 줍니다. 그래서 현재 제약회사와 신소재 회사들이 여기에 굉장히 관심이 많습니다-알라딘 eBook <AGI, 천사인가 악마인가> (김대식 지음) 중에서 - P50
신약 개발은 정말 어려운 일입니다. 기존에 새로운 약을 만들려면 수년에서 길게는 수십 년 동안 실험하고, 분자 구조를 조사하고, 그렇게 1조 원 이상의 비용이 드는 일도 흔했습니다. 그렇게 해도 성공 확률이 낮았지요. 그래서 새로운 약이라는 게 쉽게 나오지 않았습니다. 그런데 AI를 사용해서 우리가 원하는 조건만 입력하면 가능성 있는 분자 구조를 예측해줍니다.-알라딘 eBook <AGI, 천사인가 악마인가> (김대식 지음) 중에서 - P50
최근에는 어쩌면 우리 인간이 이미 알고 있는 것들이 생각보다 더 많을지도 모른다는 생각이 들기 시작하고 있습니다.-알라딘 eBook <AGI, 천사인가 악마인가> (김대식 지음) 중에서 - P51
사용한 방법 자체는 과거와 똑같은 방법이었는데 어떻게 성공했을까요? 세 가지 차이가 있었습니다. 첫 번째는 당연히 알고리즘이 개선된 것입니다. 두 번째로, 컴퓨터가 더 빨라졌지요. 그런데 가장 중요한 차이점은 세 번째, 1990년대에 인터넷이 등장하면서 상상을 초월할 만큼 데이터가 많아졌다는 것이었습니다.-알라딘 eBook <AGI, 천사인가 악마인가> (김대식 지음) 중에서 - P21
지금은 이걸 스케일링scaling의 문제라고 이해하고 있습니다. 이를 통해 우리가 깨달은 건, 신기하게 알고리즘을 크게 개선하지 않은 상태에서도 더 많은 데이터를 학습시키거나 모델을 더 키우면, 풀리지 않았던 문제가 거의 자동으로 풀리기 시작한다는 것입니다.-알라딘 eBook <AGI, 천사인가 악마인가> (김대식 지음) 중에서 - P22
그런데 우리 인간은 그 문제를 풀었습니다. 어떻게 풀었냐면, 바로 학습을 통해서였습니다. 그래서 이제 인간의 뇌를 모방한 인공지능이 등장하기 시작했습니다.-알라딘 eBook <AGI, 천사인가 악마인가> (김대식 지음) 중에서 - P23
특히 퍼셉트론을 만들 때 가장 중요한 건 신경세포와 신경세포 사이의 연결고리, 즉 시냅스synapse라고 부르는 이 연결고리의 값을 찾는 것입니다. 그 값이 우리가 찾아야 하는 정답입니다.-알라딘 eBook <AGI, 천사인가 악마인가> (김대식 지음) 중에서 - P28
새로운 문명은 모든 이가 스스로 판단하고 스스로 점검하는 모드로 변화합니다. 이 문명에서 일하지 않고 관리하거나 지원하는 사람은 그 존재의 이유를 설명하기 어려워집니다.-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P63
좀 더 깊게 생각해본다면, 일은 기계가 하고 각 담당자가 이전의 결재자나 점검자의 역할을 맡는 것이라고 볼 수 있습니다. 에이전트들의 에이전트까지 나오게 된다면, 인간 관리자라는 직업은 한때 인류사에 존재했던 직업으로 불리게 될지 모릅니다.-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P63
여기서 가장 큰 교훈은 누군가가 가치를 만들어나간다면, 그리고 그 가치가 큰 규모로 성장한다면 곧 그 자리에 또 다른 이가 도전해온다는 것입니다. 그리고 도전자가 AI 기반으로 운영의 경비가 현저히 적은 시스템이라면 부가가치는 급속히 와해된다는 사실을 다시 한번 확인할 수 있습니다.-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P72
경량문명에서는 담당자들이 업무의 중심으로 올라서며, 자신의 일을 스스로 하는 태도가 모든 직장인의 덕목으로 자리 잡을 것입니다.-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P78
세상의 규칙과 시스템이 기존의 직업을 갖도록 돕는 것이 아니라, 스스로 자신의 업을 만들어나가도록 돕는 것이 경량문명 세상의 가장 큰 변화입니다.-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P83
만남의 목적이 가족이 되는 것이 아니라 정서적 유대감을 가지는 성긴 만남, 혹은 긴밀한 관계로 다양해지면서 ‘가족-직장동료-친구’로 단출하게 구성되었던 사회적 관계망이 ‘가족-연인-직장동료-친구-동호인-지인’과 같은 다양성으로 분화합니다-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P103
자신의 삶을 살아가는 핵개인들에게 다른 종의 동반자를 찾는 일도 급속히 증가하고 있습니다. 애완에서 반려로 이름이 바뀐 강아지와 고양이는 이제 소중한 가족의 일원으로 불리고 있습니다-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P103
이제는 ‘하기 힘든 일’과 ‘할 수 없는 일’을 잘 고민하고 찾는 이들에게 더 많은 기회가 오는 시대가 열리고 있습니다.-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P46
앞에서 설명한 두 가지 지능의 근원적 차이는 부지런한 지능은 행위를 병렬화해 시간을 단축하고, 초월적 지능은 무수한 데이터 속 패턴을 찾아 우리가 모르던 깨달음을 전한다는 것입니다.-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P46
AI에 일을 ‘시키는’ 것이 아니라 ‘나눈다’는 점이 중요합니다. AI와 일을 현명하게 나누려면 오랜 기간 천천히 똑똑해진 인류의 입장이 아닌, 실시간으로 진화하는 지능에 적응해야 함은 물론입니다.-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P47
이러한 시스템은 태스크포스팀Task Force Team의 개념을 완전히 상시화하게 만들어, 물리적 사무실, 회의실, 프로젝트 관리자 없이도 진행되는 ‘자율 실행형 업무 프로젝트 시스템’으로까지 나아갈 것입니다.-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P56
같은 조직을 구성하고 있는 사이 좋은 소수의 사람들이 눈과 몸으로 이야기하며 서로 돕는 것이 아니라, 한 번도 본 적 없는 수많은 이들이 일정한 규칙과 미리 정의된 행동 양식으로 서로가 잘 때에도 협력하는 거대한 하이브를 만들어낸 것입니다.-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P56
기계와 함께 문제를 풀어가는 이 시대에는 잘 정의된 태스크task가 새로운 협업의 중심이 됩니다. 시대는 무거운 조직에서 벗어나, 가벼운 연결을 향해 진화하고 있습니다.-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P57
그보다 에이전트의 도움으로 고객이 직접 업무를 처리할 수 있는 체계를 갖추는 것을 더욱 고민하기 시작했습니다.-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P60