중고등학교 교육은 문해력이든 수학적 사고력이든 그때 배운 지식을 쓰려고 하는 게 아니라 사고하는 과정, 문장을 이해하고 쓰는 사고력을 배우는 것이라고 생각합니다. - P87
사고력을 기른 다음에 AI의 도움을 받는 쪽으로 가야지 AI에 의존하는 것부터 시작하면 위험합니다. - P87
지난 수천 년 동안 수학을 발전시켜 온 동력 중 하나는 자연과학, 공학 등 인접 분야와의 교류를 통한 자극, 다른 하나는 수학적 완결성과 아름다움에 대한 추구였다고 생각합니다. 이렇게 발전한 수학이 AI의 기초가 되었고, 따라서 같이 갈 수밖에 없는 시대입니다. 수학과 AI는 이제 한 몸이 되지 않을까 싶습니다. AI는 마술이 아니라 수학이라고 생각합니다. - P88
아무도 답을 모르고 문제 자체가 맞는 문제인지도 모르는 상황에서는 인간의 창의성이 핵심입니다. - P89
소재와 설정에 대한 기존의 탐구와 이해를 파헤쳐서 통념과다른 무언가를 발견하는 것 - P94
언어모델 AI의 재미있는 점은 아직 알려지지 않은 내용에 대해서 ‘그럴싸한‘ 답변을 어떻게든 쥐어짜내서 내놓아 준다는 것입니다. 이것은 진짜 현실에서 정말 존재하는 것을 리서치해야 하는 사람들에게는 일종의 환각으로서 단점일 수 있습니다. 하지만 소설을 쓰는 사람은 독자를 속일 수 있는 그럴싸한 거짓말을 쥐어짜내는 게 목표이니, 존재하지 않는 것에 대해 언어모델 AI가 내놓는 ‘억지 리서치‘가 소설의 개연성을 보강하는 데에 도움이 됩니다. - P95
뭘 물어야 하는지 잘 모르고 막연할 때 질문을 좁히는 용도로 유용한 듯해요. 집필에 대한 집중도를 높여주는 느낌이에요. 충분한 리서치를 거쳐 구상한 다음, 초고에서는 세부사항을 생략해 가면서 이야기를 쭉 쓰고, 수정고에서 세부사항을 채워 넣는데요, 이 수정고를 쓸 때 집중도가 높아지더라고요. - P97
저는 문학적인 글이라는 것이 어느 정도는 통념을 깨거나,
흔한 것을 낯설게 인지하게 만들거나, 낯선 것을 익숙하게 하는 등 우리가 일상적으로 세계를 보는 방식을 흔들어놓는 것이라고 생각해요. - P101
현재의 언어모델이라는 건 확률적으로 최적화된 개연성이 높은 답변을 출력하는 것이고 그렇게 유도된 메커니즘, 그리고 그렇게 의도된 훈련 데이터를 가지고 만들어지죠.
즉 어느 정도는 통념에 종속된 모델이라고 할 수 있어요. 이걸 국소적으로는 깰 수 있죠. 예를 들면 엄청나게 독특한 인풋을 넣으면 답변이 독특하게 나와요. - P101
리서치할 때 ‘아직 현실에는 없지만 가능성을 밀어붙이면 그럴싸하게 답변할 수 있을 정도의‘ 질문을 던지면, 실제로는 가능하지 않아도 있을 법한 내용을 지어내는 그런 수준은 가능해요. 그런데 문학은 문장이나 문단 단위로 하는 것이 아니죠. 결국 긴 분량에서, 전체를 한 번에 보면서, 통념이라는 것이 무엇인지 메타적으로 인지하면서 국소적으로는 그 통념을 깨는 행위를 할 수 있어야 하는데, 일단 현존 언어모델은 기억 가능한 메모리의 양, 한번에 출력 가능한 분량, 출력 메커니즘 전부가 이걸 달성하기에 부족한 것 같아요. - P101
제가 알기로 언어모델의 출력은 메이저 모델에서는 항상 순차적이에요. 인간은 초안을 쓰고 고치고, 또 문장을 쓰는 도중에 앞으로 돌아가서 수정하고, 이 과정을 문단, 장, 단행본 전체 범위에서 할 수 있는데 언어모델은 한 번의 출력 범위안에서도 그게 안 된다는 거죠. - P102
문학을 통해서 무언가를 낯설게 만들거나, 통념을 깨거나, 낯선 것을 익숙하게 만드는 작업은 ‘특별한 문장+특별한 문장+특별한 문장‘으로 수행되는 게 아니라 평이하기도 하고 낯설기도 한 수많은 문장의 조합을 통해서, 그 전체 효과를 계속해서 인지한 상태에서 전체의 조율과 삭제, 생략과 더하기를 통해서 얻어지는 것이거든요. 그래서 언어모델의 순차적인 생성, 그리고 전체에 대한 인지 (앞으로 쓰려고 하는 내용을 미리 인지한 상태에서 지금의 문장을 조율하고 선택하는 능력) 부족이 문학적인 글쓰기의 걸림돌이 되는 게 아닐까 짐작해 봅니다. - P102
AI가 쓴 글에 사람들이 관심이 없는 것은 AI가 저자로서 감수하는 위험이 없기 때문인 것 같아요. 뭔가를 주장하거나, 내세우거나, 표현하는 건 항상 위험을 감수하는 일이기도 하잖아요. - P103
이것도 맞고 저것도 맞아, 이럴 수도 있고 저럴 수도 있어, 누군가 이런 주장을 한다면 사람들의 흥미를 못끄는데요. AI는 이것도 저것도 프롬프트만 입력하면 뭐든 주장해 줄수 있죠. "AI가 쓴 글은 다 쓰레기야!" 이렇게 강력하게 주장하면, 주장한 사람은 굉장한 위험을 감수하는 것이고 (쓰레기가 아닐 수도 있으니까!) 동시에 이 글과 그 저자는 관심을 받게 되겠지요. - P103
AI를 도구로 활용하려면 최소한 자기 영역에서는 AI와 동등한 역량이 있거나 AI의 답변을 정확하게 분별할 수 있는 능력이 필요합니다. - P105
"초고 3천 자를 쓰는 동안은 AI를 쓰지 않고 스스로 쓴다" - P105
사실 단편 하나를 쓰려면 3천 자를 일곱 번 써야 하거든요. - P105
‘AI를 문학 글쓰기에 활용하면 안 된다‘는 윤리나 도덕보다는 ‘그렇게 하면 글이 재미가 없고, 난 작가가 될 수 없다‘, 이런 생각이 더 현실적일 것 같습니다. - P105
‘글‘이라는 게 수많은 매체 중에 가장 머리를 써서 공들여야 내용을 확인할 수 있다 - P106
AI에 대한 균형감각을 가진 사람들이 AI를 무작정 기피하거나 비관하기보다 더 잘 이해하고 그 한계와 가능성을 정확하게 파악하는 것이 필요하다고 봐요. - P108
VST(Virtual Studio Technology) - P116
스포티파이는 미래형 컬렉션인 것 같아요. AI가 추천한 미래형 아카이브라는 게 너무 애들한테 중요한 일상이 됐어요. 학생들 보면 플레이리스트가 자기 자신이에요. 그래서 플레이리스트가 최신 트렌드인 줄 알았는데 바뀐 거예요. 이제는 존재하지도 않는 음악을 맞춤형으로 생성하는 시기가 된 거죠. 그 바뀌는 주기가 3개월 정도? 6개월이면 옛날인 셈이에요. - P120
AI로 인해 바뀌는 사회에 맞추어 또 다른 인간의 시야가 생길 것 - P121
변화될 사회를 예측해 보고 내가 어떤 선택이나 행동을 할 수 있는지를 더 보고 싶은 것 같아요. - P121
사람은 악기를 연주하는 과정을 종합하면 음악이 된다고 생각하는데, AI는 악기들이 아니라 그냥 사운드로 재현하는 거예요. 그게 새로운 아이디어를 주는 것 같아요. 악기의 총합이 음악이기도 하지만 어떤 주파수들의 합성도 음악으로 나타나는 거죠. - P122
고통이라는 게 자기 생명을 보호하기 위한 어떤 비상 상태의 신호잖아요. - P125
너무 인간 위주로 생각하는 것을 경계하자 - P128
‘갓‘은 변해가는 것들의 첫 순간에 붙이는 말입니다. 이 순간은 아직 일어나지 않은 일들을 품고 있어서 기대와 두려움이 교차합니다. - P130
미래에도 과거와 마찬가지로 인간과 기계[사물]는 서로 대립하는 것이 아니고 함께 보완적으로 존재하면서 세계를 구성해 나갈 것 - P133
"나의 경험을 진실하게 전달하기 위해서는 새로운 언어를발명해 내야만 한다." - P139
"교육받은 자아, 사회화된 자아 안에 잠들어있는 더 진실된 자아가 가리키는 방향을 찾아가는 일이다." - P139
지금껏 학교에서 배운 교과서적 글쓰기, 차곡차곡 개념을 정리해서 건축물처럼 쌓아올린 글쓰기, 핵심문장을 밑줄 치게 만드는 글쓰기를 머리-글이라고 한다면 물 흐르는 듯이 내 진실된 감각을 믿고 의식의 흐름대로 쓰여진 글을 몸-글이라고 했다. - P139
우리는 세상을 다시 써야 한다. 내밀한 나의 이야기를 당당히 써야 한다. - P141
군집은 웹 공간을 허위 정보로 가득 채워 LLM의 학습 데이터를 오염시키는 전략도 사용할 수 있다. 이렇게 되면 미래의 인공지능과 시민 모두가 의존하게 될 인식 기반 자체가 왜곡될 수 있다. - P149
빙하는 지구의 역사를 담고 있는 타임캡슐로 불린다. 눈이내려 쌓일 때의 공기가 고스란히 담겨 있기 때문이다. 공기 속 이산화탄소와 메탄 등의 농도를 분석하면 과거 지구가 따뜻했는지, 혹독하게 추웠는지 단서를 얻을 수 있다. - P167
인류는 빙하에 남아 있는 기록을 더듬어 80만 년 전 기후까지 복원해 내는 데 성공했다. 덕분에 이산화탄소 농도에 따라 기온 그래프가 움직이며 빙하기와 간빙기가 주기적으로 찾아왔다는 것을 알게 됐다. 급격한 기후 변화의 책임이 인간에게 있다는 사실도. - P167
오래된 빙하를 손실없이 온전하게 시추했다는 얘기는 가혹한 추위를 암시한다. - P167
남극 조약은 남극에서 군사 행동이나 영유권 주장을 금지하고 평화적이고 과학적인 목적으로만 사용할 수 있게 한 국제협약이다. - P168
아이스 메모리 프로젝트는 빠르게 녹고 있는 전 세계 빙하를 시추해 안전한 곳에 보존하자는 국제 공동 사업이다. 프랑스와 이탈리아의 주도로 유럽의 스위스와 독일, 노르웨이, 스페인, 그리고 중국, 일본, 러시아, 미국, 인도 등이 참여하고 있다. - P168
빙하를 보존하는이유는 빙하가 단순한 얼음이 아니기 때문이다. 물론 빙하는 지구에 존재하는 담수의 3분의 2를 저장하고 있는 수자원이기도 하지만, 과거와 미래의 기후 연구에 활용될 수 있다는 점에서 그 가치가 무궁무진하다. - P168
매년 평균 580억 톤의 빙하가 녹으면서 지구의 해수면 상승에 5% 정도 기여하고 있다. - P168
빙하가 모조리 사라지거나 훼손되기 전에 온전한 빙하라도 잘 보존해 후손들에게 전해주자는 것이 바로 아이스 메모리 프로젝트의 목적이다. 과거의 소중한 유물을 박물관에 보관하는 것처럼 말이다. 미래 세대에게 과거의 기록이 담겨 있는 빙하를 전해줌으로써 기후에 대한 정보를 공유하고 다가올 기후를 연구할 기회를 제공할 수 있다. - P169
유네스코가 빙하 보존에 목소리를 높이는 이유는 빙하가 과거의 기록을 담고 있는 인류 공동의 유산이기 때문이다. 빙하 자체를 유산으로 지정하지는 않았지만, 빙하가 포함된 세계자연유산은 50여 곳에 이른다. 스위스 알프스의 융프라우-알레치, 미국 알래스카 랭겔-세인트 엘리아스 국립공원, 뉴질랜드 통가리로 국립공원 등이 세계자연유산으로 지정된 대표적인 빙하지대다. - P170
아이스 메모리 재단은 2016년 프랑스 알프스를 시작으로 남미 볼리비아와 러시아, 중앙아시아의 파미르 고원, 북극 스발바르 제도, 아프리카의 탄자니아에 이르는 전 세계 곳곳에서 산악빙하를 채집해 왔다. - P170
빙하를 보관하는 장소로 남극을 선택한 이유는 여러 이점이 있기 때문이다. 지구에서 가장 추운 남극 돔 C 주변은 평균 기온이 영하 50℃에 머물기 때문에 이보다 더 좋을 수는 없다. 전기 공급 없이도 빙하를 온전히 지켜낼 수 있는 천연 냉동고라고 할 수 있다. - P171
남극에 빙하 보존소가 있다면 북극 스발바르 제도에는 국제 종자 저장고(Svalbard Global Seed Vault)가 있다. 전쟁이나 재난으로 식량작물의 종자가 사라질 경우에 대비한 금고 같은 곳이다. 우리나라를 비롯해 전 세계에서 온 씨앗이 보관되어 있다. 북극 영구동토의 차가운 암반 아래 지은 지하 동굴은 항상 영하 18℃를 유지해 종자를 최상의 상태로 보관할 수 있다. 인류의 생존을 위한시설이다 보니 ‘노아의 방주‘로 불리기도 한다. - P171
스발바르 종자 저장고가 ‘생명‘의 백업이라면 아이스 메모리 보존소는 ‘증거‘의 백업이라고 할 수 있다. 기후 변화가 자연에 남긴 과학적 증거를 담고 있기 때문이다. - P172
‘터‘는 사건의 조건이고 바탕입니다. 과학도 사람들 사이의 관계와 물리적 조건이라는 ‘터‘ 위에서 일어납니다. - P174
세계 최대 전기전자공학자 단체인 IEEE는 AI(인공지능)라는 단어가 줄 수 있는 불필요한 의인화 등을 우려하여 AI라는 용어보다는 A/IS(Autonomous Intelligent System), 즉 ‘자율지능 시스템‘이라는 용어를 선호한다. - P177
우리는 미래를 생각할 때 종종 같은 실수를 반복한다. 아직 오지않은 시간을 상상하면서도, 현재의 사고방식을 그대로 가져가는 것이다. - P180
|