LLM에 대한 기본적인 접근부터 고급기술까지

쉽고 빠르게 익히는 실전 LLM - ChatGPT 활용부터 LLM 파인튜닝, 임베딩, 고급 프롬프트 엔지니어링까지 I LLM FAQ, AI/ML 용어 해설집 수록
시난 오즈데미르 지음, 신병훈 옮김 / 한빛미디어 / 2024년 2월

  작년 한 해를 후끈 달아오르게 하고 이제는 노말이 되어가는 생성형 AI들은 신기하기만 하다. 그들은 엄청난 규모를 자랑하는 서버에서 자신들만의 모델을 만들어 가고 있다. 대화형 AI들은 굉장히 광범위한 학습을 하게 되는데 이를 위한 대규모 언어 모델(Large Language Models)을 LLM이라고 한다. 덱스트의 이해와 분석을 중심으로 하는 고급 기술이기도 하다. 많은 양의 학습 데이터가 필요하기 때문에 붙여진 이름이기도 하다.

  LLM의 원리와 이해가 담겨 있는 이 책은 한빛미디어의 지원으로 읽어볼 수 있었다.

  AI와 대화하는 것은 나름 흥미롭다. 기존의 헬퍼 형식의 chatbot들과는 다른 꽤나 다양한 주제에 대한 얘기를 할 수 있다. 하지만 그것이 어떻게 작동하는지는 꽤나 어려운 일인 것 같다. 

  대부분의 LLM 모델은 트랜스포머 아키텍처로부터 시작되었지만 그 특성에 따라 일부만 취해 학습을 진행해 왔다. 몸집을 가볍게 하여 각자의 특기를 가지려고 하는 것 같다. 모든 것을 학습한다는 것은 어려운 일이고 많은 자원이 필요하기 때문이다. 그런 면에서 보면 인간의 뇌는 정말 대단한 것 같다. 

  이 책은 기본적으로 어렵다. LLM 자체가 쉽지 않아 보이는 것도 사실이고 꽤나 다양한 모델과 접근법이 머릿속에 잘 이해가 되질 않는다. 기본적인 학습이나 동작은 알 것 같지만 꽤나 고급적인 부분까지 파고드는 느낌이라 어느 부분에서는 전혀 이해하질 못해 그냥 텍스트만 읽었다. 사실 입문조차 제대로 안 한 상태여서 그럴지도 모르겠다.

  책을 읽으면 LLM이라는 것을 어떻게 접근해야 할지 조금 알 수 있고 LLM들의 특징과 그들이 만들어내는 오류들도 이해할 수 있게 된다. 어떻게 사용하는 것이 더 나을지라는 고민에 약간의 해법을 줄 수 있을 것 같다.

  개인적인 역량이 부족하여 책을 소화하기에 어려움이 있었지만 LLM에 대한 관심은 더 깊어진 것 같다. 

  LLM의 기초부터 고급 프롬프터 엔지니어링까지 다채로운 부분에 대한 접근이 있으니 관련 분야를 정복하려는 사람들에게는 충분히 좋은 책이 되지 않을까 싶다.

"한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다."

기술자가 대우받는 기업, 포스코 24명의 명장 이야기

포스코명장 - 세계 최고 철강사를 만든 사람들의 불꽃 같은 도전
포스코커뮤니케이션실.한득춘 지음 / 비엠케이(BMK) / 2023년 12월

  기술자가 대우받지 못하는 대한민국에서 이런 책이 있다는 사실만으로도 큰 위로가 된다. 이 책은 제목에서 알 수 있듯 POSCO의 역사를 쓴 사람들의 이야기다. 글을 쓴 곳도 POSCO다. 이 회사가 기술자를 얼마나 진심으로 생각하는지 알 수 있는 대목이다. 명장이라는 칭호로 불러주고 대우해 주는 회사의 정책은 박수받아 마땅하다.

  24인의 포스코 명장의 이야기를 담은 이 책은 bmk 출판사의 지원으로 읽어볼 수 있었다.

  이제 포스코는 세계적인 제철소다. 일본 제철소들이 세상을 호령하던 시대도 있었지만 꾸준한 기술 추격으로 위치가 역전되었다. 기술 하나 배우려고 아등바등하던 시대가 엊그제 같은데 감개무량하다. 그 속에는 도전과 배움을 게을리 않았던 수많은 기술자들이 있었을 것이다. 물론 이것은 포스코만의 것은 아닐 것이다. 그리고 그들을 명장이라고 불러주는 것 또한 많지 않을 것이다.

  패스트 팔로워의 시절, 즉 추격자의 시대에는 빠르게 선진 기술을 따라가는 것이 국가적인 과제였다. 나 또한 국가의 그런 정책의 혜택을 받으며 국산화를 진행했다. 당시의 도전은 국가적인 과제였기도 했다. 그리고 그런 분위기 속에서 두각을 나타내는 명장들이 나타난 것이다.

  이 책은 사실 포스코적인 이야기며 철강 산업의 이야기다. 꽤나 전문적인 이야기가 나오기 때문에 기술적인 부분은 읽고 이해하기는 어려운 면이 있다. 대신에 명장들이 일을 대하는 자세, 기술을 전하려는 행동 그리고 마인드 등은 많은 부분 공감할 수 있다.

  매일 하나씩 배우려고 했던 명장들의 공통점, 필요하기 때문에 배웠다는 간절함. 열심히 하는 것보다 잘하는 게 중요한 세상이지만 많은 배워놓지 않으면 잘할 수 없다는 것을 얘기해 준다. 하지만 그들은 권위적이지 않은 듯하다. 명장이라는 호칭의 무게를 느끼며 더 많이 공부하려 한다. 그리고 후배들에게는 강압적인 것이 아니라 스스로 행동함으로써 후배들에게 전달되기를 기대한다고 한다.

  가장 감탄한 마인드는 제안하면 그 일이 자신에게 돌아오는 것에 대한 자세다. 명장들은 제안한 사람이 그 일에 대해 가장 많이 고민하고 잘할 수밖에 없기 때문에 그 일이 제안자에게 돌아온다는 것이었다. 그리고 그것은 어쩌면 스스로 만들어낸 기회일지도 모른다. 성공할 수도 실패할 수 도 있지만 그 속에 분명 배움이 있을 것이다. 

  사실 뭔가를 처음부터 해볼 수 있는 기회는 흔치 않다. 명장들 중에는 그 기회를 잡기 위해 광양 제철소를 처음 지을 때 지원해서 간 사람들도 있었다. 지금의 시대는 그런 기회는 더더욱 없는지도 모르겠다. 하지만 무언가를 향한 관심과 필요 그리고 그것을 위한 노력은 시대 불변이라고 할 수 있다. no risk no gain의 법칙은 고리타분해 보일지 몰라도 대체로 벗어날 수 없는 진리가 아닐까 싶다.

지방 소멸에 대처하는 콘텐츠의 힘

기획회의 601호 : 2024.02.05 - #2024 로컬 담론
한국출판마케팅연구소 지음 / 한국출판마케팅연구소 / 2024년 1월

  기획회의 601호는 <로컬>에 관한 얘기다. 한국의 절반의 인구는 수도권에 집중되어 있다. 지방 소멸의 문제는 꽤 오래전부터 얘기되고 있다. 노무현 대통령이 세종으로 이전을 하려고 했던 이유 중 하나도 그것이며 부산권 메가시티, 광주권 메가시티 얘기가 나오는 이유도 그것이다. 하지만 최근 김포를 서울에 편입하겠다는 등의 에피소드는 여전히 서울 중심의 관심을 파괴할 수 없다는 것을 알 수 있다. 가장 많은 인구 가장 많은 의석이 있기 때문일 것이다.

  지역 소멸과 로컬 콘텐츠에 주로 얘기하는 기획회의 601호는 한국출판마케팅연구소 지원으로 읽어볼 수 있었다.

  지역 소멸은 수도권 집중화와 저출산이 겹침으로서 가속화되고 있다. 지방 대학들은 폐교를 진행하고 있고 지방의 젊은이들은 서울로 향하고 있다. 인프라가 수도권에 집중되다 보니 계속해서 사람이 모이고 또 투자가 모인다. 지방은 어떻게 살아남을 것인가에 대해 고민해 볼 수밖에 없다.

  지방을 살리는 가장 즉각적인 방법은 공공기관, 공기업의 지방 이전이 있다. 물론 연관성과 계획이 있어야 한다. 무작정 가라고 하는 것은 잘못된 방법이다. 결국 지방 도시라는 것은 테마가 필요한 게 아닐까 생각이 든다. 금융의 도시라든지 의료의 도시, 법률의 도시와 같은 이미지가 필요하지 않을까? 사실 지금과 같은 인터넷 시대에 어디에 있든 크게 중요하지 않을 것 같다. 되려 서울 중심에 있다는 게 더 손실이 아닐까? 

  테마라는 것은 결국 콘텐츠가 아닐까 싶다. 제주 한 달 살기와 같은 콘텐츠는 제주를 하나의 브랜드로 만들어가고 있다. 그 속에서 원주민과 이주민 사이의 문화적 충돌이 없는 것은 아니겠지만 제주는 힐링과 예술의 도시가 되었다. 최근에 핫한 양양은 서핑의 도시로 거듭났다. 강릉은 커피의 도시로 이름을 알리려 노력하고 있다.

  지방의 콘텐츠는 하나의 브랜드가 될 뿐만 아니라 그 자체로 지방 문화를 남길 수 있는 힘이 될 수 있다. 지방 문화에 이바지할 수 있는 것 중에 하나는 바로 지방 출판이다. 지방의 대소사를 글로 남기는 일은 중요하다. 그 자체로 하나의 역사가 될 수 있다. 이미 우리는 축소 사회로 접어들고 있고 지금은 일본보다 더 빠르게 축소되고 있다. 소멸지수 1위인 한국의 대처는 곧 전 세계의 본보기가 될 수 있다. 우리는 제대로 할 필요가 있다.

  600호 이전까지는 대체로 문학적인 부분만을 다루려는 느낌이 있었으나 이번 호부터는 약간 '창작과 비평'의 냄새가 나기도 했다. 하지만 뜬금없이 등장한 정치 칼럼은 갸우뚱할 수밖에 없다. 무슨 말을 하고 싶다는 걸까? 민주주의는 토론하며 정해 가는 정책이다. 상대가 전혀 그럴 생각이 없다면 그대로 진행하는 것도 하나의 절차상 민주주의라고 할 수 있다. 우리나라는 아직 휴전 상태라 강력한 대통령제가 필요한 것도 사실이지만 여러모로 선거 제도는 바뀌어야 할 것 같다. 겉멋만 좋은 정책은 지금 극단적으로 쪼개진 상황에서는 아무런 도움이 되질 않는다.

  그 외에도 여러 책들을 소개해주고 있다. 북마녀님의 웹소설 프로듀싱 시리즈도 계속 연재되고 있다. 가장 눈에 띄는 건 '보통 이하의 것들'이라는 책이었고 '지루하면 죽는다'라는 제목은 꽤나 눈길을 끌었다. 그리고 '세계는 진정 무엇이 되려 하는가?'에서 소개된 여러 책들과 글이 눈길을 끌었다.

  이번 601호는 약간 새로운 도전을 하는 듯한 느낌이 들었다.

세상과 수학이 친해지는 시간

다정한 수학책 - 내 안에 숨겨진 수학 본능을 깨우는 시간
수전 다고스티노 지음, 김소정 옮김 / 해나무 / 2024년 2월

  나는 수학을 참 좋아했다. 그래서 늘 수학과 과학 성적은 좋았지만 영어 성적이 형편없었다. 그땐 영어가 왜 그렇게 재미없었는지.. 공부라고 생각해서 그랬던 것 같다. 지금은 그 정도까지는 아닌데 말이다 (잘하고 싶을 정도다). 아마 수포자의 마음도 나와 같지 않을까? 갑자기 닥쳐버린 큰 벽처럼 느꼈을지도 모르겠다. 그 딱 떨어지는 값이라는 게 수학의 매력인데 말이다.

  수학은 어떤 학문인지 다시 한번 느끼게 해 준 이 책은 해나무 출판사의 지원으로 읽어볼 수 있었다.

  이 책이 다정하다고 얘기할 수 있느냐 하면 약간은 문학적으로 쓰인 수학 이야기라서 그랬던 것 같다. 수학의 개념을 이해하려는 것이 아니라 수학에 이런 것이 있어라고 얘기해 주었다. 독자에게 굳이 다 이해해야 한다는 얘기를 하지 않았다. 마치 옛날이야기처럼 수학의 여러 이론들을 소개해 주고 있다. 그리고 수학적인 해답보다 철학적인 답을 달아 두었다. 수학철학이라고 해야 하나(과학 철학도 있는데 뭐..)

  굉장히 어려운 이론들도 쉽게 설명한다. 우리가 보는 현상들은 그렇게 어렵지 않으니까. 현상들로 설명하면 되려 쉽다. 우리 같은 일반인들이 굳이 그 증명을 알아야 하는 건 아니니까. 이런저런 현상에는 이런저런 이론이 적용된다는 이야기는 그렇게까지 어렵지 않으니까.

  이런 책을 굳이 이해하려 읽을 필요는 없다. 그냥 훑어보다가 맘에 들면 쳐다보고 궁금해지면 더 찾아보면 된다. 이야기 책이 아니기 때문에 아무 챕터나 열어 보면 된다. 나는 카오스 이론 설명하는 부분에서 참 쉽게 설명되었구나를 알게 되었다. 물론 마지막에 내어주는 문제가 쉽지는 않다.

  어른들보다 아이들이 읽으면 더 좋지 않을까라는 생각을 하게 된다. 이 책은 호기심을 유발하고 수학이라는 과목을 조금이나마 친근하게 만들기 위해 쓰인 것 같았기 때문이다. 그렇게 호기심을 가지게 되면 수학에 흥미를 느끼는 사람들이 점점 많아지게 될 것이기 때문이다.

  어떻게 보면 숫자로 표현할 수 없는 건 아직 알 수 없는 걸지도 모르겠다. 사실 그 과정이 참 매력적인 학문이다. 지금의 우리 현실은 공식과 풀이를 달달 외워 푸는 방식이라 안타깝다. 그건 기계가 더 잘하니까. 공식을 유도하고 증명하는 것이 수학의 찐 재미다. 그러려면 이런 책들이 많이 필요하다. 흥미를 느끼고 필요를 느낄 때 비로소 시작할 수 있으니까.

  많은 교양서적 속에 끼어서 아이들에게 읽혀주고 싶은 책이다. 당장 딸에게 읽어보라고 권할 생각이다.

우주를 향한 인류의 사랑을 그림으로 만나는 시간

코스미그래픽 - 인류가 창조한 우주의 역사
마이클 벤슨 지음, 지웅배 옮김 / 롤러코스터 / 2024년 1월

  우주는 내가 가장 좋아하는 테마 중에 하나다. 나도 한 명의 인간으로 본능적으로 하늘을 바라보게 되는 것 같다. 요즘은 별 보기가 쉽지 않다(별인지 인공위성인지 구분도 안된다). 어릴 적 시골에 살아, 여름 깊은 밤에 집 앞 평상에 누워 하늘을 올려다보면 정말 헤아릴 수 없을 만큼 많은 별들이 있었다. 모든 생물은 빛나는 것에 관심이 있는 것 같다. 우주와 그 속의 수많은 항성과 행성들은 인류의 주요 관심사였던 것 같다.

  천문학의 역사를 예술 작품과 함께 살펴보는 이 책은 롤러코스터 출판사의 지원으로 읽어볼 수 있었다.

  인간에게 하늘과 땅은 의미를 부여하기에 충분했다. 많은 신화들에서 신들은 그 하늘과 땅에 관련이 있다. 그리고 우리가 딛고 있는 땅이 아닌 닿을 수 없을 듯한 하늘은 동경의 대상이고 두려움의 대상이었다. 너무 강렬해서 제대로 쳐다볼 수 없었던 태양은 그 자체로 위대함을 가지고 있었다. 많은 고대 종교들이 태양신을 숭배했던 건 어쩌면 당연했다. 성탄절은 로마의 태양의 부활절과 같다. 대부분의 유일신은 태양신에서 파생되어 나왔다는 합리적인 생각을 해볼 수 있다. 그에 반해 달은 여러모로 관찰하기 좋았다. 그래서 태양보다 달에 대한 썰이 더 많은 것인지도 모르겠다. 

  책을 여는 순간 황홀하다. 이렇게 넓은 판형으로 멋들어진 그림을 만날 수 있기 때문이다. 그동안 글로 만났던 수많은 자료들의 원본을 만날 수 있다. 과학이라고 쓰지만 예술 작품이다. 당시의 과학자들은 대부분이 의사이면서 천문학자고 물리학 자면서 화학자였다. 그리고 철학자이기도 했기 때문이다. 

  우주는 아무런 도구 없이 관찰할 수 있는 것 중에 하나였다. 도구가 발달할수록 더 많은 것을 보게 되었지만 우주라는 것은 인간을 겸손하게도 했고 무궁무진한 상상의 나래를 펼치게도 해주었다. 종교의 영향으로 자율성이 한동안 사라지기도 했지만 인류의 우주에 대한 관심은 사그라들지 않았고 또 앞으로 나갈 수 있게 되었다.

  이런 과학사의 한 편을 그래픽으로 만나는 것은 즐거운 일이다. 글로만 보아오던 고대의 생각이 그림으로 보는 순간 더 많이 가깝게 이해할 수 있게 된다. 역사를 담고 있는 그림책이라고 할 수 있다. 과학사를 이미지화할 수 있는 좋은 책이었다. 이건 가지고 있는 것만으로도 푸근하다.