(딥러닝) 트랜스포머로 시작하는 자연어 처리

트랜스포머로 시작하는 자연어 처리 - 자연어 처리 기초부터 BERT, RoBERTa, 코파일럿, GPT-4 모델까지
Denis Rothman 지음, 김윤기 외 옮김 / 영진.com(영진닷컴) / 2024년 7월

서평

1.

트랜스포머는 4년도 채 되지 않아 30년 동안 달성한 모든 기록을 경신했다. 음성 인식, 번역, 단백질 시퀀싱, 코드 작성 등 모든 분야에서 새로운 애플리케이션을 위한 기본 구성 요소로 사용된다.

근래 머신러닝에 대한 관심이 높아지고, 기술이 발전함에 따라 반복적인 작업을 자동화하려는 경향성이 높아지고 있다. 트랜스포머는 모든 인공지능 분야의 기본 소양(4)이라고 하니 한 번 배워볼 만 할 것이다.

2.

자연어 처리(NLP)는 인공지능을 대표하고 있는데, 트랜스포머는 자연어 이해(NLU)의 판도를 바꾸고 있다. ​4차 산업혁명 시대라는데, 대표적인 트랜스포머를 사용하는 애플리케이션 중 하나는 구글 번역이다.

3.

책에서는 트랜스포머를 사용한 기계번역, 법률 및 금융 문서에 트랜스포머를 적용하여 요약하기, 데이터가 말하게 하기, 고객 감정을 감지해 예측하기, 가짜 뉴스 분석하기 등 실질적인 내용을 다룬다. 그러다보니 쉽지는 않다.

책에서는 정리하기, 퀴즈 등을 통해서 내용을 숙지했는지에 대한 판단을 스스로 해볼 수 있다. 또한, 참고 문헌까지 세세하게 정리되어 공부를 하기에 딱 적합할 것이다.

4.

저자는 인공지능, 기계학습, 자연어 처리 분야에서 나름 유명한 사람이라고 한다. 특히 트랜스포머 모델과 관련된 작업으로 유명하다고 한다. 책을 읽으면서(사실 실습을 해보면서 하려고 했으나 시간적 소모가 너무 커서 시도를 못하였..) 최신 기술을 딥러닝 애플리케이션에 접목해 볼 수 있는 눈을 키울 수 있었던 것 같다.

★생각나는 구절

★질문 한 가지

★추천해주고 싶은 분

파이썬 프로그래밍에 익숙한 딥러닝 및 NLP 실무자(파이썬 조차 제대로 못 다뤘기에 이 책이 무슨 말을 하는지 제대로 이해 못 한 일인)

자연어 이해 도입을 우너하는 데이터 분석가

★독서 기간

2024. 7. 10. ~ 7. 18.

★함께 읽으면 좋을 책

★추천도(지극히 주관적인)

★★★★

p.s 출판사로부터 서적을 제공받아 주관적으로 서평을 작성하였습니다.

(식물) 다나카 오사무의 똑똑한 식물학 잡학사전

똑똑한 식물학 잡학사전
다나카 오사무 지음, 김수경 옮김 / 사람과나무사이 / 2024년 6월

#서평

1.

결혼하면서 처음 키우게 된 행운목과 함께 한 게 8년이 되어간다. 그 뒤로 식물을 좋아하게 되어 집으로 들이게 되어 방마다 식물과 함께 지내고 있다. 때로는 시들시들해졌지만, 아내의 관심과 사랑 덕분에 더욱 싱그럽게 자라나고 있는 콤팩타, 방마다 존재하는 행운목, 스투키, 스킵답서스 등 많은 식물들과 살아가며 좀 더 전문적으로 알아가고 싶은 마음이 들었다.  

2.

식물의 매력에 빠지기 위해 저자는 키워드 중심으로 책을 펼쳐간다. 5장 12테마를 가지고 시작되는 책에서는 소나무가 시작이다. 소나무는 쌍떡잎식물일까, 외떡잎식물일까부터 물관과 체관, 광합성곡선, 색소 클로로필, 발아의 조건 등 식물을 키우면서 한 번쯤 궁금하나 실제로 잘 찾지 않을 법한 내용부터 궁금했던 내용들이 다양하게 담겨있다(세계에서 가장 키 큰 나무는 미국 캘리포니아 레드우드국립공원에서 발견된 세쿼이아라고 하는데, 높이 115미터라고 한다).

3.

새싹이 위아래를 구분하는 능력이 있다는 부분에서 식물은 누군가가 알려주는 것도 아닌데, 이미 알고 있는 것이다. 빛을 차단한 채 수평으로 눕혀놓으면 줄기 끝이 위쪽으로 휘어진다는 사실(26)은 놀랍기도 하다. 또한, 접촉 자극에 따라 에틸렌이라는 기체로 통통하게 혹은 늘씬하게 성장한다는 것은 자연의 신비를 그대로 알려준다. 이를 교육적으로 생각해보면 자극이 없다면 기본이 없고, 자극이 있다면 기본이 탄탄하다는 측면으로 생각해봐도 좋지 않을까 싶다. 

4.

그리고 식물이 동물에게 뜯어먹혀도 끄덕없게 하는 정아우세(42)는 심리학에서 말하는 회복탄련성과 유사하지 않은가란 생각이 든다. 그리고 진화론에서 항상 이야기가 나오는 닭과 달걀 중 무엇이 먼저냐는 질문은 어렵지만, 씨앗과 식물 중 먼저는 식물(45)이다. 읽을수록 새롭다. 분명 초등학교 시절 배웠던 부분도 있을텐데, 기억이 정확하지 않은 걸 보면 수업을 열심히 들어야 함을 느낀다. 

5.

잎은 말라서 떨어지기 전 녹말과 단백질 등의 영양분을 수목 본체로 되돌린다(196)는 점은 생명의 신비를 다시금 느낀다. 꽃 향기가 아름답다고만 하는 이들에게 거부감을 줄 수도 있지만, 라플레시아는 벌이나 나비가 아닌 파리가 운반함을 선택했다. 삶의 방식이 참 다양함을 느낀다. 자기답게 살아가기 위한 지혜를 식물에게 다시금 배울 수 있는 시간이었다. 

★생각나는 구절

★질문 한 가지

★추천해주고 싶은 분

★독서 기간

2024.  6. 24. ~ 6. 29

★함께 읽으면 좋을 책

★추천도(지극히 주관적인)

★★★★

p.s 출판사로부터 서적을 제공받아 주관적으로 서평을 작성하였습니다.

(철학) 천경의 미셸 푸코의 실존의 미학, 내 삶의 예술가 되기

미셸 푸코의 실존의 미학, 내 삶의 예술가 되기 - 천경의 미셸 푸코 읽기
천경 지음 / 북코리아 / 2024년 6월

#서평

1.

주체의 해석학을 기본 교재로 하여 실존의 미학, 실존을 예술 작품으로 만드는 방법에 대한 천경 작가의 책이다. 천경 작가를 처음 알게 된 건 #니체의아름다운옆길 덕분이었다. 니체에 대해 편안하게 설명해주었던 기억이 생겨 미셸 푸코 또한 같은 느낌을 받을 수 있지 않을까 하여 펼치게 되었다. 추천사 중 나와 세상을 바꾸려는 천경 작가의 수행 혹은 리추얼의 결과물(6)에 해당되는 이 책이 독자에게 어떤 의미로 남을 지, 또 나에게 어떤 영향을 끼칠 지 기대된다.

2.

푸코는 프랑스 출신으로 1984년 58세에 AIDS로 사망했다. 대학 시절 과제였던 감시와 처벌란 제목을 접하며, 교육학에서 무슨 감시와 처벌이란 책을 읽게 하나라는 짧은 소리를 한 기억도 있다. 그리고 잊혀진 푸코는 대학원 시절 다시 만나게 된다. 푸코의 철학은 전기인 1960년대 지식의 고고학 시기, 중기인 1970년대 권력의 계보학 시기, 후기인 1980년대 주체의 윤리학 시기(8)로 나뉜다. 후기의 푸코는 권력-지식론에서 주체의 윤리학 쪽으로 이동하는 것이다. 

3.

주체의 자기돌봄에 대해 부드럽게 풀어 쓴 에세이(11)라고 표현하나, 그렇다고 쉽지만은 않다. 1부를 넘어가면 좀 나아지려나 했지만 내공이 부족한 탓인지 저자의 안내처럼 그 이후도 즐겁게만 읽히진 않는다. 약간의 긴장감을 가지고 한 글자라도 제대로 읽어보려고 노력했던 것 같다. 주체의 해석학이란 난해한 책을 천경스럽게 다뤘다. 1부에서는 통치성을 다루는데, 이 부분을 공들여 읽어야(28) 2부부터가 재밌다고 하니 작가의 안내를 따라갈 수 밖에 없다.

4.

1부가 잘 이해되었다면, 재밌다고 한 2부의 시작이다. 2부와 3부에서는 주체의 자기배려에 대해 이야기를 한다. 저자는 주체의 해석학 같은 책을 논한다고 하면 학술적이고 사변적인 글쓰기가 될 것으로 기대하는 사람들이 있을 것이다. 그러나 나는 신변잡담 수준으로 푸코의 철학을 이야기할까 한다(102)처럼 작가의 생각과 일화가 담긴 글쓰기로 책은 진행이 된다. 

5.

질 들뢰즈, 니체, 베르그손 등 다양한 철학이 등장한다. 때로는 윤동주의 시도 등장하고, 한병철 교수, 법륜스님도 등장한다. 폭넓은 생각을 배울 수 있을 것이라 생각된다. 무엇보다 자기배려, 자기인식의 개념을 읽다보며 시중의 책들이 자기계발 수준으로 접근하는 것에서 좀 더 깊은 이해를 가질 수 있었다. 언젠가 다시 한 번 펼쳐볼 책일 듯하다. 

★생각나는 구절

심신을 어지럽히는 것들로 둘러싸여 있는 사람이, 고요한 상태를 향한 안전한 길이 있음에도 불구하고 그 길을 찾으려 하지 않는다면, 그것은 길의 잘못이 아니라 순전히 그 사람의 잘못이다(45).

어느 스님의 고백이 생각난다. 아무리 공부해도 마음이 변하지 않아서 깊은 산중에서 한없이 울었다(117).

★질문 한 가지

★추천해주고 싶은 분

★독서 기간

2024. 6. 14. ~ 6. 19.

★함께 읽으면 좋을 책

#천경 의 #니체의아름다운옆길

★추천도(지극히 주관적인)

★★★★

p.s 출판사로부터 서적을 제공받아 주관적으로 서평을 작성하였습니다.

[100자평] 지식의 최전선

지식의 최전선 - 지금 우리가 알고 있는 과학, 역사 그리고 마음에 대해
앤서니 그레일링 지음, 이송교 옮김 / 아이콤마(주) / 2024년 5월

현대판 빅히스토리!
그러나 좀 더 상세하다.

(과학, 철학) 앤서니 그레일링의 지식의 최전선(지식의 향연)

지식의 최전선 - 지금 우리가 알고 있는 과학, 역사 그리고 마음에 대해
앤서니 그레일링 지음, 이송교 옮김 / 아이콤마(주) / 2024년 5월

#서평

1.

지식이 늘어날수록, 우리의 무지도 늘어간다는 역설이 있다. 무엇을 아는지, 무엇을 모르는지에 대한 극복과 장벽, 어려움이 있다는 말은 탐구의 본질을 얼마나 아는가가 중요하다는 저자의 말처럼 이 책은 과학, 역사, 심리학에서 이러한 질문에 대한 답을 찾고자 한다. 저자는 영국의 철학자이며 철학 교수를 거치며 사회 속에서도 다양한 의견을 내는 학지이다. 오랜 만에 벽돌 책을 접하다보니 짧은 시간 내 완독할 수 있을까란 걱정을 하며 책을 펼쳐본다.

2.

​책에서는 회의적 문제, 방법론적 문제, 경고성 문제 등 탐구를 방해하는 여러 문제에서 12가지로 분류해 설명한다. 핀홀 문제, 은유 문제, 지도 문제, 기준 문제, 진실 문제, 프톨레마이오스 문제, 망치 문제, 등불 문제, 간섭자 문제, 판독 문제, 파르메니데스 문제, 종결 문제로 저자가 지식에 도달하는 과정에서 지식의 최전선이었던 것들에 대해 어떻게 풀어가는지 알아볼 수 있을 것이다.

3.

사실 이 책을 펼친 첫 번째 이유는 3장인 두뇌와 마음이란 목차가 눈에 들어왔기 때문이다. 1부, 2부의 주제는 우주 밖으로 나아가는 탐구와 시간을 거슬러 올라가는 탐구(335)였다. 3장에서는 신경과학의 진보에 대해 많은 이야기를 한다. 신경과학은 신경계, 그 중에서도 뇌를 다룬다.

4.

마음은 어디에 있는가라는 질문은 오래 전부터 고민했던 부분이다. 카라마조프가의 형제들에서도 장로가 죽은 후 시체가 급속히 부패하자 열성적인 신자들이 실망하는 장면이 나온다(346). 최근에는 뉴런의 1,000억 개, 그 사이의 연결은 100조 개 있다는 것(374)를 말하며, 인간 커넥톰 프로젝트(377)로 정리한다. 자아에 대한 질문을 통해 다마지오의 이야기가 등장하는데, 핵심의식, 확장의식, 자서전적 자아로 구분(432)한다.

5.

뇌과학 자체에 대한 관심도 많지만, 한 권의 책이 필요하다면 이 책으로도 충분할 거 같다. 물론, 기존 서평의 뇌과학 책이 나쁘다는 개념은 아니지만, 필요한 내용만 잘 담겨있다는 평이다.

끝으로 현대판 빅히스토리가 아니였나란 생각이 든다. 철학자가 쓴 책이지만, 철학자 특유의 문체는 없었기에 편안하게 읽힌다. 옮긴이의 역량도 가미되었을 거라 생각된다.

★생각나는 구절

★질문 한 가지

★추천해주고 싶은 분

★독서 기간

2024. 6. 18. ~ 6. 22.

★함께 읽으면 좋을 책

#안토니오다마지오 의 #느끼고아는존재

#매튜코브 의 #뇌과학의모든역사

#에릭캔델 의 #기억을찾아서

★추천도(지극히 주관적인)

★★★★

p.s 출판사로부터 서적을 제공받아 주관적으로 서평을 작성하였습니다.