[서평] 파이토치와 구글 코랩으로 배우는 BERT 입문

파이토치와 구글 코랩으로 배우는 BERT 입문
아즈마 유키나가 지음, 김모세 옮김 / AK(에이케이)커뮤니케이션즈 / 2024년 1월

이 책은 구글이 2018년에 발표한 자연어 처리 딥러닝 모델인 BERT의 기초를 학습하기 위한 책이다. 2018년에 나온만큼 언어모델들 대부분에 쓰이지만 한국어로 학습할 수 있는 자료는 아직 부족했었다. 이와중에 BERT의 기초와 원리, Transforers 라이브러리, 어텐션을 한번에 설명해주는 책이 나와서 기쁜 마음으로 볼 수 있었다.

책의 구성은 간략한 파이썬 기초와 자연어 처리/트랜스포머/BERT의 개요, 코랩 사용 방법, 파이토치 구현 원리와 방법, BERT 모델의 구조와 구현, 파인 튜닝 방법과 예시 그리고 BERT모델이 활용되는 예시들로 이루어져 있다. 단순히 설명으로만 이루어져 있다면 구조를 이해하기 난감했을텐데 곳곳마다 그림을 배치해 이해하기 편하게 구성되어있다. 그리고 개인적으로 마음에 들었던 점은 출력 코드가 전부 나와 있다는 것이다. 책들 중에 출력 코드가 너무 많아서 중간을 생략하는 경우가 있는데 만약에 에러가 나거나 출력 코드가 책과 다른게 나타나면 그걸 찾아보는데 시간을 많이 잡아먹는 경우가 많았다. 하지만 출력 코드를 전부 보여주어서 찾아보는 시간이 많이 줄어들었다.

그리고 설명에 나오는 논문의 주소도 알려주어서 개인적으로 찾아보기가 한결 수월했다. 출력 코드 페이지를 제외하면 내용이 부실해보일 수 있지만 필요한 설명만 알차게 들어있다고 느꼈다. BERT 구현 코드를 읽고 싶고 자연어 처리 전반의 지식과 구현 방법을 얻고 싶은 분들에게 책을 추천하고 싶다.

'이 서평은 출판사로부터 책을 제공받아 작성되었습니다.'