[서평] 러닝 레이

러닝 레이 - 대규모 모델 훈련에 효율적인 라이브러리로 빠르게 구현하는 파이썬 분산 처리
막스 펌펄라.에드워드 옥스.리처드 리우 지음, 김완수 옮김 / 한빛미디어 / 2024년 1월

머신러닝이나 딥러닝을 공부하다보면 하드웨어의 한계 때문에 학습 속도에 제약을 받는 경우가 많이 생긴다. 그래서 학습 속도를 높힐 수 있는 방법을 찾다가 쉬운 학습방법, 오픈소스라는 장점이 있는 레이를 발견했다. LLM과 같은 대규모 모델이 떠오르면서 이를 위한 분산 시스템 프로그래밍이 필수로 여겨지는 요즘에 배워두면 정말 유용할 것이라 생각된다.

1장에서는 '레이'라는 라이브러리를 예시를 통해 제공하는 여러 기능을 살펴보고 2장에서는 API인 '레이 코어'의 작동방법, 3장에서는 레이 코어를 이용한 분산 강화학습 어플리케이션 구현 방법, 4장에서는 3장에서 예시를 들었던 미로 문제를 Rlib CLI와 API를 이용해 새롭게 구현해본다. 5장에서는 레이 튠을 활용한 하이퍼파라미터 최적화, 6장에서는 레이 데이터셋 추상화/서드파티 도구 이용 방법, 7장에서는 딥러닝 프레임워크에서 레이 트레인을 사용하는 방법, 8장에서는 훈련한 모델을 어디서나 쿼리하도록하는 API 엔드포인트 노출 방법, 9장에서는 레이 클러스터 구성 및 확장 방법, 10장에서는 레이 에어 소개, 11장에서는 현재까지 발전된 레이의 생태계와 확장/통합의 히스토리를 알아본다.

각 장에서 코드와 함께 한줄마다 추가 설명이 포함되어있어 생소한 개념을 빠르게 이해할 수 있도록 도와준다.

또 마음에 들었던 부분은 구성을 한눈에 볼 수 있는 플로우 차트, 다이어그램 그림이 곳곳에 있어 효과적인 학습을 할 수 있도록 도와준다.

특히 마지막에 각 챕터의 세부사항을 배우기 위한 방법이 상세히 나열되어 있어 더 궁금한 부분을 빠르게 알아볼 수 있다. 파이썬에 대해 중급 이상의 지식이 있으면서 실험을 확장하는 방법을 찾는 머신러닝 전문가나 데이터 사이언티스트, 분산 시스템 엔지니어에게 책을 추천합니다.

'이 서평은 한빛미디어에서 책을 제공받아 작성된 서평입니다.'

[100자평] 그림으로 배우는 네트워크 프로토콜

그림으로 배우는 네트워크 프로토콜
가와시마 타쿠로 지음, 김성훈 옮김 / 영진.com(영진닷컴) / 2024년 2월

면접 중에 cs 관련 질문으로 네트워크 관련 질문을 많이 받는데 책의 설명으로만 이해해서 그런지 남들에게 쉽게 설명이 안되더라구요. 이 책을 통해 네트워크의 구조와 지식을 체계적으로 배울 수 있을 것 같아 기대됩니다!

[서평] 파이토치와 구글 코랩으로 배우는 BERT 입문

파이토치와 구글 코랩으로 배우는 BERT 입문
아즈마 유키나가 지음, 김모세 옮김 / AK(에이케이)커뮤니케이션즈 / 2024년 1월

이 책은 구글이 2018년에 발표한 자연어 처리 딥러닝 모델인 BERT의 기초를 학습하기 위한 책이다. 2018년에 나온만큼 언어모델들 대부분에 쓰이지만 한국어로 학습할 수 있는 자료는 아직 부족했었다. 이와중에 BERT의 기초와 원리, Transforers 라이브러리, 어텐션을 한번에 설명해주는 책이 나와서 기쁜 마음으로 볼 수 있었다.

책의 구성은 간략한 파이썬 기초와 자연어 처리/트랜스포머/BERT의 개요, 코랩 사용 방법, 파이토치 구현 원리와 방법, BERT 모델의 구조와 구현, 파인 튜닝 방법과 예시 그리고 BERT모델이 활용되는 예시들로 이루어져 있다. 단순히 설명으로만 이루어져 있다면 구조를 이해하기 난감했을텐데 곳곳마다 그림을 배치해 이해하기 편하게 구성되어있다. 그리고 개인적으로 마음에 들었던 점은 출력 코드가 전부 나와 있다는 것이다. 책들 중에 출력 코드가 너무 많아서 중간을 생략하는 경우가 있는데 만약에 에러가 나거나 출력 코드가 책과 다른게 나타나면 그걸 찾아보는데 시간을 많이 잡아먹는 경우가 많았다. 하지만 출력 코드를 전부 보여주어서 찾아보는 시간이 많이 줄어들었다.

그리고 설명에 나오는 논문의 주소도 알려주어서 개인적으로 찾아보기가 한결 수월했다. 출력 코드 페이지를 제외하면 내용이 부실해보일 수 있지만 필요한 설명만 알차게 들어있다고 느꼈다. BERT 구현 코드를 읽고 싶고 자연어 처리 전반의 지식과 구현 방법을 얻고 싶은 분들에게 책을 추천하고 싶다.

'이 서평은 출판사로부터 책을 제공받아 작성되었습니다.'

[서평] AI와 살아가기 위한 기초 지식

AI와 살아가기 위한 기초 지식 - AI 개념부터 위험성과 잠재력, 미래 직업까지 AI 세상에서 똑똑하게 살아가는 법
타비타 골드스타우브 지음, 김소정 옮김 / 해나무 / 2024년 1월

이 책은 마치 AI 산업에 종사하고 있는 한 사람이 일을 하면서 깨닫거나 알게된 지식을 AI에 대해 아무것도 모르는 사람에게 AI가 무엇이고 전체적인 역사와 어떻게 이용하고 있고 앞으로 어떻게 이용해야 하는지 친절하게 알려주는 지침서이다.

저자는 기업가이자 AI자문위원회 회장, 기술 분야에서의 여성 활동을 지원하는 모임 창시자, AI를 알리기 위한 페스티벌을 개최하는 진정한 AI 종사자이다. 그래서 이러한 사실을 알고 나서 책을 읽기 시작할 때의 마음가짐은 '기초 지식이라고 하지만 읽기가 마냥 쉽지만은 않겠구나'라고 생각했다. 하지만 다 읽고 나서는 'AI 관련된 책 중에 이렇게 읽기 쉽고 친절하게 설명해주는 책이 있을까?'라고 생각이 들 정도로 AI에 대해 알고 싶은 모든 분들에게 추천하고 싶다.

책의 구성은 AI의 중요성과 공부해야 하는 이유, AI에 공헌한 여성들 이야기, AI의 작동원리, 위험성, 올바르게 사용하는 법(이후 예시로 코로나 창궐 당시의 성찰), 여성 테크 종사자분들과의 IT 인터뷰, 행동지침으로 이루어져 있다. 특히 마지막 부분에 저자가 AI에 대해 더 공부해보고 싶은 독자들을 위해 자기가 AI를 공부할 때 도움이 된 자료들을 세세하게 책 제목과 내용, 웹사이트들, 다큐멘터리, 뉴스레터, 팟캐스트들을 알려주었다.

이를 통해 저자가 AI에 대해 얼마나 애정이 있고 많은 사람들에게 알려주고 싶어하는지 알게 되었다.

아직은 다른 지식들처럼 완전히 정형화 되지 않은 분야이기 때문에 계속 더 나은 방향으로 나아가기 위해 새로운 시도와 피드백이 필요한 AI이다. 이 책이 그러한 과정을 더 매끄럽게 해줄 매개체가 되기에 충분하다고 생각되고 많은 분들이 읽어보셨으면 좋겠다.

'이 서평은 출판사로부터 책을 제공받아 작성되었습니다.'

[100자평] 러닝 레이

러닝 레이 - 대규모 모델 훈련에 효율적인 라이브러리로 빠르게 구현하는 파이썬 분산 처리
막스 펌펄라.에드워드 옥스.리처드 리우 지음, 김완수 옮김 / 한빛미디어 / 2024년 1월

multiprocessing 대신 aws와 쿠버네티스에서 구축 가능한 병렬 처리 라이브러리를 찾던 중에 ray를 고려해보았지만 레퍼런스를 봐도 어떻게 활용해야할지 감이 안잡혔는데 책의 내용이 제가 찾던 것이여서 기대가 됩니다!