[서평] 러닝 레이

러닝 레이 - 대규모 모델 훈련에 효율적인 라이브러리로 빠르게 구현하는 파이썬 분산 처리
막스 펌펄라.에드워드 옥스.리처드 리우 지음, 김완수 옮김 / 한빛미디어 / 2024년 1월

머신러닝이나 딥러닝을 공부하다보면 하드웨어의 한계 때문에 학습 속도에 제약을 받는 경우가 많이 생긴다. 그래서 학습 속도를 높힐 수 있는 방법을 찾다가 쉬운 학습방법, 오픈소스라는 장점이 있는 레이를 발견했다. LLM과 같은 대규모 모델이 떠오르면서 이를 위한 분산 시스템 프로그래밍이 필수로 여겨지는 요즘에 배워두면 정말 유용할 것이라 생각된다.

1장에서는 '레이'라는 라이브러리를 예시를 통해 제공하는 여러 기능을 살펴보고 2장에서는 API인 '레이 코어'의 작동방법, 3장에서는 레이 코어를 이용한 분산 강화학습 어플리케이션 구현 방법, 4장에서는 3장에서 예시를 들었던 미로 문제를 Rlib CLI와 API를 이용해 새롭게 구현해본다. 5장에서는 레이 튠을 활용한 하이퍼파라미터 최적화, 6장에서는 레이 데이터셋 추상화/서드파티 도구 이용 방법, 7장에서는 딥러닝 프레임워크에서 레이 트레인을 사용하는 방법, 8장에서는 훈련한 모델을 어디서나 쿼리하도록하는 API 엔드포인트 노출 방법, 9장에서는 레이 클러스터 구성 및 확장 방법, 10장에서는 레이 에어 소개, 11장에서는 현재까지 발전된 레이의 생태계와 확장/통합의 히스토리를 알아본다.

각 장에서 코드와 함께 한줄마다 추가 설명이 포함되어있어 생소한 개념을 빠르게 이해할 수 있도록 도와준다.

또 마음에 들었던 부분은 구성을 한눈에 볼 수 있는 플로우 차트, 다이어그램 그림이 곳곳에 있어 효과적인 학습을 할 수 있도록 도와준다.

특히 마지막에 각 챕터의 세부사항을 배우기 위한 방법이 상세히 나열되어 있어 더 궁금한 부분을 빠르게 알아볼 수 있다. 파이썬에 대해 중급 이상의 지식이 있으면서 실험을 확장하는 방법을 찾는 머신러닝 전문가나 데이터 사이언티스트, 분산 시스템 엔지니어에게 책을 추천합니다.

'이 서평은 한빛미디어에서 책을 제공받아 작성된 서평입니다.'