리뷰] 구글 BERT의 정석

구글 BERT의 정석 - 인공지능, 자연어 처리를 위한 BERT의 모든 것
수다르산 라비찬디란 지음, 전희원.정승환.김형준 옮김 / 한빛미디어 / 2021년 11월

구글 BERT는 2019년 10월에 최신 알고리즘 업데이트 BERT(Bidirectional Encoder Representations from Transformers)를 발표했습니다. 이는 최근 5년간 구글의 가장 큰 변화라고 지칭할 정도입니다. 구글은 BERT 모델 도입을 통해 그 어느 때보다도 사용자들의 검색 의도를 잘 이해할 수 있을 것입니다.

BERT는 검색 문장의 단어를 입력된 순서대로 하나씩 처리하는 것이 아니라 한 문장의 모든 단어의 연관성을 이해하며 검색 문장을 처리하는 모델입니다. 그러므로 BERT는 검색 문장의 전체적인 맥락을 고려하기 때문에 검색 문장에 담겨있는 사용자의 진짜 의도를 이해하는 능력이 뛰어납니다. BERT 알고리즘은 자연어 처리와 관련된 딥 러닝 알고리즘입니다. 기계가 문장의 단어가 의미하는 바를 이해하는 데 도움이 됩니다. 

알고리즘이 자체적으로 대략의 데이터를 스스로 읽고 학습하는 방식으로 단어의 문맥, 관계 등을 판단하고 예측하는 자연어 처리 언어 모델에 대해 자세하게 담고 있는 구글 BERT의 정석을 소개합니다.

인간보다 언어를 더 잘 이해하고 구현하는 고성능 AI 언어 모델 BERT에 대한 내용을 담고 있는 구글 BERT의 정석은 인공지능, 자연어 처리를 위한 모든 것을 알려줍니다. 가장 먼저 사전 학습을 개선하여 성능을 향상하는 ALBERT, BART, SpanBERTa, RoBERTa, VideoBERT와 같은 BERT 변형 모델을 간단한 언어로 잘 풀어서 친절하게 설명합니다.

다음으로 BioBERT 및 ClinicalBERT와 특정 도메인에 해당하는 BERT 모델을 배우고, BERT의 재미있는 변형 모델인 VideoBERT도 살펴볼 수 있습니다. 그리고 이 책의 가장 매력적인 부분은 본문 맨 뒤에는 한국어에 잘 동작하는 한국어 언어 모델 KoBERT, KoGPT2, KoBART를 추가 집필되어 있는데요. 책의 순서대로 따라 모든 학습을 마치고 나면, BERT와 변형 모델을 활용해 여러 자연어 처리 태스크를 수월하게 처리할 수 있을 것입니다.

PART1에서는 BERT 시작하기로 트랜스포머 입문, BERT 이해하기, BERT 활용하기 통해 기초적인 부분에 대해 배울 수 있는데요. 1장은 트랜스포머 모델에 대해 자세히 설명합니다. 트랜스포머의 인코더와 디코더의 구성요소를 자세히 살펴보면서 어떻게 작동하는지 배울 수 있습니다.

2장 마스크 언어 모델링(MLM)과 다음 문장 예측(NSP) 태스크를 사용해 BERT 모델을 사전 학습시키는 방법을 설명합니다. BERT 모델 자체를 이해하고, 하위 단어 토큰화 알고리즘에 대한 내용을 배울 수 있습니다.

3장 사전 학습된 BERT 모델을 사용하는 방법을 설명합니다. 사전 학습된 BERT 모델을 사용해 문맥을 고려한 단어 및 문장 임베딩을 추출하는 방법을 익힐 수 있습니다. 그리고 질문 응답, 텍스트 분류 등과 같은 다운 스트림 태스크에 맞춰 사전 학습된 BERT를 파인튜닝하는 방법에 대해 담고 있습니다.

PART 2에서는 BERT 파생 모델인 ALBERT, RoBERTa, ELECTRA, SpanBERT, 지식 증류 기반 종류에 대해 알아 볼 수 있습니다.

PART 3는 BERT 적용하기로 텍스트 요약을 위한 BERTSUM 탐색, 다른 언어에 BERT 적용하기, sentence-BERT 및 domain-BERT 살펴보기, VideoBERT, BART, 한국어 언어 모델인 KoBERT, KoGPT2, KoBART 등에 대해서 배울 수 있습니다.

자연어 처리에 대해 익힐 수 있는 책은 많이 있는데요. BERT의 알고리즘을 통해 큰 텍스트 본문에 사용할 수 있는 자연어 처리 사전 훈련 방식을 궁금한 독자분들에게 구글 BERT의 정석 책을 추천합니다.

구글 BERT의 정석의 핵심은 당신이 알아야 할 BERT의 모든 것을 다루며, BERT의 기본 개념부터 다양한 변형 모델과 응용 사례까지 모두 담고 있습니다. 그리고 원서에 없는 친절하고 상세한 역자 주석으로 부족함 없이 가득 채워져 있는데요. 구글 BERT 자연어 처리 실력 향상을 위해 연습 문제와 해답을 제공하고 있습니다.

이 책은 자연어 응용 분야에서 상당한 성능 향상을 이뤄 주목받고 있는 BERT 모델을 기초부터 다양한 변형 모델, 응용 사례까지 한 권으로 담은 실무 지침서입니다.

책의 예제 소스 코드는 저자의 깃허브에서 다운로드 할 수 있습니다.

https://github.com/packtpublishing/getting-started-with-google-bert

"한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다."

리뷰] 파이썬 스킬 업

파이썬 스킬 업 - 기초를 넘어서, 파이썬을 파이썬답게 사용하자!
브라이언 오버랜드.존 베넷 지음, 조인석 옮김 / 길벗 / 2021년 5월

비전공자들에게 프로그래밍을 접하는 과정에서 주목받는 언어 중 파이썬입니다. 파이썬은 간결한 문법으로 입문자가 이해하기 쉽고, 다양한 분야에 활용되고 있습니다. 문법이 간결하고 표현 구조가 인간의 사고 체계와 닮아 있어, 초보자들도 파이썬 배우는 걸 도전합니다.

파이썬 기초를 배우다 보면 더 딥하게 공부하고 싶은 욕구가 생기는데요. 이번에 소개할 파이썬 스킬 업은 기초를 넘어서 파이썬을 파이썬답게 사용하자라는 핵심이 담겨있습니다. 전체 기본 문법을 깊은 수준으로 처음부터 끝까지 모두 훑어볼 수 있는 기회입니다, 기초를 넘어서 파이썬의 런타임 효율성, 고급 문법, 람다 함수, 정규 표현식, 매직 매서드, 데이터 수집 및 시각화까지 알아 갈 수 있습니다.

파이썬 스킬 업은 입문서이기보단 중급서에 가까워 각자의 원하는 수준에 맞게 핵심 장을 찾아서 보는 것도 또 하나의 팁입니다. 1장에서 기본기를 탄탄하게 만들고 싶은 개발자를 위한 장입니다. 파이썬을 익혔지만, 기본기가 약하다고 판단된다면 1장 시작해서 파이썬에 모든 것을 알 수 있습니다.

2장~3장은 기본기를 넘어 문자열과 리스트 기능들을 소개하고 있습니다. 파이썬을 처음 배울 때 놓치기 쉬운 데이터 구조의 고급기능들을 포함하고 있습니다.

4장은 개발자 대부분이 익히는 데 오랜 시간이 걸리는 파이썬의 22가지 프로그래밍 지름길을 나열과 커맨드 라인 그리고 패키지에 대한 내용을 담고 있습니다.

5장부터는 고급기능에 대해서 자세히 담고 있습니다. 특정 영역인 텍스트 포매팅, 정규표현식, 패턴-일치 기술의 세밀한 부분까지 다룹니다. 그리고 8장은 텍스트와 바이너리 파일을 다루는 다른 방법들을 만날 수 있습니다.

12장부터는 고급 수학 및 플로팅 소프트웨어를 학습하고 싶은 개발자들을 위한 개념들이 있는데요. 플로팅으로 그래프를 표현하고 싶거나, 과학 애플리케이션을 만들고 싶다면 패키지인 고급 수준 기능들의 기본 지식을 제공합니다.

이뿐만 아니라 주로 다른 입문서에서 볼 수 없는 주제들을 담고 있습니다.

패키지-파이썬의 고급 숫자와 플로팅 소프트웨어의 사용법, Decimal과 Fraction 같은 특별한 타입

파이썬의 바이너리 파일 연산자와 텍스트 연산자를 사용하는 모든 방법을 마스터

파이썬에서 잘못된 방법을 피하면서 다중 모듈을 사용하는 방법

객체 지향 프로그래밍의 좋은 점, 특히 모든 매직 메서드의 별난 점, 특별한 기능과 사용법

파이썬 스킬 업은 고습 기술을 다루고 있어도 명확한 설명과 예시에 중점을 두고 있는데요. 코드가 어떻게 동작하는지 직접 IDLE에 입력해 확인하는 방식으로 학습하길 권장하고 있습니다. 굵은 글씨로 표현한 줄은 입력해야 하거나 기존 코드에 추가, 수정된 부분입니다.

모든 기술을 마스터하면 상대적으로 적은 양의 코드를 작성할 수 있게 도와줍니다. 파이썬 스킬 업 책에서는 막연하게 개념을 설명하고 있는 게 아닌 파이썬은 단순히 시간을 절약해 주는 장치가 아니라, 이 방식으로 프로그램을 만드는 즐거움을 알려줍니다.

이번 파이썬 스킬 업 책을 통해 입문 과정에서 학습한 내용을 점검하고, 빠진 부분을 채워 넣을 수 있습니다. 잘못 알고 있던 사실을 바로잡으시길 바랍니다. 해당 기능을 왜 사용하는지, 언제 사용해야 하는지, 어떻게 잘 사용할 수 있는지 파이썬을 제대로 잘 사용할 수 있게 가이드 해주는 파이썬 스킬 업 책을 추천합니다.

예제파일을 다운 받을 수 있습니다.

https://github.com/gilbutITbook/080222

"길벗 개발자 리뷰어 활동을 위해서 책을 제공받아 작성된 서평입니다."

리뷰] 미국 주식으로 시작하는 슬기로운 퀀트투자

미국 주식으로 시작하는 슬기로운 퀀트투자 - 주린이+코알못도 파이썬으로 쉽게 따라 하는 퀀트투자 레시피
김용환.Yubin Kim 지음 / 한빛미디어 / 2021년 9월

퀀트투자는 수학적, 통계적 기법을 활용해 투자 종목을 발굴하는 투자 방법으로 알려져 있는데요. 퀀트투자는 즉 숫자를 베이스로 투자하는 방식인데요. 쉽게 말하면 돈을 버는 공식을 만드는 작업이라고 생각할 수 있습니다. 주가량, 시장정보, 수익성, 안정성, 밸류에이션 같은 백테스트를 통해서 데이터를 확인하고, 그 데이터를 분석하는 방법론을 적용해 제일 좋은 성과를 낼 수 있는 최적의 조합을 찾는 방법이 퀀트투자라고 생각합니다.

서학 개미를 위한 미국 주식 퀀트투자 입문서이자 실습서이다. 미국 주식 데이터를 분석하고 퀀트투자 전략을 만들고자 하는 일반인 대상 일명 주린이를 위한 미국 주식으로 시작하는 슬기로운 퀀트투자 책을 소개합니다.

데이터 분석을 파이썬 프로그래밍 기반으로 하고 있으며, 책에 수록된 부록을 참고하면서 충분히 따라 할 수 있는 내용으로 이루어져 있습니다.

1~2장 퀀트투자 개념 이해, 퀀트머신 설치하기를 하면서 퀀트투자의 기본적인 개념을 이해하고 환경을 준비합니다.

3장은 단기투자 기술에서는 전략으로 2가지 방향 설정에 대해 이해하고 기술적 분석으로 유명한 투자 전략 중 RSI, 엔벨로프, 변동성 돌파, 볼린저밴드, 스토캐스틱 등의 여러 전략 개념을 이해하고 퀀트머신으로 실제 미국 주식 종목을 적용해 백테스트 해본 뒤 적절한 매수/매도 개념을 타이밍을 파악할 수 있습니다.

4~5장 가치투자를 위한 재무제표 읽는 법, 가치주를 찾는 기술을 통해 재무제표 중요성과 밸류에이션 산출 과정을 따라 가치주를 찾는 기술에 대해 다룹니다.

6장 기업 자체의 수익성과 안정성을 고려한 우량주를 찾는 투자 전략에서는 투자 효율이 좋은 기업을 찾는 ROA(자산대비이익), ROE(자본대비이익), RIM(잔여이익모델), 영업 효율이 좋은 기업 찾는 GP/A 지표 등을 알아봅니다.

7장은 ROC와 PER의 합성 전략으로 볼 수 있는 그린블라트의 마법 공식을 살펴보고 여러 지표의 조합 결과를 살펴봅니다.

8장에서는 퀀트투자를 시작하기 전에 개인투자자의 자세에 대해 설명하고 있습니다. 부록에서는 파이썬 프로그래밍을 해보지 않은 독자를 위한 파이썬 기본 문법과 퀀트머신의 기반이 되는 핀터스텔라 라이브러리에 대해 알아볼 수 있습니다.

잠깐 – 보충 설명, 참고사항, 예시 등을 본문과 구분해 정리된 내용입니다.

퀀트투자 전략을 만들기 위해서는 유명한 전략들이 어떻게 만들어졌는지 개념을 이해하고, 어떻게 구현됐는지 기본기를 따라하며 배워야 합니다. 퀀트 투자 전략을 공부하기 위해서는 코딩이나 수학 등 부가적인 배경지식까지 필요합니다. 미국 주식으로 시작하는 슬기로운 퀀트투자에선 이미 잘 알려진 투자 대가들의 전략을 소개하고, 자신의 컴퓨터에서 이 전략을 구현해보며 응용하는 방법을 만나 볼 수 있습니다.

다양한 정보들을 공유하고 싶은 독자분들을 위한 카페도 운영되고 있습니다.

https://cafe.naver.com/finterstellar.cafe

"한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다."

특판남이 알려주는 돈 되는 특허 AtoZ

특판남이 알려주는 돈 되는 특허 AtoZ - 아이디어 착상, 출원, 판매, 경매, 라이선싱으로 돈 되는 특허 만들기 ㅣ Must Have
황진상 지음 / 골든래빗(주) / 2021년 6월

특허에 대해 어떻게 생각하시나요?

능력 있는 사람만 특허를 등록할 수 있다고 생각하는 분들도 계실 겁니다.하지만 아이디어만 있다면 특허를 누구나 등록할 수 있습니다. 특허 관련 책을 소개해 드리려 합니다.

소개하려는 책은 특판남이 알려주는 돈 되는 특허 AtoZ입니다. 특허를 등록하는 이유는 돈을 벌기 위해 등록을 할 겁니다. 그렇다면 특허가 돈이 되는지도 알아야 합니다. 특허는 출원하지 않으면 기술로 인정 못 받습니다. 돈 되는 특허가 어떤 것인지 같이 알아보도록 하겠습니다.

 

아이디어를 많이 생각하려면 마인드맵을 적어보는 것이 좋습니다. 마인드맵을 통해 생각의 깊이를 더해갈 수 있습니다. 머릿속에 떠오른 아이디어는 바로 기록하려 해야 합니다. 좋은 아이디어여도 기록하지 않으면 잊어버릴 확률이 존재합니다.

특허할만한 아이디어라면 유사한 특허가 먼저 있는지 판단도 해야 합니다. 특허는 특허청의 심사를 통해 출원되게 됩니다. 창작하거나 기술적으로 고도화된 발명품을 특허로 등록할 수 있습니다.

어떤 게 발명인가? 특허가 될 수 있는 발명은 어떤 게 있을까요?

신호등을 예로 들어보겠습니다. 처음 신호등의 기다리는 시간 표시되는 것도 하나의 특허라 볼 수 있습니다. 처음 생긴 신호등에는 시간을 알려주는 것이 없었습니다. 누군가 이런 게 있으면 좋겠다는 아이디어가 실제로까지 나타난 것이 바로 발명입니다. 그 외의 신호등 관련 특허로는 신호등 가림막, 장수 의자도 있습니다.

특허가 된 발명품이 궁금하시다면 특허와 함께 키워드로 검색해보시길 바랍니다. 일상생활에서 필요한 아이디어가 있고 만들 수 있다면 특허 만드는 일을 도전해보시길 추천합니다.

특판남이 알려주는 돈 되는 특허 AtoZ 책은 10단계로 특허에 대해 알려줍니다. 좋은 아이디어가 있고 특허에 관심이 있다면 유사한 특허가 있는지 확인하시기 바랍니다. 기업에서도 기술을 개발하면 특허를 빨리 등록하려 합니다. 특허를 누가 빨리 등록하냐에 따라 기업이 돈을 벌 수 있습니다.

돈이 되는 특허인지 판단하고 확인해보시길 바랍니다. 특허에 관심 있는 분들에게 이 책을 추천합니다.

https://www.aladin.co.kr/shop/wproduct.aspx?ISBN=K312732293&start=pnaver_02

 “골든래빗 출판사로부터 책을 제공받아 작성했습니다.”

리뷰] 진짜 쓰는 포토샵&일러스트레이터

진짜 쓰는 포토샵 & 일러스트레이터 - 게임 컨셉 디자이너와 프리랜서 디자이너가 알려 주는 실무 디자인 입문서 ㅣ 진짜 쓰는 시리즈
이하나(좐느).박경나(톰왔) 지음 / 제이펍 / 2021년 9월

1인 미디어 시대가 활발하게 성장하고 있습니다. 다양한 크리에이터분들이 디자인에 관해 한 번쯤은 고민을 해봤을 거로 생각하는데요. 진짜 쓰는 포토샵 & 일러스트레이터 실무 디자인 입문서를 소개합니다. 이번 책의 큰 장점은 디자인에 대해 고민하는 예비 디자이너, 크리에이터 등 실무 디자인에 사용하는 핵심 기능들이 담겨 있습니다.

진짜 쓰는 포토샵&일러스트레이터에 또 다른 매력은 포토샵과 일러스트레이터 핵심 기능을 한번 같이 볼 수 있는 점입니다. 게임 컨셥 디자이너와 프리랜서 디자이너가 알려주는 디자인 입문서인데요. 실무에서 자주 쓰는 기능 위주로 내용을 담아 직접 따라 만들어 보고 공부하는 재미를 느낄 수 있습니다.

기본적으로 알아야 하는 디자인에 대한 개념, 색상에 대해 이해하기까지 디자인을 시작 전 작업 효율을 높여주는 환경 설정부터 진행합니다. 여기서부터 저자의 친절함이 느껴집니다. 개인 디자이너들만 알고 있는 핵심적 팁 같은 개념인 기본 작업 단위 설정하기, 인터페이스 색상 테마 변경, 자동 저장 설정, 작업 내역 단계 개수 늘리기 등을 알려줍니다.

처음 디자인을 시작하는 예비 디자이너분들은 기본기인 툴을 배우는데 시간을 많이 투자합니다. 이후엔 포토샵과 일러스트레이터에 있는 많은 기능을 어떻게 사용해야 하는지 고민하는 시기가 오는데요. 이런 고민을 해결해주는 진짜 쓰는 포토샵&일러스트레이터 저서는 해결해줍니다. 완성도 높은 실무 예제를 직접 만들어 보면 공부하는 재미와 같은 기능을 쓰더라도 좀 더 세련된 결과물을 만드는 데 중점을 두고 있습니다.

포토샵 파트에서는 사진 보정하기, 드로잉 작업하기 실무에서 사용하는 네온사인 효과 배너, 이중 노출효과, 패스 클리핑 마스크 이용, 상세 페이지까지 내용을 담고 있습니다.

일러스트레이터 파트에서는 오브젝트 관련 기능을 연습하고 도형 및 텍스트 이용, 그레이디언트, 블렌드, 클리핑 마스크, 뉴모피즘 등 실무 예제를 직접 제작할 수 있습니다.

실습마다 미리보기를 통해 완성된 결과를 먼저 살펴보고 어떤 기능이 사용되는지 알아보면서 실습 전에 폰트, 크기, 예제 파일, 완성 파일을 확인합니다. 친절한 설명과 함께 순서를 대로 따라 하다 보면 초보가 쉽게 놓칠 수 있는 부분을 짚어 주는 TIP까지 제공됩니다. PAPT04에서는 포토샵과 일러스트레이터를 동시에 활용하는 작업이나, 목업 적용 및 색상 설정 방법 등을 소개합니다.

복잡한 실습 과정을 따라 하다 보면 헷갈린 부분과 어려운 디자인 부분을 해결할 수 있게 QR코드를 제공해줍니다. 진짜 쓰는 포토샵&일러스트레이터 저자이신 크리에이터 좐느의 유튜브 동영상 강의 통해 끝까지 실습을 마무리할 수 있습니다.

프리랜서 디자이너 & 크리에이터 좐느(이하나)과 13년차 게임 회사 컨셉 디자이너 톰왔(박경나)의 핵심 기능을 담고 있는 진짜 쓰는 포토샵&일러스트레이터 디자인 입문서와 함께 핵심 기능을 처음부터 제대로 확실하게 배우면서 멋진 그래픽 디자인 결과물을 만들어 보시길 추천합니다.

제이펍 출판사에서 도서를 제공받아 작성한 서평입니다.