크롤링을 하기 위해서는 BeautifulSoup, selenium 를 배워야 합니다.
두 라이브러리 써 본 결과 장단점이 확실히 존재합니다.
책에서는 BeautifulSoup 위키피디아, selenium 다나와 자동 로그인 테스트를 진행했습니다.
BeautifulSoup
장점 : 일단 빠릅니다.그리고 간편합니다.
단점 : 크롤링이 어려운 부분들이 있습니다.
selenium
장정 : 사용자들이 보는 모든 정보들을 크롤링 가능합니다.
단점 : 느리고 무겁습니다.(메모리를 많이 차지합니다.)
BeautifulSoup의 위키피디아 예제 따라하는것에 크게 어렵지 않습니다.
selenium 다나와 자동 로그인 테스트 진행하다가 버전때문에 진행이 더디게 되었습니다.그래서 구글 버전이랑 맞는걸로 진행하니 다시 잘 되었습니다.