https://andrewkchan.dev/posts/crawler.html
이 글을 읽고 느낀 점에 대해 서술하면 된다.
처음 제목을 봤을 때, 유튜브 썸네일보다 더 자극적이어서 누르지 않을 수가 없었다. 하지만 목표 설정을 보니 처음부터 ‘24시간 내 10억개 페이지 크롤링하기’가 목표가 아니라 ‘단일 머신의 성능을 최대화하자’였다. 여기서부터 수직적 확장을 매우 긍정적으로 보고 시도했지만, 본인이 직접 정한 데드라인이 다가오자 클러스터 디자인으로 바꿨다.