List

크롤링 예산 이해하기

#웹가이드

Web Guide크롤링 예산수집 효율대형 사이트
크롤링 예산 이해하기
검색엔진은 우리 사이트에 무한정 시간을 쓰지 않습니다.
페이지가 많은 사이트일수록 수집 효율이 중요해집니다.
크롤링 예산 이해하기 관련 사진
01어떤 개념인가
정해진 양만큼만 수집하고 떠납니다. 중요한 페이지가 먼저 수집되어야 합니다.
1
수집량 제한
한 번에 방문하는 페이지 수가 정해집니다.
2
서버 부담 고려
느리면 수집을 줄입니다.
3
가치 판단
중요해 보이는 사이트를 더 자주 옵니다.
4
낭비 발생
쓸모없는 페이지에 예산을 씁니다.
5
누락 발생
정작 중요한 페이지가 수집되지 않습니다.
6
소규모는 무관
페이지가 적으면 신경 쓸 필요 없습니다.
02낭비되는 곳
이런 페이지들이 수집을 잡아먹습니다.
필터 조합
정렬과 조건이 붙은 무한한 주소.
검색 결과 페이지
사이트 내 검색 결과 주소.
중복 주소
같은 내용의 여러 변형.
오류 페이지
깨진 링크를 계속 방문합니다.
연쇄 연결
여러 번 거치는 리다이렉트.
빈 목록
내용이 없는 분류 페이지.
03효율 높이기
중요한 곳에 수집이 집중되게 만듭니다.
불필요 주소 차단
필터와 검색 결과를 수집에서 뺍니다.
중복 정리
대표 주소를 명확히 지정합니다.
오류 제거
깨진 링크를 고치거나 연결합니다.
연결 단축
여러 번 거치지 않게 정리합니다.
속도 개선
응답이 빠르면 더 많이 수집합니다.
사이트맵 정확도
중요한 페이지만 담습니다.
내부 링크
중요 페이지로 링크가 모이게 합니다.
04신경 쓸 규모
모든 사이트가 고민할 문제는 아닙니다.
신경 쓸 필요 없음
페이지가 수백 개 이하 · 구조가 단순 · 색인이 잘 되고 있음 · 다른 기본에 집중
관리가 필요함
페이지 수만 개 이상 · 상품이 많은 쇼핑몰 · 색인 누락이 많음 · 필터 조합이 많은 구조
CHECK POINT
□  우리 사이트 규모가 관리가 필요한 수준인가
□  필터와 검색 결과 주소를 차단했는가
□  중복 주소가 정리되어 있는가
□  깨진 링크를 처리했는가
□  연결이 여러 번 거치지 않는가
□  서버 응답이 충분히 빠른가
□  사이트맵에 중요 페이지만 담겨 있는가
□  색인 누락이 많은지 확인했는가
쓸모없는 페이지가 중요한 페이지의 수집 기회를 빼앗습니다.
페이지가 수백 개 이하라면 이것보다 다른 기본에 집중하세요.
#크롤링 예산#수집 효율#대형 사이트#색인 누락#중복 주소#필터 페이지#기술 SEO#SEO#웹비스타#홈페이지 제작
목록보기