WordPress 웹 사이트를 크롤링하는 연구 엔진을 중지하는 방법

게시 됨: 2022-11-02


얼마 전에 우리 직원 중 한 명이 검색 엔진이 WordPress 사이트를 크롤링하고 인덱싱하지 못하게 하는 방법을 물었습니다.

조회 엔진이 웹 페이지를 크롤링하고 조회 최종 결과에 나열하는 것을 방지하려는 여러 가지 상황이 있습니다.

이 기사에서는 검색 엔진이 WordPress 웹 페이지를 크롤링하는 것을 중지하는 방법을 보여줍니다.

How to Stop Search Engines From Crawling a WordPress Site

WordPress 웹 사이트 크롤링에서 검색 엔진을 종료하는 이유는 무엇입니까?

대부분의 WordPress 인터넷 웹사이트에서 조회 엔진은 ​​방문자의 가장 큰 리소스입니다. 모두가 조회 엔진을 차단하려는 이유는 무엇입니까?

다음은 연구 엔진이 귀하의 웹 페이지를 색인화하는 것을 원하지 않는 몇 가지 조건입니다.

  • 시작할 때 주변 환경 개선이나 스테이징 웹 페이지를 만드는 방법을 잘 모를 수 있으며, 대안으로 웹 사이트가 살아 있음에도 불구하고 취득할 수 있습니다. 웹 사이트가 건물 아래에 있거나 유지 모드에 있을 때 Google이 웹 사이트를 색인화하는 것을 원하지 않을 것입니다.
  • WordPress를 사용하여 개인 웹로그를 만드는 사람들도 꽤 있습니다. 그들은 비공개라는 사실 때문에 조회 엔진에 의해 인덱싱되는 것을 원하지 않습니다.
  • 작업 관리 또는 인트라넷에 WordPress를 사용할 수 있습니다. 이러한 상황에서는 내부 문서가 공개적으로 액세스되는 것을 원하지 않을 것입니다.

널리 퍼진 오해는 도메인을 가리키는 링크가 없는 경우 조회 엔진이 웹 사이트를 찾지 못할 가능성이 있다는 것입니다. 이것은 완전히 정품이 아닙니다.

예를 들어, 영역 식별이 이전에 다른 사람이 소유했기 때문에 귀하의 웹 사이트를 가리키는 링크가 있을 수 있습니다. 또한 월드 와이드 웹에는 기본적으로 도메인 이름을 나열하는 수많은 웹 페이지가 있습니다. 귀하의 웹 페이지는 그 중 하나에만 표시될 수 있습니다.

주장이 제기됨에 따라 연구 엔진이 귀하의 사이트를 크롤링하지 못하게 하는 방법을 살펴보겠습니다. 4가지 절차를 보호합니다.

접근법 1: WordPress 사이트를 크롤링하지 않도록 조회 엔진에 요청

이것은 가장 쉬운 전략이지만 웹 사이트가 크롤링되는 것을 완전히 막지는 못합니다.

워드프레스는 연구 엔진이 귀하의 인터넷 사이트를 색인화하지 않도록 지시할 수 있는 개발 속성과 함께 제공됩니다. 옵션 » 읽기를 멈추고 '검색 엔진 가시성' 옆에 있는 상자를 살펴보기만 하면 됩니다.

WordPress의 검색 엔진 가시성 설정

이 상자를 선택하면 WordPress는 웹사이트 헤더에 다음 행을 제공합니다.


WordPress는 또한 사이트의 robots.txt 파일을 수정하고 다음 변형을 추가합니다.

Person-agent: *
Disallow: /

이러한 변종은 웹 페이지를 색인화하지 않도록 로봇(인터넷 크롤러)을 확인합니다. 그럼에도 불구하고 이 요청을 승인하거나 무시할 엔진을 찾는 것은 절대적으로 달려 있습니다. 대부분의 연구 엔진이 이를 존중하더라도 웹사이트의 일부 인터넷 페이지나 영상이 색인될 가능성이 있습니다.

연구 엔진이 귀하의 사이트를 인덱싱하거나 크롤링하는 것을 불가능하게 하려면 방법 3 또는 4를 사용하여 WordPress 웹사이트를 암호로 보호해야 합니다.

프로세스 2: 개인 웹 페이지를 크롤링하지 않는 엔진 찾기

조회 엔진이 웹 사이트를 크롤링하고 인덱싱하지만 조회 최종 결과 웹 페이지에 특정 게시물이나 웹 페이지를 통합하지 않도록 할 수 있습니다.

가장 덜 어려운 방법은 AIOSEO(All in A single Web Optimization) 플러그인 적용. WordPress를 위한 가장 효과적인 웹사이트 포지셔닝 도구이며 3백만 개 이상의 조직에서 신뢰하고 있습니다.

이 자습서에서는 웹 최적화 분석 소프트웨어로 구성된 AIOSEO 무료 버전으로 작업할 것입니다. 사이트맵 장비, 리디렉션 관리자, 스키마 마크업, robots.txt 편집기 등과 같은 훨씬 더 많은 기능을 제공하는 고품질 AIOSEO 버전도 있습니다.

가장 먼저 해야 할 일은 웹 사이트에 AIOSEO 플러그인을 설치하고 활성화하는 것입니다. WordPress용 All in 1 검색 엔진 최적화를 설정하는 방법에 대한 단계별 설명서를 따라 플러그인을 설정하고 구성하는 방법을 마스터할 수 있습니다.

플러그인이 설정될 때 지정된 게시물 및 인터넷 페이지를 색인화하지 않도록 검색 엔진에 요청하는 데 사용할 수 있습니다. 다시 한 번, 이 요청을 승인하거나 무시할 엔진을 찾는 것은 절대적으로 달려 있습니다.

색인을 생성하지 않으려는 제출 또는 웹페이지를 편집하기만 하면 됩니다. WordPress 편집기 하단에 있는 AIOSEO 설정으로 스크롤한 다음 '고급' 탭을 클릭합니다.

AIOSEO 고급 설정

게시물은 기본 로봇 설정을 사용하고 있습니다. 이를 조정하려면 '기본 설정 사용' 토글을 꺼짐 위치로 전환해야 합니다.

단일 페이지를 인덱싱하지 않도록 검색 엔진에 요청

이제 '인덱스 없음' 확인란을 클릭할 수 있습니다. 게시물이 게시되거나 업데이트되면 연구 엔진에 색인을 생성하지 않도록 요청합니다.

방법 3: cPanel을 활용하여 전체 인터넷 사이트를 비밀번호로 유지

귀하의 WordPress 웹 호스팅 공급업체가 귀하의 웹 호스팅 계정을 관리하기 위해 cPanel에 권한을 부여한 경우 cPanel로 작업하는 전체 웹 페이지를 보호할 수 있습니다. cPanel 대시보드에 로그인한 다음 '파일' 세그먼트에서 '디렉토리 프라이버시' 아이콘을 클릭하기만 하면 됩니다.

cPanel의 디렉토리 프라이버시 기능 사용

다음으로 WordPress를 설치한 폴더를 찾아야 합니다. 일반적으로 public_html 폴더입니다. 그런 다음 해당 폴더 옆에 있는 '편집' 버튼을 클릭해야 합니다.

루트 폴더 편집

참고: general public_html 디렉토리 아래에 다양한 WordPress 웹 사이트가 마운트되어 있는 경우 간단히 클릭해야 합니다. public_html url을 사용하여 해당 인터넷 사이트를 살펴본 다음 암호로 보호하려는 웹 사이트의 폴더를 편집하십시오.

이렇게 하면 암호 보안으로 변환할 수 있는 모든 디스플레이 화면이 표시됩니다.

'비밀번호로 이 디렉토리 보호'를 제안하는 상자를 체크하고 '저장' 버튼을 클릭하기만 하면 됩니다. 원하는 경우 보안 목록의 ID를 사용자 지정할 수도 있습니다.

이 디렉터리를 암호로 보호하려면 확인란을 선택하십시오.

목록에 대한 액세스 권한이 개선되었다는 확인 메시지가 표시됩니다.

앞으로 '돌아가기' 버튼을 클릭해야 합니다.

cPanel의 디렉터리 개인 정보 보호 성공 메시지

이 목록에 액세스할 때 사용해야 하는 사용자 이름과 암호를 만들 수 있는 화면으로 이동합니다.

사용자 이름과 암호를 입력한 다음 암호를 확인해야 합니다. 비밀번호 관리자 앱과 같은 안전한 장소에 사용자 이름과 비밀번호가 있는지 확인하세요.

사용자 이름 및 비밀번호 추가

'저장' 버튼을 클릭하면 WordPress 웹 사이트에 성공적으로 추가 암호 보안이 적용됩니다.

이제 소비자나 모터를 찾는 사람이 귀하의 웹사이트를 방문할 때마다 웹사이트를 보기 위해 이전에 만든 사용자 이름과 비밀번호를 입력하라는 메시지가 표시됩니다.

이제 웹사이트에 액세스하려면 사용자 이름과 암호가 필요합니다.

방법 4: 플러그인으로 워드프레스 비밀번호 방어하기

관리되는 WordPress 인터넷 호스팅 대안을 사용하는 경우 cPanel에 액세스하지 못할 수 있습니다. 이 경우 WordPress 플러그인을 사용하여 인터넷 사이트를 암호로 보호할 수 있습니다.

이 문서에는 가장 널리 사용되는 두 가지 대안이 있습니다.

  1. SeedProd는 800,000개 이상의 웹사이트에 적용되는 워드프레스용 가장 빠른 유지 관리 방법 플러그인입니다. 검색 엔진을 포함한 모든 사람으로부터 인터넷 사이트를 숨기는 데 사용할 수 있는 포괄적인 획득 관리 및 권한 기능이 함께 제공됩니다. SeedProd에 대한 단계별 이동 방법 가이드가 있습니다.
  2. Password Secured는 하나의 암호(사용자 생성 필요 없음)로 WordPress 사이트를 암호로 보호하는 정말 간단한 방법입니다. WordPress 웹 페이지를 암호로 보호하는 방법에 대한 단계별 가이드북을 참조하십시오.

이 짧은 기사가 WordPress 사이트를 크롤링하거나 인덱싱하는 엔진을 찾는 데 도움이 되었기를 바랍니다. 또한 인터넷 사이트의 전반적인 성능을 높이는 방법을 연구하거나 초보자를 위한 워드프레스 안전 자습서를 단계별로 살펴보는 것이 좋습니다.

이 글이 마음에 든다면 WordPress용 YouTube 채널 비디오 자습서를 구독하는 것을 잊지 마십시오. 트위터와 페이스북에서도 우리를 얻을 수 있습니다.