안녕!
오늘은 robots.txt 에 대해 알아볼건데
보통 네이버, 구글등 로봇들이 검색할 수 있게
User-agent: *
Allow: /
이렇게 넣어주면 돼. 다 홈페이지 내용 가져갈수 있게 하겠다는 의미야
그런데 가끔 특정페이지 관리자만 접속하거나 로봇들이 접근하지 못하게 하려면
Disallow: /admin/
https://www.naturapartner.co.kr/admin
이쪽은 접근하지 말라는 의미니까
홈페이지 최상단 루트에 넣어주면 돼. (보통 www 폴더 바로 밑에 오케?)
User-agent: *
Allow: /
Disallow: /blog/admin/
Disallow: /thread/
Sitemap: https://www.naturapartner.co.kr/sitemap.xml