منتديات المجاوشي - [شرح] ملف robots.txt بالكامل

بسم الله الرحمن الرحيم

شرح ملف robots.txt بالكامل

مثال
http://traidnt.net/robots.txt
اولا كود لتوجيه العناكب جميعا
رمز PHP:

User-agent: *

ما هذا الكود ؟
هذا الكود لجميع العناكب و هذا افضل من غيره اي تضع عناكب قوقل بكود وياهو بكود واللخ
و النجمة * تعني جميع العناكب

ثانيا
رمز PHP:

Disallow:

هذا يمنع العناكب من الدخول لملفات معينة
رمز PHP:

Disallow: /vb/announcement.php
Disallow: /vb/calendar.php
Disallow: /vb/cron.php
Disallow: /vb/editpost.php
Disallow: /vb/faq.php
Disallow: /vb/joinrequests.php
Disallow: /vb/login.php
Disallow: /vb/misc.php
Disallow: /vb/moderator.php
Disallow: /vb/newreply.php
Disallow: /vb/newthread.php
Disallow: /vb/online.php
Disallow: /vb/attachment.php
Disallow: /vb/private.php
Disallow: /vb/profile.php
Disallow: /vb/register.php
Disallow: /vb/search.php
Disallow: /vb/sendmessage.php
Disallow: /vb/showgroups.php
Disallow: /vb/showpost.php
Disallow: /vb/subscription.php
Disallow: /vb/subscriptions.php
Disallow: /vb/threadrate.php
Disallow: /vb/usercp.php
Disallow: /vb/payments.php
Disallow: /vb/memberlist.php

Disallow: /vb/image.php
Disallow: /vb/images/

مع تغيير images/ بمجلد الاستايل الحالي لتصفح اسرع للعناكب http://www.iraq12.com/forums/images/smilies/1/6.gif

ثالثا
رمز PHP:

Allow:

هذا يسمح للعناكب في الدخول الى اي مجلد
ينصح
رمز PHP:

Allow: /
Allow: /vb
Allow: /directory
Allow: /host

مع تغيير vb و directory و host بمجلدات موقعك http://www.iraq12.com/forums/images/smilies/1/26.gif

رابعا

اضافة ملفات الخرائط
رمز PHP:

Sitemap:

وهي اضافة خرائط موقعك لتوجيه العناكب لها

ينصح بهذا
رمز PHP:

Sitemap: http://www.traidnt.net/vb/external.php
Sitemap: http://www.traidnt.net/vb/external.php?type=rss
Sitemap: http://www.traidnt.net/vb/external.php?type=rss2
Sitemap: http://www.traidnt.net/vb/external.php?type=xml
Sitemap: http://www.traidnt.net/vb/archive/index.php

انتهى الموضوع بحمد الله تعالى
يوجد ملف الروبوتس بالمرفق
http://www.iraq12.com/forums/images/smilies/1/36.gif
المصدر
شركة عسل بغداد
محترف vb

الملفات المرفقة http://www.traidnt.net/vb/images/attach/txt.gif robots.txt (1.1 كيلوبايت)

أكثر...