Blogger (Blogspot) sekarang memperbolehkan custom robots.txt, ini sangatlah bermanfaat karena kita bisa mengaturvisibility (penampakan) dari artikel-artikel kita di mesin pencari, kita menjadi mungkin mengatur artikel tertentu untuk tidak terindeks (atau pun sebaliknya) oleh mesin pencari.
Secara default, setiap blog yang menggunakan platform Blogger akan memiliki robots.txt seperti berikut:
User-agent: Mediapartners-Google Disallow: User-agent: * Disallow: /search Allow: / Sitemap: http://www.example.com/feeds/posts/default?orderby=updated
Dimana mempunyai penjelasan sebagai berikut:
Mediapartners-Google adalah robot dari Google Adsense, dan biarkan seperti defaultnya karena jika Anda salah mengubahnya maka iklan yang ditayangkan tidak akan menyesuaikan dengan konten Anda.
Baris berikutnya adalah untuk semua robot yang ditandai dengan tanda bintang (*). Pada konfigurasi defaultnya jelas terlihat bahwa label dari blog kita sudah disetting untuk tidak terindeks dengan menulis Disallow: /search.
Perlu di ingat bahwa tanda garis miring (/) di ibaratkan sebagai homepage Anda, jadi misal Anda ingin supaya label terindeks jangan hanya mengisi dengan garis miring seperti ini Disallow: / karena itu sama saja Anda tidak memperbolehkan robot menelusuri blog Anda tapi menjadi seperti contoh di bawah ini:
User-agent: Mediapartners-Google Disallow: User-agent: * Disallow: Allow: / Sitemap: http://www.example.com/feeds/posts/default?orderby=updated
Dengan konfigurasi seperti di atas maka semua artikel dan label akan terindeks. Dan untuk memblok robot di halaman tertentu (saya ambil contoh halaman Ihwal saya) Anda cukup menulis seperti berikut:
User-agent: Mediapartners-Google Disallow: User-agent: * Disallow: /p/ihwal.html Allow: / Sitemap: http://www.example.com/feeds/posts/default?orderby=updated
Setelah mengubahnya pastikan semuanya sesuai seperti apa yang kita inginkan dengan mengunjungiwww.example.com/robots.txt. Ganti Example.com dengan domain Anda.
Perhatian: Gunakan dengan hati-hati. Jika salah menggunakan fitur ini maka blog Anda bisa diacuhkan oleh mesin pencari.
source by: http://rootyourandroid.blogspot.co.id/2012/05/setting-robotstxt-di-blogger.html
baca juga:
register key IDM
cara download Blackberry dekstop
cara instal hp Android
cara setting pos dan komentar pada blogspot
cara download file APK dari pc
download schematic gt c3303i
cheat game download le bot 8.4
cara menghapus iklan
cara membaca schematic
cara bomb sms
cara reset mozilla firefox
tombol on off dan volume
cara menambahkan link pada gambar blogspot
cara mengatasi signal cdma-gsm hilang
penyabab lampu LCD mati
run as administrator adalah
cara download operamini untuk java
cara menambah kapasitas flashdisk
Wonderful article, very useful and well explanation. Your post is extremely incredible.
BalasHapusamazon web server training
android training
angular js training
appium training
application packaging training
This is one awesome article.Thanks Again. Really Great.
BalasHapusOracle OAF Online Training from India
Best JIRA Development Online Training
SnapLogic Certification Online Training from Hyderabad
Appian BPM Interview Questions & Answers