Webmestereknek
DeltahirekBot
A DeltahirekBot a deltahirek.hu hírgyűjtő robotja. A magyar hírportálok RSS- és Atom-hírfolyamait olvassa, hogy a friss cikkek címe, rövid kivonata és linkje megjelenjen a hírkeresőben. Minden cikk az eredeti oldalon nyílik meg.
User agent
Minden kérésünk ezzel a fejléccel érkezik:
Mozilla/5.0 (compatible; DeltahirekBot/1.0; +https://deltahirek.hu/bot/) Naplókban és tűzfalszabályokban a DeltahirekBot névre érdemes szűrni; a
verziószám változhat.
Mit tölt le?
- A forrás hírfolyamát (RSS vagy Atom), azt az egy címet, amelyet a forráshoz rögzítettünk. Ebből csak a címet, a kivonatot, a linket, a megjelenés idejét és a rovatot tároljuk.
- Feedkeresés új forrásnál: ha egy oldalnak még nincs ismert
hírfolyama, egyszer végigpróbálunk néhány szokásos címet
(
/rss,/feed,/rss.xml,/feed.xml,/atom.xml,/index.xml), awww.előtaggal és anélkül is.
Cikkoldalakat, képeket, szkripteket nem tölt le, űrlapot nem küld be, és nem jelentkezik be sehova.
Milyen gyakran?
- Egy működő hírfolyamot legfeljebb percenként egyszer kérünk le.
- Ha a hírfolyam hibát ad, egyre ritkábban próbálkozunk: néhány óra hiba után óránként, tartós hiba esetén legfeljebb hatóránként.
- Egy kérés legfeljebb 20 másodpercig tart és legfeljebb 5 MB-ot olvas; legfeljebb 5 átirányítást követünk.
Nem szeretném, hogy a robot látogassa az oldalamat
Írj a bot@deltahirek.hu címre az oldalad címével, és kikapcsoljuk a forrásodat: onnantól a robot nem kéri le a hírfolyamodat.
Ugyanide jelezd, ha a robot túl gyakran vagy hibásan látogat, vagy ha egy DeltahirekBot nevű kérés gyanús (küldd el az IP-címet és az időpontot).