RelatedBot – tartalomajánló indexelő rendszer

A RelatedBot a |related| tartalomajánló rendszerének automatikus indexelő komponense.

Feladata, hogy a partneroldalakon megjelenő |related| widgetek segítségével azonosítsa és feldolgozza a nyilvánosan elérhető cikkeket. A rendszer kizárólag azokat az oldalakat indexeli, ahol a widget ténylegesen megjelenik.

Ritkább esetekben – ha a weboldal technikailag nem tudja megjeleníteni a widgetet – RSS feed alapján történik a tartalomátvétel. Ebben az esetben a rendszer kizárólag a feedben megjelenő URL-eket dolgozza fel.

Működés

  • A RelatedBot nem végez általános webes feltérképezést (crawl).
  • Az indexelés kizárólag azokon az URL-eket történik, ahol a widget jelen van, így bizonyos esetekben nem publikus, de bejelentkezés nélkül elérhető linkeket is meglátogathat.
  • A rendszer figyelembe veszi a meta tagek beállításait.
  • Személyes adatokat, sütiket vagy űrlapadatokat nem gyűjt.
  • A lekérések korlátozott ütemben történnek, nem okoznak extra terhelést.

Azonosítás

A RelatedBot a következő User-Agent azonosítót használja:

Mozilla/5.0 (compatible; RelatedBot/2.0; +https://related.hu/bot)

Tiltás

Ha nem szeretnénk, hogy bizonyos tartalmak bekerüljenek az ajánlásba, használjuk az alábbi meta tagek valamelyikét az adott aloldalon:

<meta name="robots" content="noindex">
<meta name="relatedbot" content="noindex">

A tiltásról és a törlési lehetőségekről itt olvashatsz bővebben.

Hibát találtál?

Ha úgy látod, hogy a rendszerünk tévesen indexel egy oldalt, vagy olyan webhelyről kér le adatot, amelyet már nem használsz a |related| rendszerben, írj nekünk a [email protected] címre. 


vissza a tudásbázis főoldalára