O Unomage-LlmsTxtBot
Unomage-LlmsTxtBot to bot stojący za Generatorem llms.txt. Gdy ktoś zgłosi domenę, ten bot wykrywa i pobiera do 200 podstron danego serwisu — w taki sam sposób, jak zrobiłby to bot asystenta AI — aby zbudować indeks llms.txt.
Jak się identyfikuje
Każde zapytanie Unomage-LlmsTxtBot wysyła standardowy identyfikujący nagłówek User-Agent:
Mozilla/5.0 (compatible; Unomage-LlmsTxtBot/1.0; +https://llmstxt.unomage.com/bot)
dzięki czemu właściciel strony lub logi serwera mogą zidentyfikować ruch z tego narzędzia i osobno zdecydować, czy na niego zezwolić.
Respektuje robots.txt
Unomage-LlmsTxtBot domyślnie przestrzega zasad robots.txt docelowej strony dla swojego user agenta. Jeśli robots.txt danej strony zabrania dostępu Unomage-LlmsTxtBot, to narzędzie jej nie zeskanuje.
Czego nie robi
- Nie wysyła formularzy, nie klika linków poza podążaniem za adresami URL z <a href>, ani nie podejmuje żadnych działań poza pobieraniem stron.
- Nie przechowuje danych logowania ani nie próbuje omijać loginów czy paywalli.
- Skanuje maksymalnie 200 podstron na domenę, do głębokości crawlu po linkach równej 2 — to nie jest ogólny, nieograniczony crawler.
- Zapytania do dowolnej domeny docelowej są ograniczane limitami (maksymalnie 3 świeże skany na godzinę), więc nie da się go użyć do przeciążenia strony.
Uwagi lub prośby o wyłączenie
Jeśli Unomage-LlmsTxtBot powoduje problemy dla Twojej strony, lub chcesz, aby requesty tego bota się zatrzymały, skontaktuj się z nami poniżej.
W sprawie uwag lub prośby o wyłączenie, napisz do nas: TODO — add a real contact email/address here before this ships to production.