Wprowadzenie
Narzedzie web_fetch wykonuje proste zadania HTTP GET i wyodrebnia czytelna tresc, konwertujac HTML na Markdown lub tekst. Nie wykonuje JavaScriptu — do dynamicznych stron zalecane jest narzedzie przegladarki webowej.
Szybki start
Narzedzie jest domyslnie wlaczone i nie wymaga konfiguracji. Podstawowe uzycie:
await web_fetch({ url: "https://example.com/artykul" });
Parametry
Dostepne sa trzy konfigurowalne opcje:
url(string, wymagany) — adres strony do pobraniaextractMode(string) — format wyjsciowy:markdownlubtextmaxChars(number) — limit znakow dla obcinania tresci
Proces dzialania
Narzedzie realizuje cztery kroki:
- Pobieranie (Fetch) — wysyla zadanie HTTP GET z naglowkiem User-Agent imitujacym Chrome, blokuje prywatne nazwy hostow i waliduje przekierowania
- Ekstrakcja (Extract) — stosuje technologie Readability do izolacji glownej tresci strony
- Fallback — jesli ekstrakcja sie nie powiedzie, a skonfigurowany jest Firecrawl, ponawia probe z funkcjami omijania zabezpieczen antybotowych
- Cache — wyniki sa przechowywane domyslnie przez 15 minut
Konfiguracja
Ustawienia obejmuja: czas zycia cache (15 minut), maksymalny rozmiar odpowiedzi (2 MB), timeout (30 sekund) oraz opcjonalna integracje z Firecrawl do ulepszonej ekstrakcji, gdy glowna metoda zawodzi.
Funkcje bezpieczenstwa
- Wymuszanie limitow znakow i rozmiaru odpowiedzi
- Blokowanie prywatnych adresow sieciowych
- Ograniczanie przekierowan w celu zapobiegania naduzuciom
- Izolacja od dynamicznego kodu JavaScript