LLM-y stają się coraz większym obciążeniem dla infrastruktury IT.
Najpierw było to zbieranie danych treningowych, potem przeglądanie stron (browse tool), a teraz Agenci AI z funkcją DeepResearch od Google i OpenAI.
Przykład z iFixit pokazuje, jak duży jest ten problem – na screenie z lipca 2024 widać miliony żądań w ciągu 24 godzin od Anthropic. Obstawiamy, że w 2025 roku będzie jeszcze gorzej.
Kilka liczb, które ilustrują skalę problemu:
- Narzędzia przeglądania (Browse) sprawdzają zazwyczaj 3-6 stron (ChatGPT i Gemini)
- Perplexity analizuje 8-30+ stron.
- Deep Research sięga już 30-100+ stron…
Ludzie zwykle nie mają tyle czasu, co oznacza, że niedługo możemy mieć znacznie więcej ruchu od botów niż od prawdziwych użytkowników.
Ale czy blokowanie takich zapytań za pomocą narzędzi, jak Cloudflare, to dobre rozwiązanie?
Jeśli coraz więcej naszych klientów będzie korzystać z Agentów AI zamiast bezpośrednio przeglądać strony, to czy chcemy, aby nasza marka zniknęła z odpowiedzi AI, tylko po to, by zaoszczędzić na serwerach?
A może wręcz przeciwnie – powinniśmy zadbać o to, by nasza nazwa była jak najczęściej wspominana (i używać cache/CDN do ograniczenia kosztów)?
Płynięcie pod prąd nigdy nie jest łatwe… To nie jest prosta decyzja strategiczna, a odpowiedź zależy od wielu czynników.
Czy powinniśmy skupić się na interfejsach dedykowanych AI bardziej niż do tej pory? :)