Spis treści:
Otwórz ChatGPT i zadaj pytanie, które zadałby Twój klient. Nie o Twoją markę – o problem, który rozwiązujesz. „Który bank ma najlepsze konto firmowe?”, „Jakie ubezpieczenie na życie wybrać?”, „Gdzie najtaniej wymienić walutę?”. Sprawdź, czy Twoja marka w ogóle się pojawia i na którym miejscu.
A teraz zła wiadomość: to, co właśnie zobaczyłeś, jest prawdopodobnie najmniej wiarygodnym pomiarem widoczności, jaki mogłeś wykonać. I to nie dlatego, że zrobiłeś coś źle. Dlatego, że w wyszukiwaniu AI sam fakt, że sprawdzasz, zmienia wynik.
Ten tekst jest o higienie pomiaru: dlaczego nie da się tego mierzyć tak jak pozycji w Google, gdzie mają granice narzędzia dostępne na rynku i jak zaprojektować pomiar, któremu można zaufać?
W klasycznym Google sprawdzanie własnej pozycji było proste. Pozycja była wspólna dla wszystkich – jeśli Twoja strona była trzecia na daną frazę, była trzecia dla Ciebie, dla Twojego klienta i dla konkurencji. To, że na nią patrzyłeś, niczego nie zmieniało. Rank tracker rejestrował stan obiektywny, a różnice wynikały głównie z lokalizacji i urządzenia.
W wyszukiwaniu AI ta zasada pęka. Nie ma jednej listy wyników, którą można odczytać. Są miliony prywatnych odpowiedzi, uszytych z historii i konta pytającego. Model nie zwraca rankingu – generuje tekst, w którym marki albo się pojawiają, albo nie, i robi to za każdym razem trochę inaczej.
Wynikają z tego dwie konsekwencje, które trzeba przyjąć, zanim zacznie się cokolwiek mierzyć. Po pierwsze, pojedyncze zapytanie nie jest pomiarem – jest anegdotą. Po drugie, Twoja własna odpowiedź jest najmniej reprezentatywna ze wszystkich, bo model zna Cię najlepiej.
Mechanizm jest prosty i dlatego łatwo go przeoczyć. ChatGPT z włączoną pamięcią zapamiętuje, o czym z nim rozmawiasz. Jeśli regularnie sprawdzasz swoją markę z tego samego konta, model coraz lepiej wie, że ta marka Cię interesuje – i coraz chętniej ją podpowiada.
Powstaje efekt obserwatora: sam pomiar zniekształca wynik, i to tym mocniej, im sumienniej mierzysz. Najbardziej zafałszowany obraz własnej widoczności mają paradoksalnie ci, którzy monitorują ją najczęściej. Marketer, który codziennie od pół roku wpisuje w ChatGPT pytania o swoją kategorię, dostaje odpowiedzi dopasowane do siebie, nie do rynku.
To, co widzisz na swoim ekranie, jest wtedy echem Twojej własnej historii, nie tym, co zobaczy potencjalny klient. Różnica bywa dramatyczna: marka, która zawsze pojawia się na pierwszym miejscu na koncie właściciela, potrafi być całkowicie nieobecna w odpowiedzi dla użytkownika bez historii.
Jest jeszcze druga warstwa, której okno czatu nie pokazuje. Modele AI działają w dwóch trybach: odpowiadają z własnej pamięci, czyli z danych treningowych, albo przeszukują sieć w czasie rzeczywistym. Mechanizm decydujący o tym wyborze to grounding – uziemienie odpowiedzi w zewnętrznych źródłach.
O parametrze search_prob, czyli prawdopodobieństwie sięgnięcia po wyszukiwarkę, pisze Mark Williams-Cook. Przy pytaniach o rzeczy zmienne – aktualne ceny, nowości, rankingi – model czuje, że musi sprawdzić informację w sieci. Przy pytaniach ogólnych, w rodzaju „czym jest leasing”, uznaje, że wie wystarczająco dużo, i odpowiada z pamięci.
Dla pomiaru to rozróżnienie jest kluczowe, i to z bardzo praktycznego powodu. Jeśli nie wiesz, w którym trybie padła odpowiedź, nie wiesz, czy Twoja praca nad treścią może cokolwiek zmienić. Przy wysokim search_prob nowy artykuł czy publikacja w portalu branżowym mogą wpłynąć na wynik w ciągu kilku dni. Przy niskim – walka o zmianę odpowiedzi jest walką z danymi treningowymi, a więc znacznie trudniejsza i dłuższa.
Tryb odpowiedzi da się sprawdzić: przez API Google Gemini albo obserwując ruch w zakładce Network w konsoli deweloperskiej podczas korzystania z ChatGPT. Jeśli model wywołuje wyszukiwarkę, masz realne pole do interwencji.
Jak to wygląda w praktyce? Oto przykład z naszego podwórka. Pytając model językowy o SearchMeets.ai, otrzymaliśmy odpowiedź opisującą markę jako inicjatywę networkingową dla branży marketingowej – z przypisanymi nazwiskami osób niezwiązanych z firmą. To halucynacja oparta na nieaktualnych lub źle zinterpretowanych źródłach zewnętrznych. Model nie był złośliwy: przeczytał to, co znalazł w sieci, i połączył kropki w zły sposób. Jeśli takiej odpowiedzi nie mierzysz, nie wiesz nawet, że jej potrzebujesz.
Naturalna reakcja brzmi: skoro ręczne sprawdzanie zawodzi, kupmy narzędzie. To dobry kierunek, ale narzędzia mają własne, rzadko komunikowane ograniczenia.
Większość odpytuje modele przez API. A odpowiedź z API i odpowiedź z okna przeglądarki to bywają dwa różne modele rekomendacyjne. Widać to najlepiej na przykładzie Claude’a, który w pomiarach potrafi zachowywać się zupełnie inaczej niż pozostałe modele: rekomenduje marki nieistniejące od lat, pomija całe kategorie graczy obecnych na rynku i nie udostępnia żadnych cytowań.
Przyczyna nie leży w modelu, tylko w sposobie jego odpytywania. Claude przez API domyślnie nie korzysta z web searcha – odpowiada wyłącznie z danych treningowych. Sprawdziliśmy to eksperymentalnie: przy niezmienionych pozostałych warunkach wymusiliśmy wyszukiwanie przy każdym pytaniu. Wyniki różniły się istotnie od pierwotnego pomiaru. Ten sam model, ta sama marka, dwa różne obrazy widoczności – a różnicę zrobiło jedno ustawienie, o którym narzędzia zwykle nie informują wprost.
Personalizacja działa w obie strony. Odpowiedzi w oknach czatu są personalizowane, a w narzędziach monitorujących – nie. Narzędzie pokazuje więc widoczność dla przeciętnego użytkownika, który w rzeczywistości nie istnieje. To wciąż lepszy punkt odniesienia niż własne konto z historią, ale nie jest to obraz tego, co widzą realni klienci.
Cytowania nie są dostępne wszędzie. Modele różnią się pod tym względem drastycznie. W naszych pomiarach zdarza się, że jedno narzędzie generuje w całej kategorii pojedyncze cytowanie źródłowe, podczas gdy inne, odpytywane tym samym zestawem pytań, dostarcza ich kilkadziesiąt. Różnica nie mówi nic o tym, które z nich lepiej rozumie temat – wynika z konstrukcji modelu i tego, czy w ogóle pokazuje, skąd wziął informacje. Brak cytowań nie oznacza, że odpowiedź powstała bez źródeł. Oznacza tylko, że narzędzie ich nie ujawniło. Analizę cytowań trzeba więc traktować jako wskazówkę, a nie pełny obraz.
Wniosek jest jeden: nie istnieje widoczność w AI w liczbie pojedynczej. Istnieje widoczność w konkretnym narzędziu, w konkretnym trybie dostępu do sieci, w konkretnym oknie czasowym.
Zasady opisane powyżej brzmią abstrakcyjnie, dopóki nie przełoży się ich na konkretne decyzje. Poniżej siedem, które podejmujemy przy każdym projekcie pomiarowym, niezależnie od branży i skali. Różni je liczba pytań i częstotliwość odpytywania, ale logika pozostaje ta sama.
Jeśli mierzysz widoczność w AI ręcznie, minimum, które oddziela pomiar od obserwatora, wygląda tak:
Dopiero taki zestaw pokazuje obraz zbliżony do tego, który widzi rynek.
Widoczność w AI da się mierzyć, ale wymaga to porzucenia dwóch nawyków z klasycznego SEO: przekonania, że wynik jest obiektywny, i przekonania, że jedno sprawdzenie wystarczy. W modelach językowych wynik jest rozkładem, nie liczbą, a obserwator jest częścią pomiaru.
Praktyczna konsekwencja jest taka, że pomiar trzeba zaprojektować, zanim się go wykona. Dobrać prompty, ustalić częstotliwość, wybrać silniki, odseparować konto, zapisać ograniczenia. To więcej pracy niż otwarcie ChatGPT i wpisanie nazwy własnej firmy – ale tylko to daje dane, do których można wrócić za kwartał i porównać je z czymś sensownym.
Regularnie i w stałych odstępach – dzienne pomiary przez kilka tygodni dają najbardziej stabilny obraz, bo modele odpowiadają różnie w różne dni. Jeśli robisz to ręcznie, realnym minimum jest cykl tygodniowy z tym samym zestawem pytań. Ważniejsza od częstotliwości jest jednak powtarzalność: pięć pomiarów wykonanych identycznie mówi więcej niż dwadzieścia wykonanych za każdym razem inaczej.
Przy pomiarze ręcznym sensowny zakres to 5-15 pytań na kategorię – powyżej tego progu utrzymanie regularności przestaje być wykonalne. Powinny to być pytania niebrandowe, opisujące problem klienta, a nie nazwę Twojej firmy. Pytanie o markę sprawdza, co model o niej wie; pytanie o kategorię sprawdza, czy w ogóle ją poleca.
Nie i to nie jest błąd żadnej ze stron. Narzędzie zwykle odpytuje model przez API, bez personalizacji i często bez dostępu do sieci. Twoje okno czatu ma historię, pamięć i domyślnie włączone wyszukiwanie. To dwa różne pomiary dwóch różnych rzeczy – narzędzie pokazuje punkt odniesienia, Twój ekran pokazuje Twoją własną historię.
Oznacza to, że budowanie widoczności w tych modelach wymaga innej logiki. Modele z dostępem do sieci reagują na bieżące treści i cytowane źródła. Modele odpowiadające przede wszystkim z pamięci opierają się na danych treningowych, więc liczy się obecność w źródłach, które model absorbował podczas treningu. W pierwszym przypadku pracujesz nad publikacjami i aktualnością treści, w drugim – nad długofalową obecnością w miejscach, które modele traktują jako autorytatywne.
Zacznij od ustalenia, skąd model wziął dane – jeśli podaje cytowania, sprawdź, które źródła przywołuje. Dalsze kroki zależą od trybu odpowiedzi: przy wysokim prawdopodobieństwie wyszukiwania sensowna jest aktualizacja źródeł zewnętrznych, kontakt z wydawcami nieaktualnych artykułów i publikacja świeżych treści w portalach branżowych. Przy odpowiedziach z pamięci modelu efekt będzie odłożony w czasie, bo wymaga zmiany tego, co model zobaczy przy kolejnym treningu.
Tak. Da się, ale kosztem skali. Arkusz z kolumnami: data, prompt, narzędzie, obecność marki, pozycja w odpowiedzi, wymienieni konkurenci – w połączeniu z trybem incognito i osobnym kontem daje dane, na których można pracować. Ograniczenie jest praktyczne: powyżej kilkunastu promptów i kilku silników pomiar ręczny przestaje być możliwy do utrzymania.
Tak. Brak ruchu w analityce nie oznacza braku wpływu. Modele językowe są dziś często pierwszym stykiem klienta z marką – zanim trafi na stronę, kliknie reklamę czy zapyta znajomego. Widoczność w AI działa podobnie do PR: wpływa na postrzeganie marki, choć efekt trudno bezpośrednio przypisać. Argument za wczesnym pomiarem jest też praktyczny: bez danych z dziś nie będziesz miał do czego porównać danych z przyszłego roku.
Zarządzająca działem SEO w KERRIS, zrealizowała 100+ projektów z zakresu pozycjonowania. Wykładowczyni i prelegentka konferencji branżowych (DIMAQ AI, semKRK).
[ Powiązane artykuły ]
[ Kontakt ]
[ Kontakt ]
Dziękujemy
za kontakt
W ciągu 24–48 godzin wrócimy z odpowiedzią. A tymczasem sprawdź skrzynkę, znajdziesz tam krótkie intro do naszych usług.
Zamknij[ Kontakt ]
Ups,
coś poszło nie tak
Spróbuj ponownie za chwilę. Jeśli problem będzie się powtarzał, skontaktuj się z nami na [email protected].
Spróbuj ponownie