Jak naprawdę działa live search Perplexity? Próbuję zrozumieć architekturę

Daniel, Twoje przypuszczenia są bardzo trafne. Pozwól, że dodam szczegóły:

Czterostopniowy pipeline:

Etap 1: Przetwarzanie zapytania

To nie tylko ekstrakcja słów kluczowych:

• Tokenizuje wejście
• Identyfikuje encje, lokalizacje, pojęcia
• Wykrywa niejednoznaczność
• Może przekształcić na kilka zapytań wyszukiwania

Przykład: “Najnowsze osiągnięcia w obliczeniach kwantowych” →

• Intencja: Najnowsze informacje
• Temat: Obliczenia kwantowe
• Ramy czasowe: Aktualne/najnowsze
• Reformulacja: “obliczenia kwantowe 2025”, “nowości w obliczeniach kwantowych” itp.

Etap 2: Pozyskiwanie

Wykorzystuje wyszukiwanie semantyczne, nie tylko dopasowanie słów kluczowych. Dokument o “sztucznych sieciach neuronowych” zostanie znaleziony dla zapytania “deep learning”, bo znaczeniowo są one zbliżone.

Warstwa LLM zasługuje na szerszą analizę.

Wybór modelu:

Perplexity korzysta z kilku LLM:

• GPT-4 Omni (do złożonych zapytań)
• Claude 3 (do wybranych zadań)
• Modele własne (dla wydajności)
• Użytkownik w wersji Pro może wybrać preferowany model

Jak LLM generuje odpowiedzi z cytowaniami:

LLM nie kopiuje tekstu. On:

1. Rozumie intencję zapytania
2. Czyta pobrane fragmenty
3. Syntezuje spójną odpowiedź
4. Przypisuje każde twierdzenie do źródła
5. Formatuje z cytowaniami

Przykład transformacji:

Źródło 1: “Komputery kwantowe korzystają z kubitów, które mogą istnieć w superpozycji.” Źródło 2: “Główni gracze to IBM, Google i IonQ.” Źródło 3: “Najnowsze przełomy to procesory z ponad 1000 kubitów.”

Odpowiedź Perplexity: “Komputery kwantowe wykorzystują kubity działające w stanach superpozycji [1]. Liderzy branży IBM, Google i IonQ [2] osiągnęli ostatnio przełom polegający na procesorach z ponad 1000 kubitów [3].”

Synteza tworzy nowy tekst, zachowując dokładne cytowania.

Dla twórców treści – oto, co jest ważne, by być cytowanym:

Czynniki wyboru źródła:

Format sprzyjający cytowaniu:

Perplexity najlepiej wyciąga informacje z:

• Czytelnych nagłówków sygnalizujących temat
• Bezpośrednich odpowiedzi w pierwszych zdaniach
• Wypunktowań z faktami
• Tabel z danymi
• Sekcji FAQ

Co jest pomijane:

• Ogólnikowe wstępy
• Treść schowana w długich akapitach
• Język promocyjny
• Twierdzenia bez danych źródłowych

Szybkie wyszukiwanie kontra Pro – różnice techniczne:

Szybkie wyszukiwanie:

• Pojedyncze, skoncentrowane pobranie
• Ok. 5 źródeł konsultowanych
• Szybka odpowiedź (2-3 sekundy)
• Najlepsze do prostych, faktograficznych pytań

Pro Search:

• Wieloetapowe pobieranie
• Dekonstrukcja zapytania
• Może zadawać pytania doprecyzowujące
• 10+ źródeł konsultowanych
• Wolniejsze, ale pełniejsze
• Lepsze do złożonych badań

Dekonstrukcja:

Pro Search rozbija złożone zapytania na podzapytania:

“Najlepszy CRM dla startupów medycznych z zgodnością HIPAA” staje się:

• “CRM dla branży medycznej”
• “CRM zgodny z HIPAA”
• “Ceny CRM dla startupów”
• “Funkcje CRM dla zdrowia”

Każde podzapytanie pobiera inne źródła, a wyniki są łączone.

Zapobieganie halucynacjom w Perplexity:

Jak ogranicza halucynacje:

1. Wymóg cytowania – Nie może generować twierdzeń bez cytatów
2. Pozyskiwanie w czasie rzeczywistym – Aktualne dane, nie tylko z treningu
3. Wielokrotna weryfikacja źródeł – Istotne fakty wymagają kilku źródeł
4. Ważenie wiarygodności – Priorytet dla renomowanych źródeł

Ograniczenia:

Perplexity wciąż czasem halucynuje, jeśli:

• Źródła są błędne
• Pobierane są nieadekwatne dokumenty
• Źle zrozumie zapytanie

W porównaniu do ChatGPT:

Obowiązkowe cytowanie to główna ochrona Perplexity przed halucynacjami.

System pamięci kontekstowej:

W trakcie sesji:

Perplexity pamięta historię rozmowy:

• Poprzednie pytania są kodowane
• Kontekst przenosi się dalej
• Dalsze pytania rozumieją odniesienia

Przykład: P1: “Jakie są najnowsze osiągnięcia w obliczeniach kwantowych?” P2: “Jak to się ma do klasycznych komputerów?”

Dla P2 Perplexity rozumie, że “to” oznacza obliczenia kwantowe z P1.

Mechanizm uwagi:

Wykorzystuje wagi uwagi, by określić, który kontekst z przeszłości jest istotny dla nowego pytania. Nie wszystko jest przenoszone – tylko to, co znaczeniowo związane.

Ograniczenie:

Pamięć jest tylko w ramach sesji. Zamknięcie rozmowy = utrata kontekstu. Brak trwałej personalizacji między sesjami.

To wybór prywatności, nie ograniczenie techniczne.

Tryb Focus jest niedoceniany w kontekście architektury Perplexity:

Dostępne tryby Focus:

Wnioski:

Tryb Focus pokazuje, że Perplexity może ograniczać pobieranie do określonych pul źródeł. Oznacza to, że mają:

1. Zindeksowane i skategoryzowane źródła
2. Oddzielne systemy pobierania na kategorię
3. Możliwość filtrowania po typie domeny

Jak się zoptymalizować:

Chcesz cytowań naukowych – zadbaj, by Twoje badania były w bazach akademickich. Chcesz cytowań ogólnych – skup się na treściach łatwo wykrywalnych w sieci.

Ta dyskusja uzupełniła moją wiedzę. Oto moja aktualizacja diagramu architektury:

Pipeline Live Search Perplexity:

Zapytanie użytkownika
    ↓
Etap 1: Przetwarzanie zapytania
├── Tokenizacja NLP
├── Klasyfikacja intencji
├── Ekstrakcja encji
├── Reformulacja zapytania (kilka podzapytań)
    ↓
Etap 2: Pozyskiwanie informacji
├── Wyszukiwanie semantyczne (embeddingi)
├── Wywołania API do indeksu sieci
├── Filtrowanie źródeł (Tryb Focus)
├── Ekstrakcja fragmentów
├── Ranking trafności
    ↓
Etap 3: Generowanie odpowiedzi
├── Budowanie okna kontekstowego
├── Synteza przez LLM (GPT-4/Claude)
├── Śledzenie cytowań inline
├── Rozwiązywanie konfliktów
    ↓
Etap 4: Udoskonalenie
├── Weryfikacja faktów na podstawie źródeł
├── Ocena spójności
├── Generowanie sugestii dalszych pytań
├── Formatowanie cytowań
    ↓
Wynik końcowy (odpowiedź + cytowania + sugestie)

Najważniejsze wnioski:

1. Wyszukiwanie semantyczne – nie dopasowanie słów kluczowych, a znaczenia
2. Obowiązkowe cytowania – każde twierdzenie powiązane ze źródłem, mniej halucynacji
3. Indeks na żywo – treści pojawiają się nawet w kilka godzin od publikacji
4. Wielomodelowa architektura – różne LLM do różnych celów
5. Pamięć sesji – świadomość kontekstu w ramach rozmowy

Dla optymalizacji treści:

Aby być cytowanym w Perplexity:

• Pisz w formacie łatwym do ekstrakcji (listy, tabele, bezpośrednie odpowiedzi)
• Dodaj sygnały wiarygodności (autor, instytucja)
• Aktualizuj treści (daty mają znaczenie)
• Bądź autorytetem w swojej dziedzinie

Dzięki wszystkim za techniczną analizę.