<\/span><\/h2>\nAPI Rerank dzieli dokumenty na fragmenty i ocenia je razem z zapytaniem. Maksymalna d\u0142ugo\u015b\u0107 fragmentu zale\u017cy od modelu. Dla Rerank v3.5 kontekst jednego przebiegu wynosi 4096 token\u00f3w, a parametry takie jak max_tokens_per_doc<\/code> pozwalaj\u0105 kontrolowa\u0107, czy du\u017ce dokumenty b\u0119d\u0105 trymowane czy kompletne. Te ustawienia maj\u0105 bezpo\u015bredni wp\u0142yw na trafno\u015b\u0107 i koszt. :contentReference[oaicite:16]{index=16}<\/p>\n<\/span>Integracja z istniej\u0105cym wyszukiwaniem<\/span><\/h2>\nNajcz\u0119stszy wzorzec to dwuetapowy pipeline:<\/p>\n
\n- Szybki etap zbieraj\u0105cy kandydat\u00f3w – BM25 lub wektory z embedding\u00f3w.<\/li>\n
- Reranking kandydat\u00f3w przez Cohere Rerank i zwrot top K.<\/li>\n<\/ul>\n
Takie podej\u015bcie podnosi jako\u015b\u0107, bo cross-encoder rozstrzyga trudne przypadki, kt\u00f3rych nie wychwyci sama semantyka lub keywordy. Jest to jedna z najprostszych metod poprawy trafno\u015bci w RAG i enterprise search bez wymiany ca\u0142ej infrastruktury. :contentReference[oaicite:17]{index=17}<\/p>\n
<\/span>API i podstawowe parametry<\/span><\/h2>\nRerank API przyjmuje zapytanie oraz list\u0119 tekst\u00f3w i zwraca posortowan\u0105 tablic\u0119 z wynikiem trafno\u015bci dla ka\u017cdego elementu. Najwa\u017cniejsze parametry to lista dokument\u00f3w, model, liczba wynik\u00f3w do zwrotu oraz opcje dotycz\u0105ce d\u0142ugo\u015bci dokumentu i truncation. Interfejs jest prosty, wi\u0119c wdro\u017cenie w backendzie czy narz\u0119dziach data science zajmuje zwykle niewiele czasu. :contentReference[oaicite:18]{index=18}<\/p>\n
<\/span>Wydajno\u015b\u0107 i koszty<\/span><\/h2>\nReranking jest dro\u017cszy obliczeniowo ni\u017c sama faza wektorowa, dlatego stosuje si\u0119 go tylko na ograniczonym zbiorze kandydat\u00f3w. W praktyce optymalny jest kompromis mi\u0119dzy liczb\u0105 kandydat\u00f3w a jako\u015bci\u0105 top K. Dodatkowo dostawcy podaj\u0105 limity szybko\u015bci wywo\u0142a\u0144, co warto uwzgl\u0119dni\u0107 przy skalowaniu i kolejkowaniu \u017c\u0105da\u0144 w godzinach szczytu. :contentReference[oaicite:19]{index=19}<\/p>\n
<\/span>Kiedy Cohere Rerank robi najwi\u0119ksz\u0105 r\u00f3\u017cnic\u0119<\/span><\/h2>\n\n- Zapytania z jasno zdefiniowanymi ograniczeniami – filtr semantyczny potrafi lepiej odr\u00f3\u017cni\u0107 drobne niuanse, np. wymagania kontekstowe lub przeciwstawne znaczenia.<\/li>\n
- D\u0142ugie dokumenty i z\u0142o\u017cone pytania – cross-encoder wykorzystuje bogatsze interakcje tokenowe ni\u017c czyste podobie\u0144stwo wektorowe.<\/li>\n
- RAG i agentowe przep\u0142ywy – mniejsza liczba nieistotnych fragment\u00f3w obni\u017ca koszty LLM i latencj\u0119 ca\u0142ego pipeline. :contentReference[oaicite:20]{index=20}<\/li>\n<\/ul>\n
<\/span>Najlepsze praktyki wdro\u017ceniowe<\/span><\/h2>\n\n- Zbieraj rozs\u0105dn\u0105 liczb\u0119 kandydat\u00f3w – zwykle kilkadziesi\u0105t rekord\u00f3w na zapytanie to dobry punkt startu, potem testuj.<\/li>\n
- Dopasuj chunking – dla d\u0142ugich dokument\u00f3w eksperymentuj z maksymalnym rozmiarem fragmentu, \u017ceby nie traci\u0107 kluczowego kontekstu i nie przepala\u0107 token\u00f3w.<\/li>\n
- Mierz jako\u015b\u0107 – przygotuj zestaw walidacyjny z etykietami lub klikni\u0119ciami i por\u00f3wnaj metryki przed i po rerankingu.<\/li>\n
- Cache i fallback – buforuj popularne zapytania oraz topowe wyniki, a przy przekroczeniu limit\u00f3w API zapewnij logiczny fallback do samego retrievera.<\/li>\n
- Loguj oceny i feature\u2019y – zapisywanie score\u2019\u00f3w i parametr\u00f3w zapyta\u0144 u\u0142atwia p\u00f3\u017aniejsze strojenie. :contentReference[oaicite:21]{index=21}<\/li>\n<\/ul>\n
<\/span>Rerank w RAG krok po kroku<\/span><\/h2>\n\n- Retriever zwraca np. 50 kandydat\u00f3w z indeksu BM25 lub wektorowego.<\/li>\n
- Dzielisz d\u0142u\u017csze dokumenty na fragmenty zgodnie z limitem modelu.<\/li>\n
- Wo\u0142asz Rerank z zapytaniem u\u017cytkownika i list\u0105 fragment\u00f3w.<\/li>\n
- Odbierasz list\u0119 z ocenami trafno\u015bci i wybierasz top 5-10.<\/li>\n
- Przekazujesz tylko te fragmenty do LLM jako kontekst. :contentReference[oaicite:22]{index=22}<\/li>\n<\/ol>\n
<\/span>Metryki, kt\u00f3re warto \u015bledzi\u0107<\/span><\/h2>\n\n- Recall@K i nDCG – sprawdzaj\u0105, czy prawid\u0142owe dokumenty znajduj\u0105 si\u0119 w top K i jak s\u0105 uporz\u0105dkowane.<\/li>\n
- Latencja per etap – mierz osobno czas retrievera i rerankera, aby wykrywa\u0107 w\u0105skie gard\u0142a.<\/li>\n
- CTR i sukces zada\u0144 – w produktach wyszukiwawczych licz\u0105 si\u0119 zachowania u\u017cytkownik\u00f3w, a w RAG jako\u015b\u0107 odpowiedzi ko\u0144cowych.<\/li>\n
- Koszt per zapytanie – uwzgl\u0119dnij tokeny przetwarzane przez rerankera oraz ewentualne limity wywo\u0142a\u0144. :contentReference[oaicite:23]{index=23}<\/li>\n<\/ul>\n
<\/span>Najcz\u0119stsze b\u0142\u0119dy i jak ich unikn\u0105\u0107<\/span><\/h2>\n\n- Zbyt ma\u0142o lub zbyt du\u017co kandydat\u00f3w – zbyt ma\u0142a pr\u00f3bka ogranicza skuteczno\u015b\u0107, zbyt du\u017ca niepotrzebnie podnosi latencj\u0119 i koszt.<\/li>\n
- Nieprzemy\u015blany chunking – ucinanie kluczowych fragment\u00f3w obni\u017ca trafno\u015b\u0107, a zbyt du\u017ce kawa\u0142ki zwi\u0119kszaj\u0105 koszt.<\/li>\n
- Brak ewaluacji offline – decyzje o parametrach bez zestawu kontrolnego rzadko trafiaj\u0105 w punkt.<\/li>\n
- Ignorowanie limit\u00f3w – przy braku kolejek i cache \u0142atwo o throttling i skoki op\u00f3\u017anie\u0144 w godzinach szczytu. :contentReference[oaicite:24]{index=24}<\/li>\n<\/ul>\n
<\/span>Checklist wdro\u017ceniowy<\/span><\/h2>\n\n- Wybierz model Rerank odpowiedni do j\u0119zyk\u00f3w w twoim zbiorze – w wi\u0119kszo\u015bci przypadk\u00f3w u\u017cywaj v3.5 jako modelu wieloj\u0119zycznego.<\/li>\n
- Ustal K kandydat\u00f3w z retrievera oraz top N po reranku dla LLM.<\/li>\n
- Skonfiguruj chunking i strategi\u0119 przycinania.<\/li>\n
- Dodaj cache dla popularnych zapyta\u0144 i fallback na retriever.<\/li>\n
- Przygotuj walidacj\u0119 offline oraz monitoring jako\u015bci i latencji w produkcji. :contentReference[oaicite:25]{index=25}<\/li>\n<\/ul>\n","protected":false},"author":6,"featured_media":10957,"parent":0,"menu_order":0,"template":"","format":"standard","manualknowledgebasecat":[121,118],"manual_kb_tag":[6459,6457,6453,6455,6461,6462,6440,6456,6454,6458,6463,6460,6464,6441],"class_list":["post-15533","manual_kb","type-manual_kb","status-publish","format-standard","has-post-thumbnail","hentry","manualknowledgebasecat-inne","manualknowledgebasecat-pozostale","manual_kb_tag-bm25","manual_kb_tag-chunking","manual_kb_tag-cohere-rerank","manual_kb_tag-cross-encoder","manual_kb_tag-latencja","manual_kb_tag-limity-api","manual_kb_tag-rag","manual_kb_tag-ranking-wynikow","manual_kb_tag-reranking","manual_kb_tag-top-k","manual_kb_tag-v3-5","manual_kb_tag-wektory","manual_kb_tag-wielojezyczny-model","manual_kb_tag-wyszukiwanie-semantyczne"],"_links":{"self":[{"href":"https:\/\/dhosting.pl\/pomoc\/wp-json\/wp\/v2\/manual_kb\/15533","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/dhosting.pl\/pomoc\/wp-json\/wp\/v2\/manual_kb"}],"about":[{"href":"https:\/\/dhosting.pl\/pomoc\/wp-json\/wp\/v2\/types\/manual_kb"}],"author":[{"embeddable":true,"href":"https:\/\/dhosting.pl\/pomoc\/wp-json\/wp\/v2\/users\/6"}],"version-history":[{"count":2,"href":"https:\/\/dhosting.pl\/pomoc\/wp-json\/wp\/v2\/manual_kb\/15533\/revisions"}],"predecessor-version":[{"id":15535,"href":"https:\/\/dhosting.pl\/pomoc\/wp-json\/wp\/v2\/manual_kb\/15533\/revisions\/15535"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/dhosting.pl\/pomoc\/wp-json\/wp\/v2\/media\/10957"}],"wp:attachment":[{"href":"https:\/\/dhosting.pl\/pomoc\/wp-json\/wp\/v2\/media?parent=15533"}],"wp:term":[{"taxonomy":"manualknowledgebasecat","embeddable":true,"href":"https:\/\/dhosting.pl\/pomoc\/wp-json\/wp\/v2\/manualknowledgebasecat?post=15533"},{"taxonomy":"manual_kb_tag","embeddable":true,"href":"https:\/\/dhosting.pl\/pomoc\/wp-json\/wp\/v2\/manual_kb_tag?post=15533"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}