pplx-embed v2-late: 0,6B/9B – MIT, PDF uten OCR, vekter nå

Perplexity slipper pplx-embed-v2-late 7. oktober. To late-interaction-modeller. 0,6B og 9B. MIT. Vektene ligger på Hugging Face i dag. Hosted API er varslet, ikke live.

Det er embedding, ikke chat. Modellene svarer ikke. De mapper tekst, bilder og renderede PDF-sider til 128-dimensjonale vektorer per token og scorer med MaxSim. ColBERT-stil. Felles vektorrom mellom størrelsene.

Hva laben måler

Bygget på Qwen3.5 med bidireksjonell oppmerksomhet. 0,6B starter som Qwen3.5-0,8B, teksttårnet kappet fra 24 til 12 lag. 594 millioner parametere totalt. Om lag 240M aktive for tekst, 340M for bilde. 9B har 7,4B aktive. Begge destillert token for token fra en intern 18B-lærer med LEAF-stil representasjonsdestillasjon. Derfor deler de rom.

Trening: 186 millioner query-dokument-par fra 594 datasett i 46 språk. Råfordeling 88,3 prosent tekst-til-tekst, 8,3 prosent tekst-til-bilde, 3,4 prosent visuelle dokumenter. Samplet 56,5 / 30,9 / 12,6. Benchmark-datasett er holdt utenfor treningen, ifølge laben.

Alle tall under er Perplexitys. Teknisk rapport kommer senere i år. Ingen uavhengig Artificial Analysis-plassering.

72 domenespesifikke tekstoppgaver, nDCG@10: 81,3 prosent for 9B, 78,0 for 0,6B. 9B leder labens eget felt med 1,6 poeng. 0,6B ligger 0,3 poeng bak gemini-embedding-2.

Q2D-Web, Recall@1000, Combined: 74,8 prosent (9B), 73,6 (0,6B). Forrige beste 69,3.

ViDoRe v3, sidebilder, nDCG@10: 65,2 (9B), 62,3 (0,6B). 9B bak Tencents EVIE. 0,6B innen 1,2 poeng av nemotron-colembed-v2-8b med 340M aktive på bilde.

ViDoRe v3 Markdown: 64,7 (9B), 61,2 (0,6B). 0,6B slår alle eksterne i labens tabell.

Asymmetri: indeks med 9B, query med 0,6B. ViDoRe v3 bilde 63,5 mot 62,3 med 0,6B på begge sider. 1,6 poeng i snitt på domenetekst. Querykost uendret.

MADQA, agentisk PDF-QA, 800 PDF-er, over 18 000 sider: 92,4 prosent (9B), 90,1 (0,6B) med Gemini 3.5 Flash som agent. Mixedbread-retriever 88,9. Mixedbread Agentic Search 93,4.

BrowseComp+: 9B 64,0 prosent, 4,9 poeng over neste ColBERT, 8,7 over neste dense.

Hva det betyr for CIO og CISO

Dette er self-host, ikke Perplexity-API. Forrige uke kom pplx-embed-v2-context. Dette er late-interaction, ikke dense. To produkter. Ikke bytt dem i innkjøp.

Personvernargumentet: PDF, slides og skannede sider embeds uten OCR og uten at sidene går til Perplexity. 0,6B kan kjøre query på enhet. 9B bygger indeks i eget datasenter. Det er GDPR-relevant for intern dokumentsøk. Det er ikke et ferdig DPIA.

Lisensen er MIT ifølge modellkortet. Kommersiell bruk. Juridisk gjennomgang hører hjemme i innkjøp.

CISO: on-device query fjerner sky-utlekk av spørsmål. Det fjerner ikke forsyningskjede. Ryggraden er Qwen3.5. Vektene kommer fra Perplexity via Hugging Face. CUDA-krav i modellkortet. Mixed text+image i samme kall er ikke støttet.

Lagringsregnestykket er den reelle kostnaden. Ett 128d-vektor per token, ikke én vektor per dokument. Indeks vokser med dokumentlengde. 128d er 16x til 32x smalere enn EVIE og Nemotron ColEmbed på 2 048 til 4 096, så per token er det billigere. Totalt er det likevel ikke en drop-in for dense ANN på milliardskala.

CIO-casen er visuell dokument-RAG: kontrakter, styrebøker, skannede arkiv, slides. OCR-pipen faller bort. Layout, tabeller og figurer blir i bildet. Agentisk søk over PDF-samlinger er labens sterkeste tall. Det er labens eval, ikke en SLA.

Begrensninger

Tallene er Perplexitys. Teknisk rapport er ikke ute. Ingen hosted API. Ingen uavhengig ranking. 0,6B er ikke nummer én på ViDoRe v3 bilde. Én input kan ikke blande tekst og bilde. Late-interaction krever annen indeks enn dense. Q2D-Web er labens egen web-eval. Dette er ikke en chatmodell og ikke en erstatning for Gemini Embedding 2 i sky.

Kilder og medier

Primærkilde: Perplexity, «Multimodal embeddings beyond a single vector», 7. oktober 2026. https://www.perplexity.ai/hub/blog/multimodal-embeddings-beyond-a-single-vector

Supplerende: Hugging Face, perplexity-ai/pplx-embed-v2-late-0.6b, MIT, 7. oktober 2026. https://huggingface.co/perplexity-ai/pplx-embed-v2-late-0.6b

Thumbnail: OpenAI Image 2 / hogby.ai