• 请不要在回答技术问题时复制粘贴 AI 生成的内容
pureGirl
V2EX  ›  程序员

pgvector 生成 embedding 好慢,是我用的方式有问题吗

  •  
  •   pureGirl · Sep 17, 2025 · 2018 views
    This topic created in 246 days ago, the information mentioned may be changed or developed.

    有没有能快速生成 embedding 的办法

    8 replies    2025-09-17 18:34:12 +08:00
    irrigate2554
        1
    irrigate2554  
       Sep 17, 2025
    pgvector 是纯 cpu 没有 gpu 加速的吧,你可以部署其它的 embedding 模型,生成向量后存储到 pg ,pg 只做存储和查询就快了。
    w568w
        2
    w568w  
       Sep 17, 2025
    > pgvector 生成 embedding 好慢

    pgvector 可以生成 embedding 吗?我理解它不是只负责储存、索引和检索吗,还管生成?
    rimworld
        3
    rimworld  
       Sep 17, 2025
    硅基找个做 embedding 的模型,最好和你用的对话模型是配套的。同意 2 楼的,这不是 pg 的拓展插件来方便保存,和提供一些方法来检索的吗?
    pureGirl
        4
    pureGirl  
    OP
       Sep 17, 2025
    @w568w 我用的这个方法生成的 from llama_index.vector_stores.postgres import PGVectorStore
    pureGirl
        5
    pureGirl  
    OP
       Sep 17, 2025
    @irrigate2554 生成 embedding 的过程也太慢了,千万级数据 embedding 生成不出来检索快有啥用
    dreasky
        6
    dreasky  
       Sep 17, 2025
    生成 embedding 速度慢不是 embedding 模型慢吗 跟 pg 有关系吗
    dzdh
        7
    dzdh  
       Sep 17, 2025
    生成不是模型做的吗? pgvector 不是只管 select 和 insert 吗
    beginor
        8
    beginor  
       Sep 17, 2025
    embedding 慢的话可以换个显卡加速的模型,关 pgvector 啥事? pgvector 只管存储和查询
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   5154 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 55ms · UTC 08:34 · PVG 16:34 · LAX 01:34 · JFK 04:34
    ♥ Do have faith in what you're doing.