• 请不要在回答技术问题时复制粘贴 AI 生成的内容
YVAN7123
V2EX  ›  程序员

有没有离线的代码补全软件?

  •  
  •   YVAN7123 · Jan 14, 2025 · 5845 views
    This topic created in 490 days ago, the information mentioned may be changed or developed.

    背景

    • 内网离线开发
    • 开发的一般是大数据组件相关的内容
    • 有部分源码
    • 由于是华为全套大数据组件, 外网没有环境,无法在外网开发

    期望

    • 把源码或者其他相关代码扔到 ai 里,
    • 写代码的时候给我提醒补全
    • 用 idea 和 vscode

    有没有相关的工具可以推荐一下。

    29 replies    2025-01-15 15:01:30 +08:00
    irrigate2554
        1
    irrigate2554  
       Jan 14, 2025
    昨天刚看到一个站内人的项目: https://github.com/TabbyML/tabby 模型下载好后应该可以离线使用
    securityCoding
        2
    securityCoding  
       Jan 14, 2025
    ollama 跑一个?
    yunyuyuan
        3
    yunyuyuan  
       Jan 14, 2025   ❤️ 1
    ollama+continue+openwebui
    chairuosen
        4
    chairuosen  
       Jan 14, 2025
    本机最大也就跑个 32b 的模型,跟在线 api 效果差得多
    miniliuke
        5
    miniliuke  
       Jan 14, 2025
    idea2024 不是自带吗?就是能力一般就是了
    clemente
        6
    clemente  
       Jan 14, 2025
    @chairuosen 今年不好说 嘿嘿
    lavvrence
        7
    lavvrence  
       Jan 14, 2025
    Ollama + continue.
    话说 deepseek v3 已经支持 Ollama 了。
    ganbuliao
        8
    ganbuliao  
       Jan 14, 2025
    vscode server
    配置 copilot 走本地网络
    {
    "remote.extensionKind": {
    "GitHub.copilot": [
    "ui"
    ],
    "GitHub.copilot-chat": ["ui"],

    "pub.name": [
    "ui"
    ]
    }
    }
    lyonll
        9
    lyonll  
       Jan 14, 2025
    @yunyuyuan 有模型推荐么,现在用 starcoder2+qwen2.5
    tomyark123
        10
    tomyark123  
       Jan 14, 2025
    lsp 不是离线的吗
    mioktiar56
        11
    mioktiar56  
       Jan 14, 2025
    离线了还怎么赚你钱
    spike0100
        12
    spike0100  
       Jan 14, 2025
    @jaylee4869 话说 671b 模型跑起来需要什么配置的机器啊😧
    xing7673
        13
    xing7673  
       Jan 14, 2025   ❤️ 2
    @spike0100 6 个 64g mac mini 或 3 个 m1u 128g mac studio 或 2 个 m2u 192 mac studio 或 4*80g a800+显卡 或者 8 * 48g 4090

    至少要 7 万+的预算
    isSamle
        14
    isSamle  
       Jan 14, 2025
    8 * 48g 4090 何止 7W+ 😂 @xing7673
    xing7673
        15
    xing7673  
       Jan 14, 2025
    @isSamle 嘛,最低我是按照 6*64g macmini 算的
    windgreen
        16
    windgreen  
       Jan 14, 2025
    ollama + codegeex + visual code
    5SZkjJ0vSK463pTo
        17
    5SZkjJ0vSK463pTo  
       Jan 14, 2025
    本机跑不动的,能跑动的不是智能是智障
    5SZkjJ0vSK463pTo
        18
    5SZkjJ0vSK463pTo  
       Jan 14, 2025
    如果有实力,可以自建机房
    yuedashi
        19
    yuedashi  
       Jan 14, 2025 via Android
    lmstudio
    PolarisY
        20
    PolarisY  
       Jan 14, 2025
    或许你可以研究研究内网穿透😂
    Genshin2020
        21
    Genshin2020  
       Jan 14, 2025
    ollama
    oncethink
        22
    oncethink  
       Jan 14, 2025
    推荐 tabby ,可以本地代码问答和,如果内存在 16GB 或以下,建议用 1.5b 的模型,再大速度就很慢了。

    如果使用 macOS ,直接用 brew install tabbyml/tabby/tabby ,然后访问后台注册账户,在设置界面拿到 token ,然后在 vscode 中装上 tabby 扩展,填入本地 tabby 服务地址和 token

    如果使用 ollama 做后端,可以参考下面配置:

    下面是一个使用 qwen2.5-coder:7b 的参考配置,你需要先用 ollama pull qwen2.5-coder:7b-base 和 qwen2.5-coder:7b ,前者适合做补全,后者适合做问答。

    ~/.tabby/config.toml
    ```
    # Completion model
    [model.completion.http]
    kind = "ollama/completion"
    model_name = "qwen2.5-coder:7b-base"
    api_endpoint = "http://localhost:11434"
    # prompt_template 不同的模型配置可能不一样,需要自己注意一下
    prompt_template = "<|fim_prefix|>{prefix}<|fim_suffix|>{suffix}<|fim_middle|>"

    # Embedding model
    [model.embedding.http]
    kind = "ollama/embedding"
    model_name = "bge-m3:latest"
    api_endpoint = "http://localhost:11434"

    # Chat model
    [model.chat.http]
    kind = "openai/chat"
    model_name = "qwen2.5-coder:7b"
    api_endpoint = "http://localhost:11434/v1"
    ```
    HK560
        23
    HK560  
       Jan 14, 2025
    同问,为了代码安全公司想要本地部署 ai 模型服务来辅助开发,目前就在找这种类似的解决方案,
    chenJianRong123
        24
    chenJianRong123  
       Jan 14, 2025
    Idea 最新版,不是可以补全吗
    raycool
        25
    raycool  
       Jan 14, 2025
    @HK560 他们不都有私有化部署方案吗?一年几十万。
    blackeeper
        26
    blackeeper  
       Jan 14, 2025
    docker 运行 openWebUI + ollama ,然后 vscode + continue 插件,离线写代码
    dengji85
        27
    dengji85  
       Jan 15, 2025
    @PolarisY 内网都是隔离的,没有外网,怎么穿透
    YVAN7123
        28
    YVAN7123  
    OP
       Jan 15, 2025
    @PolarisY #20 给叔叔网 内网穿透 你真想得到啊
    kibble5788
        29
    kibble5788  
       Jan 15, 2025
    https://code.fittentech.com/ 支持私有化部署,收费的,不差钱可以看看
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   937 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 76ms · UTC 20:35 · PVG 04:35 · LAX 13:35 · JFK 16:35
    ♥ Do have faith in what you're doing.