爱意满满的作品展示区。
M9l7chlLGv

ARPK - 让本地大模型帮你翻译,兼容 DeepLX API

  •  
  •   M9l7chlLGv · Aug 30, 2024 · 2880 views
    This topic created in 626 days ago, the information mentioned may be changed or developed.

    玩 SillyTavern 的时候突发奇想:能不能让模型自己翻译自己?

    看了下好像没人做,于是就写了: https://github.com/moeru-ai/arpk

    本地搭建好 Ollama,通过 node.js npx 运行 ARPK 服务端:

    ARPK_MODEL="llama3.1" npx arpk
    

    它通过 DeepLX 相同的端口和 API 提供服务,所以应该能兼容任何支持 DeepLX 的应用

    await fetch('http://127.0.0.1:1188/translate', {
      body: JSON.stringify({
        source_lang: 'JA',
        target_lang: 'ZH',
        text: '雨の季節が過ぎ 澄み渡る空を 眺めて独り想フ'
      }),
      method: 'POST'
    }).then(res => res.json())
    // {
    //   alternates: [],
    //   code: 200,
    //   data: '雨季过后,晴朗的天空下我独自遐思。',
    //   id: 1519129853500,
    //   method: 'ARPK',
    //   source_lang: 'JA',
    //   target_lang: 'ZH'
    // }
    

    Docker 镜像还没写,以后会有。

    5 replies    2024-08-30 12:01:56 +08:00
    zagfai
        1
    zagfai  
       Aug 30, 2024
    翻译效果有限吧
    M9l7chlLGv
        2
    M9l7chlLGv  
    OP
       Aug 30, 2024
    @zagfai 有优化空间,可以更换模型或者自定义 prompt 以尝试得到更好的结果
    zagfai
        3
    zagfai  
       Aug 30, 2024
    主要是本地,硬件有限
    M9l7chlLGv
        4
    M9l7chlLGv  
    OP
       Aug 30, 2024
    @zagfai 这就没办法了,我也不想这个项目太复杂,所以只依赖了 ollama 的 js 库
    不需要本地翻译的话 DeepLX 会更方便
    unclemcz
        5
    unclemcz  
       Aug 30, 2024 via Android   ❤️ 1
    @zagfai #3 本地模型可以试一下 qwen2:1.5b ,翻译效果和 qwen1. 5 比,有很大提升。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1600 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 33ms · UTC 16:46 · PVG 00:46 · LAX 09:46 · JFK 12:46
    ♥ Do have faith in what you're doing.