yjhatfdu2's recent timeline updates yjhatfdu2's recent timeline updates |
yjhatfdu2V2EX member #457268, joined on 2019-12-04 10:30:20 +08:00Today's activity rank 15563 |
| 27 寸 4k 办公屏连 mac 有什么好选择呢？ Apple • yjhatfdu2 • Nov 14, 2024 • Lastly replied by allinschroe | 9 |
| mac mini m4 默认风扇策略很离谱 Apple • yjhatfdu2 • Nov 19, 2024 • Lastly replied by willyeon99 | 23 |
| 现在 Apple store 线下还能买新机旧机折抵吗？ Apple • yjhatfdu2 • Nov 7, 2024 • Lastly replied by lqcc | 4 |
| 最近自己造了个数据库 数据库 • yjhatfdu2 • May 23, 2024 • Lastly replied by baidu2022 | 5 |
| 浏览器性能测试 speedometer3.0 发布，分数计算被重构 程序员 • yjhatfdu2 • Jun 16, 2024 • Lastly replied by UchihaJay | 17 |
yjhatfdu2's recent replies
老板这是想招一个 Agent
11 days ago Replied to a topic by sentinelK › Local LLM › lama.cpp 目前有重大性能 bug： checkpoint 的巡回逻辑对于混合模型（比如 qwen3.6-27B）无效，从而导致大概率每次对话都要 prefill 全文，严重拖慢速度 |
不是 windows 的问题，是 vllm 的问题，我在 Linux 上一样遇到，似乎是不限制图片数量和大小，会被 multimodel 模块初始化的时候 profile 占用大量内存，我 128G 照样被爆，算是 vllm 的问题吧
11 days ago Replied to a topic by sentinelK › Local LLM › lama.cpp 目前有重大性能 bug： checkpoint 的巡回逻辑对于混合模型（比如 qwen3.6-27B）无效，从而导致大概率每次对话都要 prefill 全文，严重拖慢速度 |
@sentinelK 我也遇到了，需要设置--limit-mm-per-prompt 把图片数量和视频数量和大小减少，--mm-processor-cache-gb 设的比较小比如 0.5
May 25 Replied to a topic by archxm › 奇思妙想 › 关于零碎数据存放问题 |
cloudflare R2 ？
May 20 Replied to a topic by letmatte › 问与答 › 昇腾是目前性价比最高的推理 GPU 吗？ |
不如 RTX PRO 6000
Apr 8 Replied to a topic by ahdw › Local LLM › 闲置 16GB M1 Pro MBP 跑大模型 |
这个问题我在 omlx 上遇到过，似乎是你设置的上下文大小，不是比较整数的值，比如你填个 32768 或者 65536 试试
Feb 5 Replied to a topic by inyfee › 程序员 › 从之前的反重力账号不能用了之后，我试用了一个星期的 kimi k2.5，评价是不好用 |
我都用的 opencode 连接官方的收费 API ，试下来 K2.5 是不如 M2.1 的。K2.5 慢、轴、蠢，反复错误修复不正确，而且关于任务的理解就很不到位。M2.1 虽然也不算出色（和 GPT5.2 、opus 比），但是快、基本可以正确
Feb 2 Replied to a topic by uuundefined › 程序员 › 谷歌号风控了，深度体验了下 k2.5。还是很垃圾啊 |
确实垃圾，看了下我在 moonshot 居然还有余额，用的官方的 API 接 opencode ，又慢又蠢而且反复出错，根本不如 M2.1 ，当然都远不如 gpt-5.2-codex 和 claude
Jan 27 Replied to a topic by Loser110 › 程序员 › PHP 网站重构， Rust/ Python + PostgreSQL + astro+solid，大家觉得怎么样子 |
当然是考虑一下新一代的 next.js ，新一代的 php😅
Jan 26 Replied to a topic by MagicCoder › 程序员 › 拥抱 PostgreSQL 支持 UI 配置化 |
@MagicCoder duckdb 的 pg_duckdb 插件并不是很适合。首先，你还是需要 pg ，pg 需要单独部署，不能集成到应用里面，作为轻量化的，必然增加了部署的复杂度。第二，pg 需要部署 pg_duckdb 插件需要自行编译或者使用特定的发行版，还是有一定复杂度的。第三，pg_duckdb 主要是方便使用 pg 访问、查询外部 parquet 等文件，或者联合 pg 本地表进行分析查询。但是还是需要走 pg 的协议、parser 等，也没法直接写入 duckdb 自己的库，对于现在这个场景降低了性能，提高了复杂度。
Select Language