再次更新
Strata 0.2.7.1 支持在 NVIDIA DGX Spark(Linux ARM64)上运行,DeepSeek-V4.1-Flash 则支持在 Apple 芯片 Mac 上运行
就在刚刚,开发者直接修改了 v0.2.7 发布页面,新增 0.2.7.1 更新说明:
在拥有 128GB 统一内存的 M5 Max 上(还需要250GB以上磁盘空间),运行 DeepSeek V4.1-Flash:
暂时只能通过命令行运行。
Strata 现在可以运行在 NVIDIA DGX Spark 之上了,支持 Qwen3.8-Flash-Next 和 DeepSeek V4.1-Flash,提示词处理速度提升约 20%~24%,但文本生成速度基本没有变化。
以下内容针对 Strata 0.2.7:
Strata 优化了只有 12GB 显存的显卡性能,让 RTX 3060 生成代码的速度快了 37%。@Appinn

本周一,青小蛙还在吐槽上个版本:Strata 请不要抛弃老用户:

也就两天时间,Strata 0.2.7 发布了,对应引擎 0.1.52 版本,重点优化了低显存 NVIDIA 显卡的推理性能。
根据开发者的测试,一张 RTX 3060 12GB 显卡,在运行 Qwen3.8-Flash-Next IQ3_XXS 模型时:
Strata 的主要用途,是让显存有限、但拥有较多系统内存的普通电脑运行大型 AI 模型(甚至在内存不够的情况下,用 SSD)。Strata 会将部分模型数据放在系统内存中,需要时再传输到显卡参与计算。
问题是:显卡需要的专家模型数据,如果不在显存里,就得从内存中调入。
频繁传输自然会拖慢推理速度。
0.2.7 引入了一项新的优化:让模型在选择专家时,优先考虑已经驻留在显存中的专家。
由于专家选择可能发生变化,生成结果也可能与原来不同。
开发者在 RTX 3060 12GB 上进行了 80 项测试,未发现文案或代码错误。
但 Agent 自动化任务的测试结果略有下降:开启优化后,10 项任务平均通过 4.5 项,关闭优化时平均通过 5.6 项。
开发者还尝试过更激进的加速设置,结果出现了文本和代码错误。因此,正式版采用了相对保守的默认参数。
这项功能针对 显存不超过 13GiB 的独立 NVIDIA 显卡,默认开启,例如常见的 RTX 3060 12GB、RTX 4060 8GB 等显卡都属于适用范围。
其他显卡不会默认启用这项优化。
除了低显存显卡加速,Strata 0.2.7 还带来了几项值得关注的功能:
这篇文章对你有帮助吗?