各位 Solo 圈的朋友们好
最近把做的一个小产品 NanoScene AI 搞上线了,这是一个主打极速、低算力成本的 AI 图像生成与编辑的 Web App。因为是自己独立开发的第一步,想在这里真诚地和大家分享一下我的技术方案、遇到的坑以及开发初衷,顺便希望能收获大家的一些真实意见。
目前市面上的主流生图工具(比如 Midjourney,或者某些大厂的 SD 托管服务),普遍面临两个痛点:
后来我注意到了 Nano Banana 2 Lite 模型。虽然它是一个 distilled(蒸馏)过的轻量级模型,但生图效率极高,单图推理成本折合下来很低。于是我想,为什么不利用这个引擎,做一个极速、低成本,且在浏览器里开箱即用的生图工作流呢?
为了让整套服务做到零硬件维护成本,且在冷启动阶段几乎不产生服务器开销,我采用了以下全 Serverless 架构:
因为服务器开销基本就是 Cloudflare 的免费额度或低额计费,所以我们有底气给所有注册用户每天赠送免费额度,供大家随便折腾。
在部署到 Cloudflare Workers 的过程中,有几个细节让我折腾了不少时间,分享给准备走类似技术路线的朋友:
.env 或 Workers 的环境变量中。但这样不方便在运行时灵活切换和控制。后来我们重新设计了流程:把 API 密匙加密存储在 D1 数据库中。读取时,通过一个统一的 getAllConfigs() 在服务端读取,由解密 Key(存放在 Workers 环境变量中保护)实时解密,且有内存缓存。这个设计虽然多走了一步,但极大地提升了 SaaS 模板后续变现和多接口动态管理的灵活性。/zh 前缀。这在配合 Nitro 服务端 API 路由时,需要仔细编写重写规则,否则会导致 API 调用 404。建议使用 locale-free 的路径进行内联导航,让路由库自动补全前缀。目前 NanoScene AI 已经实现了:
下一步规划: 目前在尝试做基于轻量模型的视频生成能力,如果大家有兴趣,我很乐意在后续帖子中继续分享视频 pipeline 在 Cloudflare Workers 上的踩坑体验。
产品刚上线,肯定有很多不完美的地方(尤其是移动端适配和生图参数的调节)。非常期待社区各位大佬的板砖:
再次感谢大家能读到这里!