站点图标 Linux-技术共享

电脑或手机上搞一个速度快、不联网、不花钱的 AI 模型

如果你想在自己的电脑或手机上搞一个速度快、不联网、不花钱的 AI 模型。
那可以去试下 Nexa SDK 这个开源项目。
它可以说是目前市面上集成度最高、工具链最完整的开源方案之一。
GitHub:https://github.com/NexaAI/nexa-sdk
靠着自研的模型压缩技术,即便完全断网,它也能在几毫秒内搜遍本地几千张相片。
处理上万份敏感文档也不在话下,数据始终留在本地,安全性与隐私性远超云端模型 API。
无缝兼容 OpenAI API 接口,方便我们直接集成到现有的开发工作流当中。
另外,它还提供开箱即用的命令行工具,一行代码就能完成模型的下载与运行,上手特别简单。

 

退出移动版