ALADOWN-阿拉下载
  • 首页
  • 栏目分类
    Website News
    Software Recommend
    WebSite Recommend
    Technical Tutorials
    Download Area
    eBOOK Palace
  • About Us
  • About Us
首页 标签 ollama 下的文章

Shimmy──无需 Python 的 Rust 推理服务器

Shimmy:轻量、免费、强大的本地 AI 推理服务,推理库比 Ollama 小 100 倍、启动快 50 倍、内存小 4 倍!支持 OpenAI API 兼容性、自动发现模型、热模型切换和 LoRA 适配器。 ####核心亮点 - 超轻量:相比 Ollama 的 680MB,Shimmy 只有 5.1MB,启动时间不到 100 毫秒,内存占用不到 50MB。 - 即插即用:无需复...

 Software Recommend,Technical Tutorials  2025-09-16 PM  450次  0条

博主动态 ~

日历

◄     ►
一 二 三 四 五 六 日
1
2 3 4 5
1
6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31

 栏目分类

  •  Website News327
  •  Software Recommend39
  •  WebSite Recommend5
  •  Technical Tutorials19
  •  Download Area37
  •  eBOOK Palace2

标签云

稳定版GOOGLEuploadUSB设备PERLIT168o c rPRIKE V2中转HEIFDATEwakodoIPV4FileStreamPHPCoupon Codehostnamectlset-hostnameFAVORITES浏览器iptable美国购物SWAPnezharesolve.conf征税FLASHVEN_IDEA敏感显卡加速婴幼儿童Stretch1@1.alipay尿素MTR登录数据库.NET百科全书rsyncscreen开源SSAE17隧道纽曼斯DHA主机名SENDMAILpublic key is not availableBT.CNCALCULATERapi上传大文件excel美国运费rust测试版Secondrealeseacme.shTECHWEB真假辨别国际惯例TIMESTAMPS路由检测密度优惠券TOOLS外网在线浏览腾讯云STORE软连接OFFICE 2016NPSPowerShellnetsh转发webchat微信百度地图液体钙WECHAT抓包企业微信VESORA健安喜邮政牛利兹ocservTFWINDOWS STOREsplit京东购物puff虚拟内存WIN10
© 2026 ALADOWN-阿拉下载 Powered by Typecho Theme by Echo