Shimmy──无需 Python 的 Rust 推理服务器

Shimmy:轻量、免费、强大的本地 AI 推理服务,推理库比 Ollama 小 100 倍、启动快 50 倍、内存小 4 倍!支持 OpenAI API 兼容性、自动发现模型、热模型切换和 LoRA 适配器。 ####核心亮点 - 超轻量:相比 Ollama 的 680MB,Shimmy 只有 5.1MB,启动时间不到 100 毫秒,内存占用不到 50MB。 - 即插即用:无需复...

Software Recommend,Technical Tutorials 2025-09-16 PM 3次 0条

一键安装Linux内核并开启BBR或者BBR Plus

功能说明 Features - 安装各个版本的 Linux 内核 包括最新的5.16内核 和 所有LTS内核. 例如 5.10 LTS, 5.4 LTS, 4.19 LTS, 4.14 LTS - 开启 BBR / BBR Plus / BBR2 网络加速, 切换 FQ / FQ-Codel / FQ-PIE / CAKE 队列调度算法. - 支持 Debian9+, Ubuntu 1...

Technical Tutorials 2025-09-16 PM 4次 0条

连接CF WARP为服务器添加IPv4/IPv6网络

####脚本特点 - 支持 WARP+ 账户,附带第三方刷 WARP+ 流量和升级内核 BBR 脚本 - 普通用户友好的菜单,进阶者通过后缀选项快速搭建 - 智能判断vps操作系统:Ubuntu 16.04、18.04、20.04; Debian 9、10、11,CentOS 7、8; Alpine 和 Arch Linux,请务必选择 LTS 系统 - 智能判断硬件结构类型:A...

Technical Tutorials 2025-09-16 PM 5次 0条

nftables nat规则生成器

基于nftables的端口转发管理工具 ####优势 - 实现动态nat:自动探测配置文件和目标域名IP的变化,除变更配置外无需任何手工介入 - 支持IP和域名 - 支持单独转发tcp或udp - 支持转发到本机其他端口(nat重定向) - 以配置文件保存转发规则,可备份或迁移到其他机器 - 自动探测本机ip - 支持自定义本机ip - 开机自启动 - 支持端口段 ...

Technical Tutorials 2025-09-16 PM 5次 0条