准备

• 良好的网络，下载容器镜像和模型非常需要

  • 配置代理等不属于本文范围

• 建议 盘大亿点点，后面会用到

• 安装好 容器

  • 建议 OrbStack 性能更好
  • docker

• 下载 ollama

安装 ollama

• 下载的安装包，解压后，拖拽到 应用程序 文件夹

构建预埋 buildID

通常情况下，你可能希望在编译时就 预埋 buildID ，在运行时直接读取 构建 id ，这通常在构建流程进行改造

例如在 Dockerfile 中或者 CI/CD 流水线中，你可以在构建命令中添加 -ldflags 参数来设置或访问

容器限制带宽

使用到 限流工具

• tc-docker

原理 通过控制容器中运行 Traffic Control Docker 守护进程

然后对任意目标容器进行流量限速

启动限速容器

• compose 启动限速容器实例

查看 docker 的磁盘占用

背景

docker 作为容器的管理者，自然提供了控制容器资源的功能。正如使用内核的 namespace 来做容器之间的隔离，docker 也是通过内核的 cgroups 来做容器的资源限制；包括 CPU、内存、磁盘三大方面，基本覆盖了常见的资源配额和使用量控制。

优化前申明

本文的优化要求，你必须熟练使用 linux 操作， 并严谨的调整配置，任何错误

• 轻则导致设备启动异常
• 重则导致数据丢失

NAS (network attached storage) 翻译成中文 网络附属存储，那么任何时候都需要一个稳定网络作为基础

• 不要使用无线网络（无线网络本身不稳定易被干扰）
• 保证 点对点 设备的网络本身不存在问题，一般使用 iperf3 进行验证

NAS 调优前需要准备的