valgrind qcachegrind 性能分析工具

介绍

qcachegrind 查看 valgrind 性能检测结果的工具

Valgrind 分析

https://stackoverflow.com/questions/69792467/memory-check-on-macos-12-monterey

安装:kcachegrind ,由于kcachegrind只能在kde环境下运行,所以需要安装 kdewin-installer-gui

JittorLLMs windows 使用

JittorLLL 计图大模型推理库

  1. 成本低:相比同类框架,本库可大幅降低硬件配置要求(减少80%),没有显卡,2G内存就能跑大模型,人人皆可在普通机器上,实现大模型本地部署;是目前已知的部署成本最低的大模型库;
  2. 支持广:目前支持了4种大模型:ChatGLM大模型;鹏程盘古大模型;BlinkDL的ChatRWKV;国外Meta的LLaMA大模型

Jittor 官方文档

JittorLLMs macOS Apple Silicon 使用

JittorLLL 计图大模型推理库

  1. 成本低:相比同类框架,本库可大幅降低硬件配置要求(减少80%),没有显卡,2G内存就能跑大模型,人人皆可在普通机器上,实现大模型本地部署;是目前已知的部署成本最低的大模型库;
  2. 支持广:目前支持了4种大模型:ChatGLM大模型;鹏程盘古大模型;BlinkDL的ChatRWKV;国外Meta的LLaMA大模型

Jittor 官方文档