JittorLLMs windows 使用

JittorLLL 计图大模型推理库

  1. 成本低:相比同类框架,本库可大幅降低硬件配置要求(减少80%),没有显卡,2G内存就能跑大模型,人人皆可在普通机器上,实现大模型本地部署;是目前已知的部署成本最低的大模型库;
  2. 支持广:目前支持了4种大模型:ChatGLM大模型;鹏程盘古大模型;BlinkDL的ChatRWKV;国外Meta的LLaMA大模型

Jittor 官方文档

JittorLLMs macOS Apple Silicon 使用

JittorLLL 计图大模型推理库

  1. 成本低:相比同类框架,本库可大幅降低硬件配置要求(减少80%),没有显卡,2G内存就能跑大模型,人人皆可在普通机器上,实现大模型本地部署;是目前已知的部署成本最低的大模型库;
  2. 支持广:目前支持了4种大模型:ChatGLM大模型;鹏程盘古大模型;BlinkDL的ChatRWKV;国外Meta的LLaMA大模型

Jittor 官方文档

Markdown 数学公式排版 KaTex 语法

$\TeX$ 数学公式是以文本的形式和规则书写,由公式渲染器进行渲染,可以嵌入Markdown,HTML网页等内容。知名且广泛使用的数学JS渲染器支持有$MathJax$,$\KaTeX$ ,两者底层采用的都是 $\TeX$ 排版协议