Skip to content

Latest commit

 

History

History
22 lines (17 loc) · 1.56 KB

README.md

File metadata and controls

22 lines (17 loc) · 1.56 KB

BigDL-LLM 教程

English | 中文

BigDL-LLM 是一个为Intel XPU (包括CPU和GPU) 打造的轻量级大语言模型加速库。本代码仓库包含了若干关于BigDL-LLM的教程,能帮助你理解什么是BigDL-LLM,以及如何使用BigDL-LLM 来开发基于大语言模型的应用。

教程组织如下:

  • 第1章 概览 介绍了什么是 BigDL-LLM以及您可以用它做什么。
  • 第2章 环境准备 提供了一组最佳实践,用于设置您的环境。
  • 第3章 应用开发基础 介绍了 BigDL-LLM 的基本用法,以及如何构建一个最简单的聊天应用。
  • 第4章 中文支持 展示了一些支持中文输入/输出的大语言模型的用法,例如ChatGLM2、Baichuan。
  • 第5章 中级应用开发 介绍了使用 BigDL-LLM 进行应用开发的中级知识,例如如何构建更复杂的聊天机器人、如何做语音识别等。
  • 第6章 GPU加速 介绍了如何用BigDL-LLM在Intel GPU上加速LLM应用。
  • 第7章 微调 介绍了如何使用 BigDL-LLM 进行微调。
  • 第8章 高级应用开发 介绍了使用 BigDL-LLM 进行应用开发的高级知识,例如langchain的使用。