Llama 3.1是Meta最新推出的开源大语言模型，包括90B和11B两种参数规格的视觉大语言模型，还有能在设备端本地运行的1B和3B轻量级纯文本模型，包括预训练和指令调整版。1B和3B模型支持128K tokens上下文，适配高通和联发科硬件，并针对Arm处理器做了优化。

Open Source AI Cookbook-开源 AI 指南 (Cookbook) 是一系列 Notebook 的合集，里面展示了如何利用开源工具和模型来开发 AI 应用和解决各种机器学习问题的实际技巧和方法，这些笔记都提供了实际的示例和指导，帮助开发人员利用开源工具和模型来解决机器学习问题并开发AI应用。

GPT4All一个免费开源使用、本地运行的、注重隐私的LLM 聊天机器人，无需 GPU 或互联网，可在 CPU 和几乎任何 GPU 上本地运行的开源大型语言模型。支持Windows、macOS和linux，下载安装完后，选择需要的模型下载即可使用，也支持使用openai key进行使用，响应迅速，功能实用。