智譜chatglm3本地私有化部署的環境配置和檢查包括以下幾個方面:硬件要求、操作系統、python環境、gpu支持、依賴庫安裝、模型下載、配置文件以及測試和驗證。確保服務器或計算機滿足智譜chatglm3的硬件要求,包括處理器、內存和存儲等。支持的操作系統有linux、windows和macos,需確保符合智譜chatglm3的要求。安裝python并配置相關環境,通常需要python 3.10或更高版本。如果使用gpu進行模型訓練和推理,需要安裝相應的gpu驅動和cuda工具包,并確保gpu與智譜chatglm3兼容。安裝所需的依賴庫,如tensorflow、numpy等。下載智譜chatglm3的模型文件,并根據需求修改配置文件。最后,進行測試和驗證,確保智譜chatglm3可以正常運行。請注意,具體部署和配置可能會因個人需求和環境而有所差異,建議參考智譜chatglm3的官方文檔或開發者指南。
1.1操作系統1.2硬件環境1.3軟件環境1.3.1Python環境&檢查環境命令Python:可以使用python3.10 –version或python3.10 -V來檢查版本。
pip:可以通過pip3.10 –version或pip3.10 -V來檢查版本。
確保python與pip版本一致,可以使用python3.10 -m pip –version來驗證,正確的輸出如圖:
錯誤的輸出如圖:
2快速使用(推理部署)2.1源碼安裝與運行2.2克隆代碼和模型下載源碼模型基礎運行代碼已經上傳到github和SwanHub兩個平臺,開發者可以通過以下方式下載模型代碼。
從github下載源碼:
git clone https://github.com/THUDM/ChatGLM3.git
從SwanHub下載源碼:
git clone https://swanhub.co/Zhipuai/ChatGLM3.git
開發者可以通過以下方式下載模型文件。在下載模型文件前,請確保已安裝git lfs命令。模型文件已上傳至Huggingface、Modelscope和SwanHub三個平臺,用戶可以快速安裝模型。
若使用Huggingface下載模型,windows的安裝命令為git lfs install,linux的安裝命令為:
sudo apt-get install git-lfs # 對于Debian/Ubuntu sudo yum install git-lfs # 對于centos/RHEL git lfs version # 查看版本
若使用Modelscope下載模型:
git lfs install git clone https://www.modelscope.cn/ZhipuAI/chatglm3-6b.git
若使用SwanHub下載模型:
git lfs install git clone https://swanhub.co/ZhipuAI/chatglm3-6b.git
2.3檢查文件的完整性用戶在下載完模型后請檢查每個文件的完整性,以下是模型文件的sha256校驗碼:
# sha256 checksums for chatglm3-6b 4d5567466e89625dbd10e51c69a02982f233a10108cf232a379defdbb065ae0b pytorch_model-00001-of-00007.bin 4ad41534016ac4a2431fa2d4b08efbe28f963744135ec52b2ea13cc86730fa2a pytorch_model-00002-of-00007.bin a2be9b17c332a8345e787953d4879caee4747ad4b263f013aa3c4654c94c3d24 pytorch_model-00003-of-00007.bin b5526891e1b4c8edd2e3688df5156aa107e2140fe7e3f9d0d54f9cbe3b6ee3b5 pytorch_model-00004-of-00007.bin 84bb18a476f74beaf4d941733bd1c475791eba799b228f78d0165de989cb7a40 pytorch_model-00005-of-00007.bin 1181875a2dc30fba968d72d0fc4628b9a60d3866bf680eb14b9822b5b504830f pytorch_model-00006-of-00007.bin 1271b638dc0a88206d1c7a51bcaa862410eb56f3e59fd0068a96e96cb5e3f4f0 pytorch_model-00007-of-00007.bin e7dc4c393423b76e4373e5157ddc34803a0189ba96b21ddbb40269d31468a6f2 tokenizer.model <h1>sha256 checksums for chatglm3-6b-32k</h1><p>39aeddd81596b2d66d657687a7328ebc7f8850e8ea83fa74080da59f7d2f7afc pytorch_model-00001-of-00007.bin 2525475ea2d483ecc15a15ad4e016ee0155e628ac66f15cd54daa6c811193e92 pytorch_model-00002-of-00007.bin faa1d884168a125af5105c4ee4c59fdac79f847b35a7389e0122a562995d34db pytorch_model-00003-of-00007.bin 66492c02ed13189202c7e46a121e308cf0ebbcf8141ecf3d551141aecfac7120 pytorch_model-00004-of-00007.bin 870bb2bb4a289b8ab37cce88f56e93381ff428063b3d0065994a3dd2e830cb32 pytorch_model-00005-of-00007.bin a5f39ca17ba89e47e484d3b20d4ff78f4fb9b1b24bd3dfb314eff91ff6e37230 pytorch_model-00006-of-00007.bin 7c8a8f3e881202ac3a9ab2638ce30147f67d4bd799624c24af66406a6ba22db2 pytorch_model-00007-of-00007.bin e7dc4c393423b76e4373e5157ddc34803a0189ba96b21ddbb40269d31468a6f2 tokenizer.model</p><h1>sha256 checksums for chatglm3-6b-base</h1><p>b6a6388dae55b598efe76c704e7f017bd84e6f6213466b7686a8f8326f78ab05 pytorch_model-00001-of-00007.bin 2f96bef324acb5c3fe06b7a80f84272fe064d0327cbf14eddfae7af0d665a6ac pytorch_model-00002-of-00007.bin 2400101255213250d9df716f778b7d2325f2fa4a8acaedee788338fceee5b27e pytorch_model-00003-of-00007.bin 472567c1b0e448a19171fbb5b3dab5670426d0a5dfdfd2c3a87a60bb1f96037d pytorch_model-00004-of-00007.bin ef2aea78fa386168958e5ba42ecf09cbb567ed3e77ce2be990d556b84081e2b9 pytorch_model-00005-of-00007.bin 35191adf21a1ab632c2b175fcbb6c27601150026cb1ed5d602938d825954526f pytorch_model-00006-of-00007.bin b7cdaa9b8ed183284905c49d19bf42360037fdf2f95acb3093039d3c3a459261 pytorch_model-00007-of-00007.bin e7dc4c393423b76e4373e5157ddc34803a0189ba96b21ddbb40269d31468a6f2 tokenizer.model
2.4安裝依賴可以使用pip安裝基本依賴:
cd ChatGLM3 pip install -r requirements.txt
如果你擔心你的配置不滿足最低配置,可以訪問環境配置和檢查獲取更多信息。
Linux環境安裝cuda:
解決方案:升級gpu版本(已安裝就卸載掉重新安裝)。安裝方法: