發(fā)者必備入門(mén)教程)
10分鐘掌握Marin安裝與配置開(kāi)發(fā)者必備入門(mén)教程【免費(fèi)下載鏈接】marinOpen-source framework for the research and development of foundation models.項(xiàng)目地址: https://gitcode.com/GitHub_Trending/ma/marinMarin是一款開(kāi)源的基礎(chǔ)模型研發(fā)框架能幫助開(kāi)發(fā)者快速構(gòu)建和訓(xùn)練語(yǔ)言模型。本教程將帶你在10分鐘內(nèi)完成Marin的安裝與基礎(chǔ)配置讓你輕松開(kāi)啟基礎(chǔ)模型開(kāi)發(fā)之旅。 準(zhǔn)備工作安裝前的必備條件在開(kāi)始安裝Marin之前請(qǐng)確保你的系統(tǒng)滿足以下要求Python環(huán)境Python 3.12或更高版本包管理器uvPython包管理器版本控制Git構(gòu)建工具Rust工具鏈通過(guò)rustup安裝推薦版本1.91.0macOS用戶(hù)需額外安裝brew install cmake pkg-config coreutils此外建議準(zhǔn)備以下賬號(hào)以便更好地使用Marin的功能Weights Biases實(shí)驗(yàn)跟蹤Hugging Face模型和tokenizer訪問(wèn)? 快速安裝四步完成基礎(chǔ)部署1. 克隆代碼倉(cāng)庫(kù)約10秒首先使用Git克隆Marin倉(cāng)庫(kù)到本地git clone https://gitcode.com/gh_mirrors/ma/marin cd marin2. 創(chuàng)建并激活虛擬環(huán)境約0秒使用uv創(chuàng)建并激活Python虛擬環(huán)境uv venv --python 3.12 source .venv/bin/activate # Windows用戶(hù).venv\Scripts\activate3. 安裝依賴(lài)包5-10分鐘使用uv同步安裝所有依賴(lài)和Marin包uv sync --all-packages4. 環(huán)境變量配置設(shè)置必要的環(huán)境變量以啟用完整功能# Weights and Biases API密鑰從https://wandb.ai/authorize獲取 export WANDB_API_KEY你的API密鑰 # Hugging Face令牌從https://huggingface.co/settings/tokens獲取 export HF_TOKEN你的HF令牌 # artifacts存儲(chǔ)路徑 export MARIN_PREFIX/path/to/your/artifacts建議將這些環(huán)境變量保存在.env文件中方便后續(xù)使用source .env即可一次性加載所有配置。 硬件適配針對(duì)不同設(shè)備的優(yōu)化設(shè)置Marin支持CPU、GPU和TPU多種硬件加速你可以根據(jù)自己的設(shè)備選擇相應(yīng)的安裝命令CPU環(huán)境uv sync --all-packages --extracpuGPU環(huán)境首先安裝CUDA 12.9.0和cuDNN# 安裝CUDA wget https://developer.download.nvidia.com/compute/cuda/12.9.0/local_installers/cuda_12.9.0_575.51.03_linux.run sudo sh cuda_12.9.0_575.51.03_linux.run # 安裝cuDNN wget https://developer.download.nvidia.com/compute/cudnn/9.10.0/local_installers/cudnn-local-repo-ubuntu2404-9.10.0_1.0-1_amd64.deb sudo dpkg -i cudnn-local-repo-ubuntu2404-9.10.0_1.0-1_amd64.deb sudo cp /var/cudnn-local-repo-ubuntu2404-9.10.0/cudnn-*-keyring.gpg /usr/share/keyrings/ sudo apt-get update sudo apt-get -y install cudnn cudnn-cuda-12然后安裝GPU版本依賴(lài)uv sync --all-packages --extragpuTPU環(huán)境uv sync --all-packages --extratpu圖Marin的2D設(shè)備網(wǎng)格配置支持高效的分布式訓(xùn)練? 驗(yàn)證安裝運(yùn)行你的第一個(gè)實(shí)驗(yàn)安裝完成后你可以通過(guò)運(yùn)行一個(gè)簡(jiǎn)單的示例來(lái)驗(yàn)證系統(tǒng)是否正常工作# 禁用WandB日志可選 wandb offline # 運(yùn)行 TinyStories 訓(xùn)練示例 uv run python experiments/tutorials/train_tiny_model.py --device cpu --dataset tinystories這個(gè)命令將下載并 tokenize TinyStories 數(shù)據(jù)集到${MARIN_PREFIX}訓(xùn)練一個(gè)小型語(yǔ)言模型將模型 checkpoint 保存到${MARIN_PREFIX}/checkpoints/ 下一步探索Marin的強(qiáng)大功能恭喜你成功安裝并配置了Marin現(xiàn)在你可以查看First Experiment教程運(yùn)行完整的訓(xùn)練實(shí)驗(yàn)閱讀Language Modeling Pipeline了解Marin的語(yǔ)言模型構(gòu)建方法學(xué)習(xí)Lazy artifacts理解Marin的執(zhí)行模型圖Marin 8B模型的訓(xùn)練階段 timeline展示了從0到11.1T token的完整訓(xùn)練過(guò)程通過(guò)本教程你已經(jīng)掌握了Marin的基本安裝和配置方法?，F(xiàn)在你可以開(kāi)始使用這個(gè)強(qiáng)大的框架來(lái)開(kāi)發(fā)自己的基礎(chǔ)模型了【免費(fèi)下載鏈接】marinOpen-source framework for the research and development of foundation models.項(xiàng)目地址: https://gitcode.com/GitHub_Trending/ma/marin創(chuàng)作聲明：本文部分內(nèi)容由AI輔助生成（AIGC），僅供參考 10分鐘掌握Marin安裝與配置：開(kāi)發(fā)者必備入門(mén)教程
10分鐘掌握Marin安裝與配置開(kāi)發(fā)者必備入門(mén)教程【免費(fèi)下載鏈接】marinOpen-source framework for the research and development of foundation models.項(xiàng)目地址: https://gitcode.com/GitHub_Trending/ma/marinMarin是一款開(kāi)源的基礎(chǔ)模型研發(fā)框架能幫助開(kāi)發(fā)者快速構(gòu)建和訓(xùn)練語(yǔ)言模型。本教程將帶你在10分鐘內(nèi)完成Marin的安裝與基礎(chǔ)配置讓你輕松開(kāi)啟基礎(chǔ)模型開(kāi)發(fā)之旅。 準(zhǔn)備工作安裝前的必備條件在開(kāi)始安裝Marin之前請(qǐng)確保你的系統(tǒng)滿足以下要求Python環(huán)境Python 3.12或更高版本包管理器uvPython包管理器版本控制Git構(gòu)建工具Rust工具鏈通過(guò)rustup安裝推薦版本1.91.0macOS用戶(hù)需額外安裝brew install cmake pkg-config coreutils此外建議準(zhǔn)備以下賬號(hào)以便更好地使用Marin的功能Weights Biases實(shí)驗(yàn)跟蹤Hugging Face模型和tokenizer訪問(wèn)? 快速安裝四步完成基礎(chǔ)部署1. 克隆代碼倉(cāng)庫(kù)約10秒首先使用Git克隆Marin倉(cāng)庫(kù)到本地git clone https://gitcode.com/gh_mirrors/ma/marin cd marin2. 創(chuàng)建并激活虛擬環(huán)境約0秒使用uv創(chuàng)建并激活Python虛擬環(huán)境uv venv --python 3.12 source .venv/bin/activate # Windows用戶(hù).venv\Scripts\activate3. 安裝依賴(lài)包5-10分鐘使用uv同步安裝所有依賴(lài)和Marin包uv sync --all-packages4. 環(huán)境變量配置設(shè)置必要的環(huán)境變量以啟用完整功能# Weights and Biases API密鑰從https://wandb.ai/authorize獲取 export WANDB_API_KEY你的API密鑰 # Hugging Face令牌從https://huggingface.co/settings/tokens獲取 export HF_TOKEN你的HF令牌 # artifacts存儲(chǔ)路徑 export MARIN_PREFIX/path/to/your/artifacts建議將這些環(huán)境變量保存在.env文件中方便后續(xù)使用source .env即可一次性加載所有配置。 硬件適配針對(duì)不同設(shè)備的優(yōu)化設(shè)置Marin支持CPU、GPU和TPU多種硬件加速你可以根據(jù)自己的設(shè)備選擇相應(yīng)的安裝命令CPU環(huán)境uv sync --all-packages --extracpuGPU環(huán)境首先安裝CUDA 12.9.0和cuDNN# 安裝CUDA wget https://developer.download.nvidia.com/compute/cuda/12.9.0/local_installers/cuda_12.9.0_575.51.03_linux.run sudo sh cuda_12.9.0_575.51.03_linux.run # 安裝cuDNN wget https://developer.download.nvidia.com/compute/cudnn/9.10.0/local_installers/cudnn-local-repo-ubuntu2404-9.10.0_1.0-1_amd64.deb sudo dpkg -i cudnn-local-repo-ubuntu2404-9.10.0_1.0-1_amd64.deb sudo cp /var/cudnn-local-repo-ubuntu2404-9.10.0/cudnn-*-keyring.gpg /usr/share/keyrings/ sudo apt-get update sudo apt-get -y install cudnn cudnn-cuda-12然后安裝GPU版本依賴(lài)uv sync --all-packages --extragpuTPU環(huán)境uv sync --all-packages --extratpu圖Marin的2D設(shè)備網(wǎng)格配置支持高效的分布式訓(xùn)練? 驗(yàn)證安裝運(yùn)行你的第一個(gè)實(shí)驗(yàn)安裝完成后你可以通過(guò)運(yùn)行一個(gè)簡(jiǎn)單的示例來(lái)驗(yàn)證系統(tǒng)是否正常工作# 禁用WandB日志可選 wandb offline # 運(yùn)行 TinyStories 訓(xùn)練示例 uv run python experiments/tutorials/train_tiny_model.py --device cpu --dataset tinystories這個(gè)命令將下載并 tokenize TinyStories 數(shù)據(jù)集到${MARIN_PREFIX}訓(xùn)練一個(gè)小型語(yǔ)言模型將模型 checkpoint 保存到${MARIN_PREFIX}/checkpoints/ 下一步探索Marin的強(qiáng)大功能恭喜你成功安裝并配置了Marin現(xiàn)在你可以查看First Experiment教程運(yùn)行完整的訓(xùn)練實(shí)驗(yàn)閱讀Language Modeling Pipeline了解Marin的語(yǔ)言模型構(gòu)建方法學(xué)習(xí)Lazy artifacts理解Marin的執(zhí)行模型圖Marin 8B模型的訓(xùn)練階段 timeline展示了從0到11.1T token的完整訓(xùn)練過(guò)程通過(guò)本教程你已經(jīng)掌握了Marin的基本安裝和配置方法?，F(xiàn)在你可以開(kāi)始使用這個(gè)強(qiáng)大的框架來(lái)開(kāi)發(fā)自己的基礎(chǔ)模型了【免費(fèi)下載鏈接】marinOpen-source framework for the research and development of foundation models.項(xiàng)目地址: https://gitcode.com/GitHub_Trending/ma/marin創(chuàng)作聲明：本文部分內(nèi)容由AI輔助生成（AIGC），僅供參考