There are no reviews yet. Be the first to send feedback to the community and the maintainers!
llama2-finetuning-deploy
์ด ํ๋ก์ ํธ๋ Amazon SageMaker์์ LLama2 Large Language Model (LLM)์ ๋ฏธ์ธ ์กฐ์ ํ๋ ๋ฐฉ๋ฒ์ ๋ณด์ฌ์ค๋๋ค. Hugging Face์ PEFT (Parameter Efficient Fine-tuning) ๊ธฐ๋ฒ๊ณผ QLoRA (Quantized Low-Rank Adapters)๋ฅผ ์ฌ์ฉํ์ฌ, ๋๊ท๋ชจ ์ธ์ด ๋ชจ๋ธ์ ๋ ํจ์จ์ ์ผ๋ก ๋ฏธ์ธ ์กฐ์ ํ ์ ์์ต๋๋ค.aws-graviton-getting-started-kr
์ด ์ ์ฅ์๋ AWS Graviton Technical Guide์ ํ๊ธ ๋ฒ์ญ๋ณธ์ ๋๋ค. ์ด ๋ฌธ์๋ 6์ธ๋ ๋ฐ 7์ธ๋ Amazon EC2 ์ธ์คํด์ค(C6g[d], M6g[d], R6g[d], T4g, X2gd, C6gn, Im4gn, Is4gen, G5g, C7g)๋ฅผ ๊ตฌ๋ํ๋ Arm ๊ธฐ๋ฐ AWS Graviton2 ๋ฐ Graviton3 ํ๋ก์ธ์๋ฅผ ์ ๊ท ์ฌ์ฉ์๊ฐ ์ฌ์ฉํ ์ ์๋๋ก ๋๊ธฐ ์ํด ์์ฑ๋์์ต๋๋ค.network-monitor
sagemaker-deploy-llms
AWS SageMaker๋ฅผ ์ด์ฉํ์ฌ HuggingFace์ Large Language Models(LLMs)์ ๋ฐฐํฌํ๊ณ , ์ ํ์ ์ผ๋ก ์คํธ๋ฆฌ๋ฐ์ ์ง์ํ๊ธฐ ์ํด Lambda ํจ์์ API Gateway๋ฅผ ์ค์ ํ๋ ํ๋ก์ ํธ์ ๋๋ค.Love Open Source and this site? Check out how you can help us