๋ชฉ๋ก2024/11/18 (1)

SJ_Koding

[LLM] Docker compose๋ฅผ ํ™œ์šฉํ•œ sLLM ํŒŒ์ธํŠœ๋‹ ๋ฐ ์ถ”๋ก  ์ž๋™ํ™”ํ•˜๊ธฐ ไธ‹ํŽธ - Docker compose

์—ฌ๋Ÿฌ๋ถ„์˜ ์†Œ์Šค์ฝ”๋“œ๊ฐ€ ๋‹ด๊ฒจ์žˆ๋Š” Docker Image๋ฅผ ์„ฑ๊ณต์ ์œผ๋กœ ๋นŒ๋“œํ–ˆ์Šต๋‹ˆ๋‹ค. ipynb๊ฐ€ ์•„๋‹Œ ์ด์ƒ ํ•™์Šต์„ ์‹คํ–‰ํ•˜๋Š” ์ฝ”๋“œ์™€ ์ถ”๋ก ์„ ์ง„ํ–‰ํ•˜๋Š” ์ฝ”๋“œ๊ฐ€ ๋ณ„๋„๋กœ ์กด์žฌํ•˜๊ณ , ํŠน์ • ๋ช…๋ น์„ ํ†ตํ•ด ์ˆ˜ํ–‰๋  ๊ฒƒ์ž…๋‹ˆ๋‹ค.   [LLM] Docker compose๋ฅผ ํ™œ์šฉํ•œ sLLM ํŒŒ์ธํŠœ๋‹ ๋ฐ ์ถ”๋ก  ์ž๋™ํ™”ํ•˜๊ธฐ ไธŠํŽธ - Docker Image ๋นŒ๋“œ๋Œ€ํ•™์ƒ๋•Œ ๋ถ€ํ„ฐ AI๋งŒ ์ „๊ณตํ•ด์˜ค๋‹ค๋ณด๋‹ˆ ๋ฐฑ์—”๋“œ ์ง€์‹์ด ํ„ฑ์—†์ด ๋ถ€์กฑํ•œ ๊ฒƒ์„ ๊นจ๋‹ซ๊ฒŒ ํ•ด์ค€ ํ”„๋กœ์ ํŠธ๋ฅผ ์ง„ํ–‰ํ•ด์™”์Šต๋‹ˆ๋‹ค.๊ทธ ์ค‘ Docker๋ฅผ ํ™œ์šฉํ•˜์—ฌ LLMํŒŒ์ธํŠœ๋‹ ๋ฐ ์ถ”๋ก ๋‹จ๊ณ„๋ฅผ ์ž๋™ํ™” ํ•  ์ˆ˜ ์žˆ๋„๋ก ๋งŒ๋“ค์–ดsjkoding.tistory.com LLMํŒŒ์ธํŠœ๋‹ ํŠน์„ฑ์ƒ ํ™˜๊ฒฝ์„ ๋ถ„ํ• ํ•  ํ•„์š”๊ฐ€ ์ ์Šต๋‹ˆ๋‹ค. trainํƒ€์ž…๊ณผ inferenceํƒ€์ž…์˜ ํ™˜๊ฒฝ์€ ๊ฑฐ์˜ ๋™์ผํ•˜๋ฉฐ ์†Œ์Šค์ฝ”๋“œ๋งŒ ์ฐจ์ด๊ฐ€ ๋‚˜๊ธฐ ๋•Œ๋ฌธ์— ์ด ๋•Œ๋ฌธ์— ..

LLM 2024. 11. 18. 10:12