๋ชฉ๋ก2024/11 (3)

SJ_Koding

[LLM] Docker compose๋ฅผ ํ™œ์šฉํ•œ sLLM ํŒŒ์ธํŠœ๋‹ ๋ฐ ์ถ”๋ก  ์ž๋™ํ™”ํ•˜๊ธฐ ไธ‹ํŽธ - Docker compose

์—ฌ๋Ÿฌ๋ถ„์˜ ์†Œ์Šค์ฝ”๋“œ๊ฐ€ ๋‹ด๊ฒจ์žˆ๋Š” Docker Image๋ฅผ ์„ฑ๊ณต์ ์œผ๋กœ ๋นŒ๋“œํ–ˆ์Šต๋‹ˆ๋‹ค. ipynb๊ฐ€ ์•„๋‹Œ ์ด์ƒ ํ•™์Šต์„ ์‹คํ–‰ํ•˜๋Š” ์ฝ”๋“œ์™€ ์ถ”๋ก ์„ ์ง„ํ–‰ํ•˜๋Š” ์ฝ”๋“œ๊ฐ€ ๋ณ„๋„๋กœ ์กด์žฌํ•˜๊ณ , ํŠน์ • ๋ช…๋ น์„ ํ†ตํ•ด ์ˆ˜ํ–‰๋  ๊ฒƒ์ž…๋‹ˆ๋‹ค.   [LLM] Docker compose๋ฅผ ํ™œ์šฉํ•œ sLLM ํŒŒ์ธํŠœ๋‹ ๋ฐ ์ถ”๋ก  ์ž๋™ํ™”ํ•˜๊ธฐ ไธŠํŽธ - Docker Image ๋นŒ๋“œ๋Œ€ํ•™์ƒ๋•Œ ๋ถ€ํ„ฐ AI๋งŒ ์ „๊ณตํ•ด์˜ค๋‹ค๋ณด๋‹ˆ ๋ฐฑ์—”๋“œ ์ง€์‹์ด ํ„ฑ์—†์ด ๋ถ€์กฑํ•œ ๊ฒƒ์„ ๊นจ๋‹ซ๊ฒŒ ํ•ด์ค€ ํ”„๋กœ์ ํŠธ๋ฅผ ์ง„ํ–‰ํ•ด์™”์Šต๋‹ˆ๋‹ค.๊ทธ ์ค‘ Docker๋ฅผ ํ™œ์šฉํ•˜์—ฌ LLMํŒŒ์ธํŠœ๋‹ ๋ฐ ์ถ”๋ก ๋‹จ๊ณ„๋ฅผ ์ž๋™ํ™” ํ•  ์ˆ˜ ์žˆ๋„๋ก ๋งŒ๋“ค์–ดsjkoding.tistory.com LLMํŒŒ์ธํŠœ๋‹ ํŠน์„ฑ์ƒ ํ™˜๊ฒฝ์„ ๋ถ„ํ• ํ•  ํ•„์š”๊ฐ€ ์ ์Šต๋‹ˆ๋‹ค. trainํƒ€์ž…๊ณผ inferenceํƒ€์ž…์˜ ํ™˜๊ฒฝ์€ ๊ฑฐ์˜ ๋™์ผํ•˜๋ฉฐ ์†Œ์Šค์ฝ”๋“œ๋งŒ ์ฐจ์ด๊ฐ€ ๋‚˜๊ธฐ ๋•Œ๋ฌธ์— ์ด ๋•Œ๋ฌธ์— ..

LLM 2024. 11. 18. 10:12
๋ฐฑ์ค€ 12865: ๋ฐฐ๋‚ญ๋ฌธ์ œ (knapsack)(๊ณจ๋“œ V) - DP

(๋…๋ฐฑ์ฒด ๊ธ€)์˜ค๋žœ๋งŒ์— ์•Œ๊ณ ๋ฆฌ์ฆ˜ ์—ฐ์Šต์„ ํ•˜๋ ค๊ณ  ํ•œ๋‹ค. ๋ฐฐ๋‚ญ ๋ฌธ์ œ๋Š” DP๋ฅผ ์ž…๋ฌธํ• ๋•Œ ๋ฐ˜๋“œ์‹œ ๊ฑฐ์น˜๋Š” ๋ฌธ์ œ์ธ๋ฐ ์ œ๋Œ€๋กœ ์—ฐ์Šตํ•ด๋ณด๊ณ ์ž ๋‹ค์‹œ ํ•œ ๋ฒˆ ํ’€์—ˆ๋‹ค.DP๊ฐ€ ์–ด๋ ค์šด ์ด์œ ๋Š” ์ ํ™”์‹์„ ์„ธ์šฐ๋Š” ๊ฒƒ์ด ๋Œ€๋‹จํžˆ ์–ด๋ ต๋‹ค๊ณ  ๋Š๋‚€๋‹ค. ๋ฐฐ๋‚ญ๋ฌธ์ œ๋ฅผ ์ฒ˜์Œ ์ ‘ํ•˜๋ฉด ์ด ์—ญ์‹œ ์ ํ™”์‹์„ ์„ธ์šฐ๊ธฐ ์‰ฝ์ง€ ์•Š๊ณ  ์–ด๋–ป๊ฒŒ ์ ‘๊ทผํ•ด์•ผํ•˜๋Š”์ง€๋„ ๋ง‰๋ง‰ํ•˜๋‹ค.https://www.acmicpc.net/problem/12865๊ฐ„๋‹จํžˆ ๋งํ•˜๋ฉด 100๊ฐœ ์ด๋‚ด์˜ ๋ฌผ๊ฑด์€ ๊ฐ๊ฐ ๋ฌด๊ฒŒ์™€ ๊ฐ€์น˜๋ฅผ ๊ฐ€์ง€๊ณ  ์žˆ๊ณ . ์ด๋ฅผ K kg์ด๋‚ด๋กœ ๋ฌผ๊ฑด๋“ค์„ ์ตœ๋Œ€๋กœ ๋‹ด์„ ์ˆ˜ ์žˆ์„ ๋•Œ, ๋ฌผ๊ฑด์„ ์–ด๋–ป๊ฒŒ ๋‹ด์•„์•ผ ์ตœ๊ณ ์˜ ๊ฐ€์น˜๋ฅผ ์–ป์„ ์ˆ˜ ์žˆ๋Š”์ง€๋ฅผ ๋ฌป๋Š”๋‹ค. ๋ฌธ์ œ ์ดํ•ด ์ž์ฒด๋Š” ์–ด๋ ต์ง€ ์•Š๋‹ค.๋‹น์—ฐํžˆ ๋ชจ๋“  ๊ฒฝ์šฐ์˜ ์ˆ˜๋ฅผ ํƒ์ƒ‰ํ•˜๋Š” ์™„์ „ ํƒ์ƒ‰์„ ์ƒ๊ฐํ•ด ๋‚ผ ์ˆ˜ ์žˆ์ง€๋งŒ ๋ฌผ๊ฑด๋“ค์„ ๋‹ด๋ƒ or ์•ˆ๋‹ด๋ƒ๋กœ ๋ฌผ๊ฑด๋งˆ๋‹ค 2๊ฐœ์˜ ๊ฒฝ์šฐ์˜ ์ˆ˜๊ฐ€..

Algorithm 2024. 11. 15. 21:22
[LLM] Docker compose๋ฅผ ํ™œ์šฉํ•œ sLLM ํŒŒ์ธํŠœ๋‹ ๋ฐ ์ถ”๋ก  ์ž๋™ํ™”ํ•˜๊ธฐ ไธŠํŽธ - Docker Image ๋นŒ๋“œ

๋Œ€ํ•™์ƒ๋•Œ ๋ถ€ํ„ฐ AI๋งŒ ์ „๊ณตํ•ด์˜ค๋‹ค๋ณด๋‹ˆ ๋ฐฑ์—”๋“œ ์ง€์‹์ด ํ„ฑ์—†์ด ๋ถ€์กฑํ•œ ๊ฒƒ์„ ๊นจ๋‹ซ๊ฒŒ ํ•ด์ค€ ํ”„๋กœ์ ํŠธ๋ฅผ ์ง„ํ–‰ํ•ด์™”์Šต๋‹ˆ๋‹ค.๊ทธ ์ค‘ Docker๋ฅผ ํ™œ์šฉํ•˜์—ฌ LLMํŒŒ์ธํŠœ๋‹ ๋ฐ ์ถ”๋ก ๋‹จ๊ณ„๋ฅผ ์ž๋™ํ™” ํ•  ์ˆ˜ ์žˆ๋„๋ก ๋งŒ๋“ค์–ด์•ผํ–ˆ๋Š”๋ฐ ์ œ๊ฐ€ ์‚ฝ์งˆํ•˜๋ฉด์„œ ์–ป์€ ๋‚ด์šฉ๋“ค์„ ์—ฌ๊ธฐ์— ์ •๋ฆฌํ•ด๋ณด๊ณ ์ž ํ•ฉ๋‹ˆ๋‹ค. LLMํŠน์„ฑ์ƒ GPUํ™˜๊ฒฝ์„ ์‚ฌ์šฉํ•ด์•ผ๋งŒ ํ•ฉ๋‹ˆ๋‹ค. ์ €๋Š” ํ•˜๋‚˜์˜ GPUํ™˜๊ฒฝ๊ณผ ๋ชจ๋ธ์— ํ•„์š”ํ•œ ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ๋ฅผ ํ•˜๋‚˜์˜ Image๋กœ ๋งŒ๋“ค๊ณ , trainable data ์ƒ์„ฑ, LLM Finetuning(LoRA), LLM Inference๋ฅผ ์ง„ํ–‰ํ•˜๋Š” 3๊ฐœ์˜ ์ปจํ…Œ์ด๋„ˆ๋ฅผ ๋งŒ๋“ค์–ด Docker compose๋ฅผ ํ™œ์šฉํ•ด ์ˆœ์ฐจ์ ์œผ๋กœ ์‹คํ–‰๋˜๊ฒŒ๋” ์ž๋™ํ™”๋ฅผ ์‹œ์ผœ๋ณผ ์˜ˆ์ •์ž…๋‹ˆ๋‹ค. ์ค€๋น„๋ฌผ: Docker์—”์ง„ Docker compose(v2), ํ•™์Šต์šฉ ๋ฐ์ดํ„ฐ ์ฝ”๋“œ(json), LLM ํŒŒ์ธํŠœ..

LLM 2024. 11. 13. 10:46