| ์ผ | ์ | ํ | ์ | ๋ชฉ | ๊ธ | ํ |
|---|---|---|---|---|---|---|
| 1 | 2 | |||||
| 3 | 4 | 5 | 6 | 7 | 8 | 9 |
| 10 | 11 | 12 | 13 | 14 | 15 | 16 |
| 17 | 18 | 19 | 20 | 21 | 22 | 23 |
| 24 | 25 | 26 | 27 | 28 | 29 | 30 |
- ๋ฐฑ์ค
- outer join
- BFS
- bottleneck
- SQL
- ์ ๊ทํ
- Inductive Bias
- Depthwise Separable Convolution
- skip connection
- ๋ฐ์ดํฐ๋ชจ๋ธ๋ง
- ์ํฐํฐ
- pytorch
- mobilenet
- numpy
- ์ธ์ ํ๋ ฌ
- Two Pointer
- ์ธ์ ๋ฆฌ์คํธ
- feature map
- get_dummies()
- SQLD
- dp
- dfs
- ๊ทธ๋ํ
- depthwise convolution
- 1x1 Convolution
- CROSS JOIN
- resnet
- ์ฐ์ฐ๋ ๊ฐ์
- ์๋ณ์
- SQLD ํ๊ธฐ
- Today
- Total
๋ชฉ๋ก2024/11/13 (1)
SJ_Koding
[LLM] Docker compose๋ฅผ ํ์ฉํ sLLM ํ์ธํ๋ ๋ฐ ์ถ๋ก ์๋ํํ๊ธฐ ไธํธ - Docker Image ๋น๋
๋ํ์๋ ๋ถํฐ AI๋ง ์ ๊ณตํด์ค๋ค๋ณด๋ ๋ฐฑ์๋ ์ง์์ด ํฑ์์ด ๋ถ์กฑํ ๊ฒ์ ๊นจ๋ซ๊ฒ ํด์ค ํ๋ก์ ํธ๋ฅผ ์งํํด์์ต๋๋ค.๊ทธ ์ค Docker๋ฅผ ํ์ฉํ์ฌ LLMํ์ธํ๋ ๋ฐ ์ถ๋ก ๋จ๊ณ๋ฅผ ์๋ํ ํ ์ ์๋๋ก ๋ง๋ค์ด์ผํ๋๋ฐ ์ ๊ฐ ์ฝ์งํ๋ฉด์ ์ป์ ๋ด์ฉ๋ค์ ์ฌ๊ธฐ์ ์ ๋ฆฌํด๋ณด๊ณ ์ ํฉ๋๋ค. LLMํน์ฑ์ GPUํ๊ฒฝ์ ์ฌ์ฉํด์ผ๋ง ํฉ๋๋ค. ์ ๋ ํ๋์ GPUํ๊ฒฝ๊ณผ ๋ชจ๋ธ์ ํ์ํ ๋ผ์ด๋ธ๋ฌ๋ฆฌ๋ฅผ ํ๋์ Image๋ก ๋ง๋ค๊ณ , trainable data ์์ฑ, LLM Finetuning(LoRA), LLM Inference๋ฅผ ์งํํ๋ 3๊ฐ์ ์ปจํ ์ด๋๋ฅผ ๋ง๋ค์ด Docker compose๋ฅผ ํ์ฉํด ์์ฐจ์ ์ผ๋ก ์คํ๋๊ฒ๋ ์๋ํ๋ฅผ ์์ผ๋ณผ ์์ ์ ๋๋ค. ์ค๋น๋ฌผ: Docker์์ง Docker compose(v2), ํ์ต์ฉ ๋ฐ์ดํฐ ์ฝ๋(json), LLM ํ์ธํ..