์ผ | ์ | ํ | ์ | ๋ชฉ | ๊ธ | ํ |
---|---|---|---|---|---|---|
1 | 2 | |||||
3 | 4 | 5 | 6 | 7 | 8 | 9 |
10 | 11 | 12 | 13 | 14 | 15 | 16 |
17 | 18 | 19 | 20 | 21 | 22 | 23 |
24 | 25 | 26 | 27 | 28 | 29 | 30 |
- Inductive Bias
- ์ธ์ ํ๋ ฌ
- ๋ฐฑ์ค
- BFS
- ์ธ์ ๋ฆฌ์คํธ
- CROSS JOIN
- numpy
- ๋ฐ์ดํฐ๋ชจ๋ธ๋ง
- get_dummies()
- SQL
- bottleneck
- Two Pointer
- skip connection
- 1x1 Convolution
- ๊ทธ๋ํ
- outer join
- SQLD
- dp
- mobilenet
- Depthwise Separable Convolution
- pytorch
- ์ ๊ทํ
- SQLD ํ๊ธฐ
- ์ํฐํฐ
- resnet
- depthwise convolution
- ์ฐ์ฐ๋ ๊ฐ์
- dfs
- ์๋ณ์
- feature map
- Today
- Total
๋ชฉ๋ก2024/11 (3)
SJ_Koding
์ฌ๋ฌ๋ถ์ ์์ค์ฝ๋๊ฐ ๋ด๊ฒจ์๋ Docker Image๋ฅผ ์ฑ๊ณต์ ์ผ๋ก ๋น๋ํ์ต๋๋ค. ipynb๊ฐ ์๋ ์ด์ ํ์ต์ ์คํํ๋ ์ฝ๋์ ์ถ๋ก ์ ์งํํ๋ ์ฝ๋๊ฐ ๋ณ๋๋ก ์กด์ฌํ๊ณ , ํน์ ๋ช ๋ น์ ํตํด ์ํ๋ ๊ฒ์ ๋๋ค. [LLM] Docker compose๋ฅผ ํ์ฉํ sLLM ํ์ธํ๋ ๋ฐ ์ถ๋ก ์๋ํํ๊ธฐ ไธํธ - Docker Image ๋น๋๋ํ์๋ ๋ถํฐ AI๋ง ์ ๊ณตํด์ค๋ค๋ณด๋ ๋ฐฑ์๋ ์ง์์ด ํฑ์์ด ๋ถ์กฑํ ๊ฒ์ ๊นจ๋ซ๊ฒ ํด์ค ํ๋ก์ ํธ๋ฅผ ์งํํด์์ต๋๋ค.๊ทธ ์ค Docker๋ฅผ ํ์ฉํ์ฌ LLMํ์ธํ๋ ๋ฐ ์ถ๋ก ๋จ๊ณ๋ฅผ ์๋ํ ํ ์ ์๋๋ก ๋ง๋ค์ดsjkoding.tistory.com LLMํ์ธํ๋ ํน์ฑ์ ํ๊ฒฝ์ ๋ถํ ํ ํ์๊ฐ ์ ์ต๋๋ค. trainํ์ ๊ณผ inferenceํ์ ์ ํ๊ฒฝ์ ๊ฑฐ์ ๋์ผํ๋ฉฐ ์์ค์ฝ๋๋ง ์ฐจ์ด๊ฐ ๋๊ธฐ ๋๋ฌธ์ ์ด ๋๋ฌธ์ ..
(๋ ๋ฐฑ์ฒด ๊ธ)์ค๋๋ง์ ์๊ณ ๋ฆฌ์ฆ ์ฐ์ต์ ํ๋ ค๊ณ ํ๋ค. ๋ฐฐ๋ญ ๋ฌธ์ ๋ DP๋ฅผ ์ ๋ฌธํ ๋ ๋ฐ๋์ ๊ฑฐ์น๋ ๋ฌธ์ ์ธ๋ฐ ์ ๋๋ก ์ฐ์ตํด๋ณด๊ณ ์ ๋ค์ ํ ๋ฒ ํ์๋ค.DP๊ฐ ์ด๋ ค์ด ์ด์ ๋ ์ ํ์์ ์ธ์ฐ๋ ๊ฒ์ด ๋๋จํ ์ด๋ ต๋ค๊ณ ๋๋๋ค. ๋ฐฐ๋ญ๋ฌธ์ ๋ฅผ ์ฒ์ ์ ํ๋ฉด ์ด ์ญ์ ์ ํ์์ ์ธ์ฐ๊ธฐ ์ฝ์ง ์๊ณ ์ด๋ป๊ฒ ์ ๊ทผํด์ผํ๋์ง๋ ๋ง๋งํ๋ค.https://www.acmicpc.net/problem/12865๊ฐ๋จํ ๋งํ๋ฉด 100๊ฐ ์ด๋ด์ ๋ฌผ๊ฑด์ ๊ฐ๊ฐ ๋ฌด๊ฒ์ ๊ฐ์น๋ฅผ ๊ฐ์ง๊ณ ์๊ณ . ์ด๋ฅผ K kg์ด๋ด๋ก ๋ฌผ๊ฑด๋ค์ ์ต๋๋ก ๋ด์ ์ ์์ ๋, ๋ฌผ๊ฑด์ ์ด๋ป๊ฒ ๋ด์์ผ ์ต๊ณ ์ ๊ฐ์น๋ฅผ ์ป์ ์ ์๋์ง๋ฅผ ๋ฌป๋๋ค. ๋ฌธ์ ์ดํด ์์ฒด๋ ์ด๋ ต์ง ์๋ค.๋น์ฐํ ๋ชจ๋ ๊ฒฝ์ฐ์ ์๋ฅผ ํ์ํ๋ ์์ ํ์์ ์๊ฐํด ๋ผ ์ ์์ง๋ง ๋ฌผ๊ฑด๋ค์ ๋ด๋ or ์๋ด๋๋ก ๋ฌผ๊ฑด๋ง๋ค 2๊ฐ์ ๊ฒฝ์ฐ์ ์๊ฐ..
๋ํ์๋ ๋ถํฐ AI๋ง ์ ๊ณตํด์ค๋ค๋ณด๋ ๋ฐฑ์๋ ์ง์์ด ํฑ์์ด ๋ถ์กฑํ ๊ฒ์ ๊นจ๋ซ๊ฒ ํด์ค ํ๋ก์ ํธ๋ฅผ ์งํํด์์ต๋๋ค.๊ทธ ์ค Docker๋ฅผ ํ์ฉํ์ฌ LLMํ์ธํ๋ ๋ฐ ์ถ๋ก ๋จ๊ณ๋ฅผ ์๋ํ ํ ์ ์๋๋ก ๋ง๋ค์ด์ผํ๋๋ฐ ์ ๊ฐ ์ฝ์งํ๋ฉด์ ์ป์ ๋ด์ฉ๋ค์ ์ฌ๊ธฐ์ ์ ๋ฆฌํด๋ณด๊ณ ์ ํฉ๋๋ค. LLMํน์ฑ์ GPUํ๊ฒฝ์ ์ฌ์ฉํด์ผ๋ง ํฉ๋๋ค. ์ ๋ ํ๋์ GPUํ๊ฒฝ๊ณผ ๋ชจ๋ธ์ ํ์ํ ๋ผ์ด๋ธ๋ฌ๋ฆฌ๋ฅผ ํ๋์ Image๋ก ๋ง๋ค๊ณ , trainable data ์์ฑ, LLM Finetuning(LoRA), LLM Inference๋ฅผ ์งํํ๋ 3๊ฐ์ ์ปจํ ์ด๋๋ฅผ ๋ง๋ค์ด Docker compose๋ฅผ ํ์ฉํด ์์ฐจ์ ์ผ๋ก ์คํ๋๊ฒ๋ ์๋ํ๋ฅผ ์์ผ๋ณผ ์์ ์ ๋๋ค. ์ค๋น๋ฌผ: Docker์์ง Docker compose(v2), ํ์ต์ฉ ๋ฐ์ดํฐ ์ฝ๋(json), LLM ํ์ธํ..