๋ชฉ๋ก์—ฐ์‚ฐ๋Ÿ‰ (1)

SJ_Koding

Bottleneck ๊ตฌ์กฐ(resnet)์˜ ์„ค๋ช… ๋ฐ Pytorch ์˜ˆ์‹œ

๋ถ€์ œ: - ConvNeXt ์ดํ•ดํ•˜๊ธฐ 2ํŽธ - Bottleneck์ด๋ž€ ์šฉ์–ด ์ž์ฒด๋Š” ๋ณ‘๋ชฉํ˜„์ƒ์„ ์˜๋ฏธํ•œ๋‹ค. ์ •๋ง ๋งŽ์€ ๋ถ„์•ผ์—์„œ ์“ฐ์ด๋Š” ๋ง์ด๋‹ค. ์‹œ์Šคํ…œ ๋ถ„์•ผ์—์„œ์˜ ๋ณ‘๋ชฉํ˜„์ƒ์€ ๋‹ค์Œ๊ณผ ๊ฐ™์ด ์ •์˜๋œ๋‹ค. - ์‹œ์Šคํ…œ ๋‚ด์—์„œ ์ „์ฒด์ ์ธ ์ฒ˜๋ฆฌ ์†๋„๋ฅผ ๋–จ์–ด๋œจ๋ฆฌ๊ฒŒ ๋˜๋Š” ํŠน์ •ํ•œ ๋ถ€๋ถ„์„ ๊ฐ€๋ฆฌํ‚ค๋Š” ์šฉ์–ด - ์‹œ์Šคํ…œ์˜ CPU๋‚˜ ๋ฉ”๋ชจ๋ฆฌ, ๋””์Šคํฌ ๋“ฑ์˜ ์ž์› ์ค‘ ํ•˜๋‚˜๊ฐ€ ๋‹ค๋ฅธ ์ž์›๋“ค์— ๋น„ํ•ด ์ฒ˜๋ฆฌ ์†๋„๊ฐ€ ๋Š๋ ค์„œ, ์ „์ฒด์ ์ธ ์„ฑ๋Šฅ์„ ์ œํ•œํ•˜๋Š” ๊ฒฝ์šฐ๋ฅผ ๋งํ•จ ๊ทธ๋ ‡๋‹ค๋ฉด Deep leaning network์—์„œ ๋งํ•˜๋Š” ๋ณ‘๋ชฉํ˜„์ƒ ์ฆ‰, bottleneck layer๋Š” ๋ฌด์—‡์„ ์˜๋ฏธํ• ๊นŒ? Bottleneck์€ ๊ตฌ์กฐ๋Š” 2015๋…„ ResNet์— ์˜ํ•ด ๋„๋ฆฌ ์•Œ๋ ค์ง€๊ณ  ์‚ฌ์šฉ๋˜์—ˆ์œผ๋ฉฐ, ๋Œ€ํ‘œ์ ์œผ๋กœ ์•„๋ž˜์˜ ์‚ฌ์ง„์œผ๋กœ ๋‚˜ํƒ€๋‚ธ๋‹ค 1 x 1 convolution์„ ์‚ฌ์šฉํ•˜์—ฌ ์ฑ„๋„์„ ์ค„์ธ ..

Deep Learning 2024. 4. 3. 10:45