๐ป
-
-
ํด๋์ค ๋ถ๊ท ํ ๋ฌธ์ Cui et al. "Class-Balanced Loss Based on Effective Number of Samples" (CVPR 2019) TL;DR Class imbalance ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๊ธฐ ์ํด์ ๋ฐ์ดํฐ์ ๊ฐ ํด๋์ค์ ์ ํจ ๋ฐ์ดํฐ ์๋ฅผ ์ ์ํ๊ณ ์ด๋ฅผ ํ์ฉํ re-weighting๊ธฐ๋ฐ Class Balance Loss ๊ธฐ๋ฒ ์ ์. ๋ฌด์จ ๋ฌธ์ ๋ฅผ ํ๊ณ ์๋? ๋ฅ๋ฌ๋ ๋ชจ๋ธ ํ์ต์ ์ฌ์ฉ๋๋ ์ผ๋ฐ์ ์ธ ๋ฐ์ดํฐ ์ (์๋ฅผ๋ค์ด CIFAR-10, 100, ImageNet ๋ฑ)์ด ํด๋์ค ๋ผ๋ฒจ ๋ถํฌ๊ฐ ๊ท ์ผํ ๊ฒ๊ณผ ๋ฌ๋ฆฌ, ์ค์ ์ํฉ์์๋ ๋ชจ๋ ํด๋์ค์ ๋ฐ์ดํฐ ์๊ฐ ๊ท ์ผํ๊ฒ ์์ง๋์ง ์๋, Long Tail ํ์์ด ๋ฐ์ํ๋ค. ์ฌ๊ธฐ์ Long Tail์ด๋ผ๊ณ ํจ์, ๊ฐ ํ์ต ๋ฐ์ดํฐ ์ ํด๋์ค ๋ณ ์ํ ์์ ๋ํ ๋ถํฌ๋ฅผ ๊ทธ๋ ธ์ ๋ ์๋ ๊ทธ๋ฆผ๊ณผ ๊ฐ์ด, ์์์ ํด๋์ค์ ๋ํด์ ๋ฐ์ดํฐ ์ํ ์๊ฐ ๋ง์ ๋ฐ ๋ฐํด (Head) ๋ค์์ ํด๋์ค์์ ๊ธฐ๋์น ์ดํ์ ์ํ ์๋ฅผ ๊ฐ๋ (.. -
CVAE์ ๋ํ์ฌ (feat. ๋๊ฐ ์ง์ง CVAE์ธ๊ฐ? ํ๋์ ์ด๋ฆ, ๋ ๊ฐ์ ๊ธฐ๋ฒ) ๋ณธ ๊ธ์ ๋ ผ๋ฌธ์ ์์ธ ๋ด์ฉ์ ๋ค๋ฃจ๋ ํฌ์คํ ์ ์๋์์. ๋ค๋ง, ๋ ๊ฐ์ ๋ ผ๋ฌธ์ด ํ๋์ ์ด๋ฆ์ผ๋ก ๋ถ๋ฆฌ๊ณ ์๊ธธ๋, '์ด์ ๋ํ ํผ์ ์ ์ ๋ฆฌํ๋ ๊ธ์ ์จ๋ณด์'ํ๋ ๋ง์์ผ๋ก ๊ธ์ ์ผ์ต๋๋ค. ๋ฌผ๋ก ๊ฐ๋ตํ๊ฒ ๊ฐ๊ฐ์ ๋ ผ๋ฌธ ๋ด์ฉ์ ๋ค๋ฃจ๊ณ ์๊ธฐ๋ ํฉ๋๋ค๋ง, ์์ธํ ๋ด์ฉ์ ๊ฐ ๋ ผ๋ฌธ ๋ด์ฉ์ ์ค๋ช ํ๋ ๊ธ์ ์ฐธ๊ณ ํด์ฃผ์ธ์. ๊ฐ์ฌํฉ๋๋ค. ์๋ ํ์ธ์. ์ค๋์ ๊ฐ์ธ์ ์ผ๋ก ํฅ๋ฏธ๋ก์ ๋ ํ์์ ๋ํด ์ ์ด๋ณผ๊น ํฉ๋๋ค. ์ด ๋ณธ๋ฌธ์ ์ฝ๊ณ ๊ณ์ 99.9 % ์ ๋ถ๋ค์ "CVAE"๋ผ๋ ํค์๋๋ฅผ ๊ฒ์ํ์ จ์ ๊ฒ ๊ฐ์์. ์ฌ๋ฌ๋ถ์ด ์ด ๊ธ์ ํด๋ฆญํ์ค ๋ ์๊ฐํ์ CVAE๋ ์ด๋ค ๋ ์์ธ๊ฐ์? ์ง๋ฌธ์ด ์ด์ํ์ฃ ? ์ ๊ฐ ์ค๋ ์ด ๊ธ์ ์ฐ๊ธฐ๋ก ๋ง์๋จน์ ๋ฐ๋ ์ด์ ๊ฐ ์์ต๋๋ค. ์ ๊ฐ ๊ฒ์์ ํ๋ค๊ฐ ๋ฐ๊ฒฌํ ํ์์ด ์๋๋ฐ, ๋ฐ๋ก ๋ ๊ฐ์ (์ ๊ดํ์ง๋ง ์๋ก ๋ค๋ฅธ) ๋ ผ๋ฌธ์ด ..
โ๏ธ ๊ธฐ๋ก ์กฐ๊ฐ
-
JOURNAL ๋ฐฑ์ ๊ธฐ๋ก ep. final ์๋ ํ์ธ์. ๋ฐฑ์ ๊ธฐ๋ก ์ํผ์๋์ ๋ง์ง๋ง์ ๋๋ค. ์ฌ์ค ๋ง์ง๋ง์ผ๋ก ์ผ๋ ๊ธ์ด 23๋ 9์์ ์ด 3ํธ์ด์๋๋ฐ 24๋ 1์์ด ๋๊ธฐ๊น์ง ๋ฐฑ์ ๊ธฐ๋ก์ ๋ชป ์ด ์ด์ ๊ฐ ์์ต๋๋ค. 3ํธ์ ์ด ์ดํ์ ์ต์ข ์ ์ผ๋ก 24๋ ๋ ์ ์ฌ์ ์ฌ์ธ์ ํ๊ฒ ๋์ด์ ๊ฝค ๊ธธ๊ฒ ์์ ์๊ฐ์ ๊ฐ์ก์ต๋๋ค. ์๋ฌด๋๋ ๋น์ฅ์ ๋ฐฑ์์ธ ์ฌ์ค์ ๋ฐ๋์ง ์์์ผ๋ ๋ฐฑ์๋ผ๊ณ ๋งํ๊ธฐ์๋ ์ดํ๊ฐ ์๋ ๊ฒ ๊ฐ์ ์ฐจ๋ง ๊ธ์ ์ฐ์ง๋ ๋ชปํ์ต๋๋ค. ๋ฐฑ์ ๊ธฐ๋ก ep. 3 ์ง์ ๊ธฐ๋ก ์ฝ๊ธฐ, ๋ฐฑ์ ๊ธฐ๋ก ep. 3 ์ง๋ ep. 2๋ฅผ ์์ฑํ ์ดํ๋ก ์ด์ฃผ ๋ง์ด๋ค. ๋ด ์ธ์์์ ์ฒซ ๊ณต๋ฐฑ๊ธฐ๋ฅผ ๋ง์ ์ดํ๋ก ๊ฝค ์ค๋ซ๋์ "์ ๋ฆฌ"ํ๋ ์๊ฐ์ ๊ฐ์ก๋ค. ๋น์ ์ ํํ์ผ๋ก์ "์ ๋ฆฌ"๊ฐ ์๋๋ผ, ์ ๋ง areumdawoon.tistory.com ๊ทธ๋๋ ๋๋ฆ ์๋ฆฌ์ฆ๋ก ์ผ๊ธฐ ๋๋ฌธ์ ๋ง๋ฌด๋ฆฌ๋ ํด์ผํ ๊ฒ ๊ฐ์์..
-
JOURNAL ๋จ๊ธฐ๊ฐ (3์ฃผ ๋ง์) LDL ์ฝ๋ ์คํ ๋กค ๋ฎ์ถ๊ธฐ ์ฑ๊ณตํ๊ธฐ ์ด ๊ธ์ ์ธ๊ธ๋ ์ ํ์ด๋ ๋ฐฉ๋ฒ, ์์์ ๊ธ์ด์ด์ ์๋ฌด๋ฐ ์ดํด๊ด๊ณ๊ฐ ์์ผ๋ฉฐ, ๋ชจ๋ ๋ด๋๋ด์ฐ ํ๊ธฐ๋ก ์์ฑ๋์ต๋๋ค. ์๋ ํ์ธ์. ์ค๋์ ์กฐ๊ธ ํน๋ณํ ํฌ์คํ ์ ๋๋ค. ์ ์ LDL ๋ฎ์ถ๊ธฐ ์ฑ๊ณต๋ด ํ๊ธฐ์์. ๋ฒ์จ 2023๋ ์ด ๋๋๊ฐ๋ค์. 12์์ ๋ค์ด์๋ ์ด ๋ฌด๋ ต ์ ๋ 2023๋ ํ๋ฐ๊ธฐ, ๋ฐฑ์์ํ๋์ ๊ฐ์ฅ ์ํ ๊ฒ ์ค์ ํ๋๋ฅผ ๊ผฝ์ผ๋ผ๋ฉด LDL ๋ฎ์ถ๊ธฐ ์ฑ๊ณตํ๋ฉด์ ์น ๋ฏ์ด๊ณ ์น ์ ์ ์์ต๊ด์ ๋งํ ๊ฒ ๊ฐ์ต๋๋ค. ์ ์ ์ฌ๋์ด ์ฌ LDL ๋ฎ์ถ๊ธฐ๋ ํ์๊ฒ ์ง๋ง, ๋์ LDL ์์น๋ ์ ์ ๊ณ ๋ฏผ๊ฑฐ๋ฆฌ์๋ต๋๋ค. ์ฐธ๊ณ ๋ก, ์ด ๊ธ์ ๊ต์ฅํ ์ฃผ๊ด์ ์ธ "ํ๊ธฐ"์ด๊ธฐ ๋๋ฌธ์ ์ํ์ ๊ทผ๊ฑฐ๊ฐ ์๋ ์ ๊ทผ์ผ ์๋ ์์ด์. ๋ค๋ง, ์ ๊ฐ ํ ๊ฒ, ์ ํ ๊ฒ๊ณผ ์ ํ๊ณ ์ ์ ํ๋์ง๋ฅผ ํจ๊ป ์ ๋ฆฌํ์์ต๋๋ค. ์ด ๊ธ์ ์ฝ ์ ๋จน๊ณ ๋ฎ์ถ๋ ๊ฑธ ๋ชฉํ๋ก ํ์๋ ๋ถ๋ค๊ป..
-
JOURNAL [์ฌํ๊ธฐ๋ก] ๊ฐ์๊ฒฝ์ฃผ, ์ฌํํ ๋ง: ๋ด ๋ง๋๋ก ์๋๋ค๊ณ ์ฐก์ฐก๋์ง ์๊ธฐ 2 ์๋ ํ์ธ์ ์ง๋ 1ํธ์ ์ด์ "๋ง์๋๋ก ๋์ง ์์๋" ๊ฒฝ์ฃผ ๊ฐ์ ์ฌํ ์ด์ผ๊ธฐ์ ๋๋ค. ๋ ์งธ๋ , ๊ตฟ ๋ชจ๋! ์ฒซ์งธ๋ ์ฒซ์งธ ๋ ์ฌ๋ฌ ์ฅํฉํ ๊ณํ์ด ์์ด์ง๊ณ ์์์น ๋ชปํ๋ ์ผ์ ๋ค๋ก ์ฒซ์งธ ๋ ์ด ์ด์ง๋ฌ์์ก์ง๋ง ์ ๋๋ ์๊ฐ๊น์ง๋ '์ค๋ ํ๋ฃจ ํน๋ณํ๋ค'๋ ์๊ฐ์ด ๋๋ ํ๋ฃจ์๋ค. ์ฒซ์งธ ๋ ๋ฐค ๋ณ๊ฒฝ๋ ์ผ์ ๋ค์ ์ ๋ฆฌํ๋ฉฐ ๋์งธ ๋ ์ผ์ ์ ์ธ์๋ดค๋ค. ๊ณ ๋ฏผํ๋ค ์ฒซ์งธ ๋ ๊ฐ์ง ๋ชปํ๋ ๊ฒฝ์ฃผ์๋๋ฅผ ๋์งธ ๋ ์ค์ ์ ๊ฐ๊ธฐ๋ก ํ๋ค. ์ผ๋จ ์์นจ์ ์กฐ์์ ๋จน๊ณ ๋ณด๋ฌธํธ๋ฅผ ์ฐ์ฑ ํ ํ ์ฒดํฌ์์ํด์ ๋ฐ๋ก ์์ ์๋ ๊ฒฝ์ฃผ์๋๋ก ๊ฐ์๋ ๊ณํ์ด์๋ค. ๊ฒฝ์ฃผ์์์ ์์นจ์ ์ ์ ๋์ ๊ฐ์๋ค. ๋ง์๋ ์์์ ๋จน๊ณ ์ข์ ๊ฒฝ์น๋ฅผ ๋ณด๋ฉฐ ํ๋์ฒ๋ผ ํ ๋ฐํด๋ฅผ ๋๊ณ ๋๋ ์ฌ์ ๊ฐ MAX๊ฐ ๋์๋ค. ํํผํธํ ์กฐ์ ํํผ ์กฐ์์ ์๊ฐ๋ณด๋ค ์ฌ๋์ด ๋ง๋ค. (ํ ์์ผ ๊ธฐ์ค) ์๊ฐ์ ์๋ชป ๋ง..
-
JOURNAL [์ฌํ๊ธฐ๋ก] ๊ฐ์๊ฒฝ์ฃผ, ์ฌํํ ๋ง: ๋ด ๋ง๋๋ก ์๋๋ค๊ณ ์ฐก์ฐก๋์ง ์๊ธฐ 1 ๋ค์ด๊ฐ๋ฉด์, ์ฌ์กฑ (์์ ์คํต ๊ฐ๋ฅ) ์ค๋๋ง์ ๊ฐ์ธ์ ์ธ ๊ธฐ๋ก์ ์ํ ํฌ์คํ ์ ๋๋ค. (๋ฐฑ์์ผ๊ธฐ๋ ์ฌ์ ์ ์ ์ด ์ง ์ข ๋๋ค์. ์กฐ๋ง๊ฐ '์ ๋ฐฑ์์ผ๊ธฐ๊ฐ ๊ฐ์์ค๋ฝ๊ฒ ep. 3๋ง์ ๋๋ฌ๋์ง'๋ก ๋์์ค๊ฒ ์ต๋๋ค.) ์ค๋์ ์ผ๋ง ์ ๊ฐ์กฑ๊ณผ ํจ๊ป ๋ค๋ ์จ ๊ฒฝ์ฃผ 1๋ฐ 2์ผ ์ฌํ๊ธฐ๋ฅผ ์จ๋ณผ๊น ํฉ๋๋ค. ์ฃผ์ ํค์๋๋ฅผ ์์ฝํด ๋ณด์๋ฉด, feat. ๊ฒฝ์ฃผ ํํผํธํ , ๊ฒฝ์ฃผ์๋, ์ค๋ฆฌ ์งํ๊ตฌ์ด์ ์ ํ ๋ง๋ฆฌ ๊ตญ๋ฐฅ ์ด๋ ๋ค์. ๊ถ๊ธํ ํค์๋ ์์ผ์๋ฉด ๊ฐ ์น์ ์ผ๋ก ๋์ด๊ฐ์ ์๐ (์ ๋ณด๊ณต์ ๋ฅผ ์ํ ๊ธ์ ์ถ ํ ๋ณ๋ ์์ฑ ํ ๋งํฌ๊ฑธ์ด๋๊ฒ ์ต๋๋ค) ์ด๋ฒ ์ฌํ์ ์ฃผ์ ๋ '๋ด ๋ง๋๋ก ์๋๋ค๊ณ ์ฐก์ฐก๋๋ฉด ๋งด๋งค'์๋ค ์ด๋ฒ ๊ฒฝ์ฃผ ์ฌํ์ ์ฃผ์ ๋ "๋ด ๋ง๋๋ก ์๋๋ค๊ณ ์ฐก์ฐก๋๋ฉด ๋งด๋งค"์์ต๋๋ค. ์ผ๋จ, ์ฒ์๋ถํฐ ์๋ํ ๊ฒ์ ์๋์์ผ๋ ์ฌํ์ด ๊ทธ๋ ๊ฒ ํ๋ฌ๊ฐ์ต๋๋ค. ํ๋ง๋..
-
JOURNAL ๋ฐฑ์ ๊ธฐ๋ก ep. 3 ์ง์ ๊ธฐ๋ก ์ฝ๊ธฐ, ๋ฐฑ์ ๊ธฐ๋ก ep. 3 ์ง๋ ep. 2๋ฅผ ์์ฑํ ์ดํ๋ก ์ด์ฃผ ๋ง์ด๋ค. ๋ด ์ธ์์์ ์ฒซ ๊ณต๋ฐฑ๊ธฐ๋ฅผ ๋ง์ ์ดํ๋ก ๊ฝค ์ค๋ซ๋์ "์ ๋ฆฌ"ํ๋ ์๊ฐ์ ๊ฐ์ก๋ค. ๋น์ ์ ํํ์ผ๋ก์ "์ ๋ฆฌ"๊ฐ ์๋๋ผ, ์ ๋ง ๋ง ๊ทธ๋๋ก ์ ๋ฆฌ์๋ค. (ep. 2์์ ์ธ๊ธํ๋ ๋ค์ฉ๋์ค ์ถ๊ฐ ํฌํธ๋ฆฌ ์ ๋ฆฌ๊น์ง ๋ค ๋๋๋ค. ์ด๊ฒ๋ ์ฌ์ค์ ํ ๋ง์ด ๋ง์๋ฐ, ์ด ์ด์ผ๊ธฐ๋ ์กฐ๊ธ ๋ค๋ก ๋ฏธ๋ค๋๊ฒ ๋ค.) ๋ช ์ฃผ๊ฐ ๊ฑธ์ณ ์ด์ด์ง ์ด ์ ๋ฆฌ์ ์๊ฐ์ ์ผ์ข ์ "์ค๋น ์ด๋" ๊ฐ์ ๊ฑฐ์๋ค. ๋๋ ์๋ก์ด ํ์ด์ง๋ฅผ ์ข์ํ๋ ์ฌ๋์ด๋ค. ๋ ธํธ๋ฅผ ์ฐ๋ค๊ฐ๋ ์๋ก์ด ํ์ด์ง๋ก ๋์ด๊ฐ๋ ๊ฑธ ์ข์ํ๊ณ , ๋ฌ๋ ฅ์ ์ ์ฅ์ ์ข์ํ๊ณ , ์๋ก์ด ํ๋ฃจ, ์๋ก์ด ์ผ์ฃผ์ผ, ์๋ก์ด ํ ๋ฌ, ์๋ก์ด ํด๋ฅผ ๊ฝค๋ ์ข์ํ๋ ํธ์ด๋ค. ์ด๊ฑด ์ฌ๋ด์ธ๋ฐ, ๊ทธ๋ฌํ ์ด์ ์์ ๋๋ ์ข ์ข ๋๋ฅผ ์ด๋ผ๊ณ ์๊ฐํ๊ณค ..
-
JOURNAL ๋ฐฑ์ ๊ธฐ๋ก ep. 2 ๋ฐฑ์ ๊ธฐ๋ก ep. 2 ์ฌ๋ํ๋ ์ฌ๋๋ค์ ์ํ ๋์ ์ฌ๋ถ์ ์ด๋ฒ ์ฃผ ํ์ ๋๋์๋ณด๊ธฐ ๊ด๋ณต์ , ๋์ ์ ๋ฆฌ๋ ๊ณ์๋๋ค ๐งน ์ง์ ์จ ์ดํ๋ก ๋๋ ํ๋์ ์ ๋ฆฌ ์์ ์ผ๋ก ์ฌ๋ ์ค์ด๋ค. ๊ทผ๋ฐ ๋๋๊ฒ๋ ์ง ๊ณณ๊ณณ์ ์ ๋ฆฌํ๋ ๊ฒ ๊ทธ๋ ๊ฒ ๊ธฐ์จ์ผ์๊ฐ ์๋ค. ์ฒ์์๋ '๋ด ์ง๋ง ์ ๋ฆฌํ์ง'๋ก ์์ํ๋๋ฐ, ์ผ์ฃผ์ผ์ ๋ ๋ฒ ์ ๋๋ ๋ช ๊ฐ์ ๊ตฌ์ญ์ ์ ํด์ ์ ๋ฆฌํ๊ณ ์๋ค. ์ง๋์ฃผ๋ง ํด๋ ์์ฌ๋ ํฌํธ๋ฆฌ, ์ ๋ฐ์ฅ ๋ฑ์ ์ ๋ฆฌํ๋ค. ๋ญ ์ด๋ฆฌ ์ ๋ฆฌํ ๊ฒ ๋ง์ผ๋ ํ๊ฒ ์ง๋ง, (์๋ ์ง๋ ๋ ๊นจ๋ํ์๋ค) ์ด๋จธ๋์ ํํ์ ๋น๋ฆฌ์๋ฉด ๊ฐ์ ๊ณต๊ฐ์ด๋ผ๋ ๋ด ์์ด ๋ฟ์ผ๋ฉด ๋ญ๊ฐ ๋ค๋ฅด๋ค๊ณ ... ์ฌ์ค ๋ด๊ฐ ๋๋ผ๊ธฐ์๋ ๊ทธ๋ ๋ค. ๊ทธ๋ฆฌ๊ณ ๊ทธ ๊ณผ์ ์ด ๋ํํ ๋ ๊ฝค๋ ํ๋ง์ด๋ค. ๋ชธ์ ์ข ๊ณ ๋๋ ๊ณต๊ฐ์ ์ฃผ์ธ๋ค์ด ๋ด๊ฐ ์ฌ๋ํ๋ ์ฌ๋๋ค์ด๊ณ ๋ด๊ฐ ์ฌ๋ํ๋ ์ฌ๋๋ค์ด ๊ธฐ๋ปํ๊ณ ์ข์ํด ์ฃผ๋..
โ๏ธ Review
-
REVIEW ์ด์ ๋ฉดํ ์ผ์ฃผ์ผ ๋ง์ ๋ฐ๊ธฐ [<๊ณ ์์ ์ด์ ๋ฉดํ> ์๋ฉด์ ์ด์ฉํ๊ธฐ]
-
REVIEW [ํ๊ธฐ] ์ค๋ง์ผ ๋ผ์ ํ๊ธฐ! SNU ์๊ณผ (feat. ์ค๋ง์ผ ๋ผ์ vs. ์ค๋ง์ผ ํ๋ก)
-
REVIEW ์ ๋ ๊ทธ๋ผ์ธ๋ ์ถ์ฒ: ํ ๋ก์ฐ ์ค๋2 FELLOW ODE
-
REVIEW ๋งฅ๋ถ + ์์ดํจ๋ ํค๋ณด๋,๋ง์ฐ์ค ํ๋๋ก ์ปจํธ๋กคํ๊ธฐ