์ธ๊ณต์ง€๋Šฅ ์ •๋ฆฌ [๋ถ€๋ก] :: Restricted Boltzmann Machine (RBM)
์ปดํ“จํ„ฐ๊ณผํ•™ (CS)/AI 2020. 2. 8. 23:45

Restricted Boltzmann machine (RBM) ๊ตฌ์„ฑ ๋‘๊ฐœ์˜ ์ธต(๊ฐ€์‹œ์ธต, ์€๋‹‰์ธต)์œผ๋กœ ๊ตฌ์„ฑ๋˜์–ด ์žˆ๋Š” ๋‹จ์ผ ์‹ ๊ฒฝ๋ง ์‹ฌ์ธต ์‹ ๋ขฐ ์‹ ๊ฒฝ๋ง์„ ๊ตฌ์„ฑํ•˜๋Š” ์š”์†Œ๋กœ ์“ฐ์ž„ ๊ฐ ์ธต์˜ ๋…ธ๋“œ๋Š” ๋‹ค๋ฅธ ์ธต์˜ ๋…ธ๋“œ์™€ ๋ชจ๋‘ ์—ฐ๊ฒฐ๋˜์–ด์žˆ๊ณ , ๊ฐ™์€ ์ธต์˜ ๋…ธ๋“œ๋ผ๋ฆฌ๋Š” ์—ฐ๊ฒฐx ์‹์œผ๋กœ ๊ณ„์‚ฐํ•˜๋ฉด ๋ชจ๋“  ์ž…๋ ฅ๋…ธ๋“œ๋ฅผ ์ด์šฉํ•œ ์‹์ด ์€๋‹‰์ธต ๋…ธ๋“œ์˜ ๊ฐ’์ด ๋จ ๋Œ€์นญ ์ด๋ถ„ ๊ทธ๋ž˜ํ”„ ๋ผ๊ณ ๋„ ๋ถˆ๋ฆผ ๋น„์ง€๋„ํ•™์Šต ํ•™์Šต ์ค‘ backward sweep ์‹œ forward sweep ํ–ˆ์„ ๋•Œ์™€ ๋งˆ์ฐฌ๊ฐ€์ง€๋กœ ์ธต๊ฐ„ ๋ชจ๋“  ๋…ธ๋“œ์˜ ์—ฐ๊ฒฐ์„ ํ†ตํ•ด์„œ ๊ฐ’์ด ๊ฑด๋„ˆ๊ฐ„๋‹ค. ์ฆ‰, ๊ฐ€์‹œ์ธต์˜ ๊ฐ’์€ ์€๋‹‰์ธต์˜ ๋ชจ๋“  ๊ฐ’์„ ๊ฐ€์ค‘์น˜๋ฅผ ๊ณฑํ•ด์„œ ๋”ํ•œ๋‹ค. ๊ทธ ๊ฒฐ๊ณผ ์˜ค์ฐจ๋Š” ์žฌ๊ตฌ์„ฑํ•œ ๊ฐ’๊ณผ ์ž…๋ ฅ๊ฐ’์˜ ์ฐจ์ด์ด๋‹ค. forward sweep w๊ฐ€ ์ฃผ์–ด์กŒ์„ ๋•Œ ์ž…๋ ฅ v์— ๋Œ€ํ•œ ์€๋‹‰์ธต h์˜ ์กฐ๊ฑด๋ถ€ ํ™•๋ฅ  backward sw..