Saturday, April 29, 2017

Хиймэл Оюун

Оюун ухаан гэдэг нь орчин тойрноо modeling хийдэг машин юм.

Статистик анализ
10-аад жилийн өмнө, намайг их сургуульд сурч байх үед хиймэл оюуны салбарт, хамгийн өндөр үр дүн гаргадаг аргачлалууд нь статистик анализ хийдэг аргачлалууд байлаа. Ихэвчлэн PCA [Олон эсвэл бүр төгсгөлгүй хэмжээст огторгуйд өгөдсөн хоёр өөр өнгөтэй цэгүүдийг ямар хавтан дээр буулгавал сайн ялгарах вэ гэсэн бодлого.] төрлийн статистик анализ голчилдог байв. Робот эсвэл object tracking хийсэн судалгаанууд бол HMM-ийн төрөл бүрийн хувилбаруудад суурьлаж байлаа. Арай өндөр түвшний үр дүн гаргах хэрэгцээтэй үед эдгээр дээрээ kernel trick маягийн зүйл хэрэглэнэ.

Үүнээс хойш 10 жилийн дотор хиймэл оюуныг зөвхөн судалгааны байгууллагуудаас гадна жинхэнэ бүтээгдэхүүн гаргадаг хувийн компаниуд судлах болсноор чиглэл үр дүнгийн хувьд ирс өөрчлөлтүүд орж эхэлсэн гэж үзэж болно. Хуучин аргачлалууд ажиллахаа больж эхлэв. Мэдээллийг бүхэлд анализ хийх боломжгүй хэмжээнд хүрчээ. Түүний хажуугаар мэдээллийг зөвхөн томоор харах биш ширхэг нэг бүрчлэн харах нь ч мөн адил чухал болж эхлэв. Энэ өөрчлөлтийн үеийг deep learning гэж нэрлэж байна.

Энэ үеэс гол аргачлал нь Neural Network болж эхлэв, харин robot сулалгаанд Reinforcement learning хамгийн халуун сэдэв болов. Neural Network-нь энэ салбарт огч шинэ зүйл биш боловч урьд нь түүний гол давуу чанар болох scalability тийм ч чухал биш байсан хэрэг. Мөн, хэдийгээр ажиллаад үр дүн гараад байгаа боловч үр дүнгээ нүдэнд үзэгдэж гарт баригдхаар тайлбарлах боломжгүй байлаа. Иймээс 10 жилийн өмнө бол Neural Network дээр хийсэн судалгааг ихэнх газар хүлээж авдагч үгүй байв. Мэдээлэлд бага зэрэг өөрчлөлт ороход үр дүн нь шар өөр зүйл ч гарч магадгүй эсвэл орчин өөрлөгдөхөд буруу ажиллаж эхлэх боложтой юм. Нэг үгээр хэлэхэд neural network scalable боловч сайн боловсруулахад хэцүү эд ажээ.

Орчин үед хэрэглээний програмуудад ашиглагдаж байгаа "neural network" нь хүний тархитай дүйцэхүйц хэмжээнд хүрч байна. Хүний тархи 100B орчим neuron-оос бүтдэг бол зураг таних систем 10B орчим neuron-ийг 100M зургаар training хийж хүнтэй дүйцэхүйц үр дүнд хүрчээ. https://research.googleblog.com/2016/09/show-and-tell-image-captioning-open.html

Neural Network

Neural Network дээр суурьлах болсон гол шалтгаан нь түүний scalability. Олон тархсан компютер ашиглан training хийх боломжтой тул мөнгө л байвал хэмжээ хязгааргүй томосгох боломжтой. Neuron-ий тоо 100B болгоход машин хүнээс илүү болохуу? (Хүний тархинд олон өөр өөр төрлийн, арай илүү complex neuron-ууд байдаг ч энэ нь тодорхой тооны simple neuron-оор илэрхийлэх боломжтой.)

Бид хэдийнээс хүний оюун ухаан, шинийг сэтгэн бодох чадварт ямар нэгэн гайхамшигтай зүйл байгаа гэж бодсоор ирсэн. Өдий болтол бид, хүний тархинаас neuron-оос өөр зүйл олж илрүүлээгүй л байна. Тэгвэл энэ neuron гээч тийм гайхалтай эд үү?  Хиймэл оюуныг судлах явцад хүн гэдэг чинь муухан машин юм гэдгийг ойлгох болно. Ердөө энэ 100B гэдэг тоо, ямар агуу том тоо вэ гэдгийг мэдэж авах болно.

Хүн машин хоёрын аль нь лаг вэ?

Бидний хэрэглэж байгаа компютер нь Turing machine юм. Хоёр машины нэг нь нөгөөгөө бүрэн simulation хийж чадаж байвал ижил машин гэж үзнэ. Turing machine болон NN нь бие биенээ simulation хийх боломжтой. Тиймээс хүн машин хоёр ижил чадамжтай гэж хэлж болно. [link] Үүнд бидний тарьханд байгаа neuron-ы параметэрүүд төгсгөлгүй бодит тоон утга авах боломжгүй гэж үзэх хэрэгтэй. [Хорвоо ертөнц өөрөө discrate учраас төгсгөлгүй байх ч боломжгүй юм.] Neural Network дээр машины хялбар хийдэг үйлдлийг хийхэд маш их тооцоолол ордог тул NN-ийг үүнд зориулж сайжруулсан хувилбаруудыг бас туршиж үзсэн байдаг. Neural Turing Machine

Дараагийн дугаар хиймэл оюуны одоогийн тулгараад байгаа асуудлуудын талаар хүүрнэе.
Үргэлжлэл бий...



Google Analytics