AMEA İnformasiya Texnologiyaları İnstitutunun növbəti elmi seminarı keçirildi. Tədbiri giriş sözü ilə açan AMEA-nın akademik-katibi, institutun direktoru, akademik Rasim Əliquliyev seminarın Deep Learning istiqaməti üzrə əldə olunmuş elmi-nəzəri nəticələrin müzakirəsinə həsr olunduğunu bildirdi. Akademik bu istiqamətin müasir dövrdə aktuallıq kəsb edən tədqiqat sahələrindən olduğunu nəzərə çatdırdı, institut seminarlarının bu kimi fundamental mövzuları əhatə etməsinin seminarların səmərəsinin artırılması baxımından zəruriliyini vurğuladı.
Sonra institutun şöbə müdiri, texnika üzrə fəlsəfə doktoru, dosent Yadigar İmamverdiyev məruzə ilə çıxış edərək dərin və konvolyusiya neyron şəbəkələri (ing. Convolutional Neural Network, CNN), geniş istifadə edilən CNN arxitekturaları və Deep Learning-in tətbiqi üzrə institutda aparılan elmi tədqiqatlar haqqında ətraflı məlumat verdi.
Y.İmamverdiyev Deep Learning-in tətbiq sahələrindən bəhs edərək onun maşın görməsi (Computer Vision), təbii dilin emalı (Natural Language Processing), nitqin tanınması, nitqin sintezi kimi sahələrdə geniş tətbiq olunduğunu bildirdi. Alim bioloji neyronun quruluşu barədə məlumat verdi, onun riyazi modelini təqdim etdi. Neyron şəbəkə arxitekturalarından irəli ötürmə (feed-forward) və rekurrent neyron şəbəkələrinin geniş yayıldığını vurğuladı.
Məruzəçi neyron şəbəkələrinin verilənlərin intellektual analizi üçün klassifikasiya, reqressiya, klasterləşdirmə, assosiativ qaydaların aşkarlanması kimi məsələlərin həllində istifadə olunduğunu qeyd etdi, neyron şəbəkəsində çəkilərin tapılması prosesi olan neyron şəbəkələrinin öyrədilməsi prosesi və səhvi geriyə yaymaqla öyrənmə alqoritmi haqqında ətraflı məlumat verdi. Həmçinin neyron şəbəkələrin tətbiqinə dair qısa illüstrasiyalar (əlyazma rəqəmlərinin tanınması üçün çoxlaylı neyron şəbəkəsi, MNIST bazası, çıxış layındakı hər bir neyrona uyğun çəkilərin vizuallaşdırılması və s.) nümayiş etdirdi.
Y.İmamverdiyev geriyə yayılma alqoritminin problemlərini də diqqətə çatdırdı. Bildirdi ki, praktiki məsələlərdə çoxlaylı neyron şəbəkələrinin öyrədilməsi müddətinin olduqca uzun olması, öyrənmə alqoritmlərinin lokal minimumlarda yığılması və qradiyentlərin sürətlə sıfıra yaxınlaşması (“yox olması”) bu alqoritmin əsas çatışmazlıqlarındandır.
O, həmçinin Deep Learning-in təşəkkülü mərhələlərini nəzərə çatdırdı, görmə sistemində informasiyanın iyerarxik emalı, neokoqnitron şəbəkəsi, ilk CNN arxitekturası, onun əsas ideyaları və əlamətlər xəritəsi, CNN laylarında əlamətlərin vizuallaşdırılması, Deep Learning-in rebrendinqi haqqında ətraflı məlumat verdi və CNN şəbəkələrini nümunələr əsasında izah etdi.
Y.İmamverdiyev Deep CNN şəbəkə arxitekturalarını təqdim edərək “ImageNet” layihəsi haqqında ətraflı məlumat verdi: “Bu layihə maşın görməsi tədqiqatları üçün şəkilləri 22 min obyekt sinfinə nişanlamaq və təsnif etmək məqsədi daşıyır. Daha çox “Böyük Ölçülü Vizual Tanınma Çağırışı” (Large Scale Visual Recognition Challenge, ILSVRC) yarışı ilə tanınan layihə “WordNet” iyerarxiyasına uyğun qurulub. ILSVRC yarışının məqsədi verilmiş şəkli 1000 obyekt sinfindən birinə düzgün klassifikasiya edən modeli öyrətməkdir. Bu yarışda 2012-ci ildən başlayaraq CNN və digər dərin təlim üsulları dominantlıq edir”.
Məruzəçi “ILSVRC” yarışının qaliblərindən olan CNN arxitekturaları – “AlexNet”, “Clarifai” (ZFNet), “GoogLeNet”, “VGG16” (Oksford Universiteti), “ResNet-152” (Microsoft) layihələri haqqında ətraflı məlumat verdi. O, həmçinin Transfer Learning-in imkanlarından bəhs edərək onun öyrədilmiş neyron şəbəkəsindən yeni verilənlərdə təkrar istifadə, şəbəkənin arxitekturasının modifikasiya olunması, yeni verilənlərdə öyrənmənin başa çatdırılması məqsədilə istifadə olunduğunu söylədi.
Dərin neyron şəbəkələrinin növlərindən danışan məruzəçi məhdud Bolsman maşını (RBM), onların steki olan Deep Belief Networks (DBN), rekurrent neyron şəbəkələri və onların LSTM (Long Short-term Memory) və GRU (Gated Recurrent Unit) kimi növləri, avtoenkoderlərin, generativ rəqib şəbəkələrin imkanlarını diqqətə çatdırdı, rəqib şəbəkələrə misallar təqdim etdi.
Daha sonra Y.İmamverdiyev Deep Learning-in tətbiqi üzrə institutun 2 saylı şöbəsində yerinə yetirilmiş elmi tədqiqatlar haqqında ətraflı məlumat verdi. Şöbə müdiri əməkdaşlar tərəfindən nəşr olunmuş məqalələri diqqətə çatdırdı, bu istiqamət üzrə karotaj verilənləri əsasında fasiyaların klassifikasiyası üçün dərin neyron şəbəkə modelinin işlənildiyini, neft quyularında neft hasilatının proqnozlaşdırılması üçün CNN və LSTM şəbəkələri əsasında Deep Learning metodunun, eləcə də ESP nasoslarda nasazlıqların aşkarlanması üçün variasiya avtoenkoderlərinin və rəqib şəbəkələrinin tətbiqi ilə Deep Learning yanaşmasının təklif olunduğunu bildirdi, eksperimentlərin nəticələrini təqdim etdi.
Məruzə ətrafında geniş fikir mübadiləsi aparıldı, institutun şöbə müdirləri – AMEA-nın müxbir üzvü, texnika elmləri doktoru, professor Məsumə Məmmədova, texnika üzrə fəlsəfə doktoru, dosent Bikəs Ağayev, iqtisad üzrə fəlsəfə doktoru, dosent Əlövsət Əliyev tədqiqat istiqamətinə dair sual və təkliflərini səsləndirdilər.
