بررسی و ارائه روشهای نوین آموزش شبکه های عصبی با استفاده ازالگوریتم های نوین هوش مصنوعی
First Statement of Responsibility
/کاوه امیرانتظاری
.PUBLICATION, DISTRIBUTION, ETC
Name of Publisher, Distributor, etc.
تبریز، دانشگاه تبریز، دانشکده فنی مهندسی برق، گروه مهندسی کنترل
PHYSICAL DESCRIPTION
Specific Material Designation and Extent of Item
۱۰۶ص
NOTES PERTAINING TO PUBLICATION, DISTRIBUTION, ETC.
Text of Note
چاپی
INTERNAL BIBLIOGRAPHIES/INDEXES NOTE
Text of Note
واژه نامه بصورت زیرنویس
DISSERTATION (THESIS) NOTE
Dissertation or thesis details and type of degree
کارشناسی ارشد
Discipline of degree
مهندسی برق-کنترل
Date of degree
۱۳۸۷/۰۶/۳۰
Body granting the degree
تبریز، دانشگاه تبریز، دانشکده فنی مهندسی برق، گروه مهندسی کنترل
SUMMARY OR ABSTRACT
Text of Note
یک شبکه عصبی مصنوعی (Artificial Neural Network (ANN برای پردازش اطلاعات که از سیستم عصبی زیستی الهام گرفته شده است و مانند مغز به پردازش اطلاعات می پردازد . این سیستم از شمار زیادی عناصر پردازشی فوق العاده بهم پیوسته تشکیل شده است (neurons) که برای حل یک مسأله با هم، هماهنگ عمل می کنند ANN .ها ،نظیر انسانها ، با مثال یاد می گیرند .در سیستم های زیستی یاد گیری با تنظیماتی در اتصالات سیناپسی که بین اعصاب قرار دارد همراه است در حالی که عمل یادگیری با تغییر وزنهای بین نرونهای یک شبکه عصبی مدل می شود. با توجه به کاربرد های متنوع شبکه های عصبی مانند کلاس بندی ، تشخیص الگو ، بهینه سازی ، پیش بینی ، شناسایی سیستم ، مدل سازی و کنترل ، سیستم های خبره و فازی روشهای آموزش مختلفی ابداع شده است که در اغلب موارد منطبق با یک مساله خاص می باشد به این معنی که الگوریتم یادگیری طراحی و تنظیم شده برای یک مساله خاص برای آموزش شبکه های عصبی مصنوعی دیگر و مسائل متفاوت قابل استفاده نمی باشد .کاستی اغلب الگوریتمهای آموزش شبکه های عصبی رایج وابستگی آنها به پارامتر های الگوریتم و نقطه آغاز همگرایی و همچنین مشکل نقطه بهینه محلی می باشد .در این پایان نامه روشهای نوین آموزش شبکه های عصبی مبتنی بر الگوریتمهای بهینه سازی هوشمند بررسی شده است و در نهایت الگوریتم های جدیدی برای آموزش شبکه های عصبی ارائه شده است که نیاز به تنظیم پارامترها برای مسایل مختلف و مشکل مینیمم محلی و وابستگی به نقطه شروع الگوریتم را حداقل می کنند.باتوجه به کاربرد های روز افزون شبکه های عصبی تلاش های بسیاری در راستای رفع نواقص این شبکه ها انجام شده است . یکی از دلایلی که باعث محدود شدن کاربرد شبکه های عصبی می شود مرحله آموزش می باشد .برای آموزش شبکه های عصبی همواره نیاز به گروه بزرگی از اطلاعات ورودی می باشد . در عین حال تنظیم پارامتر های آموزش شبکه کاری بسیار دشوار بوده و نیاز به تجربه دارد . همچنین مشکلاتی مانند مینیمم های محلی و همگرایی به یک پاسخ نامناسب ، حفظ کردن اطلاعات ورودی به جای یادگیری آنها ، مهمتر از همه نیاز به زمان زیاد برای مرحله آموزش از مشکلات شبکه های عصبی می باشد . در این پایان نامه پس از بررسی معایب الگوریتمهای آموزشی کلاسیک ، از الگوریتم های بهینه سازی زیستی برای آموزش شبکه های عصبی استفاده خواهیم کرد .و نتایج حاصل از هردو روش برروی چند مساله استاندارد را مقایسه خواهیم کرد . نتایج بدست آمده نشان می دهد که مشکلات عمده شبکه های عصبی مانند وابستگی به پارامتر ها و شرایط اولیه و همچنین مینیمم های محلی با استفاده از الگوریتم های بهینه سازی زیستی تا حدود زیادی مرتفع می گردند
Text of Note
Neural network has become a focus in artificial intelligence research and is applied widely in many fields such as Language Recognition, Matrix Recognition, Image Processing and Industry control. But it is very difficult to configure the parameters of Neural network in the Neural network research. The large numbers of repeated experiments are required before the satisfying parameters and structures are acquired, meanwhile there are some defects, for example, slow training speed, getting into the local infinitesimal easily and bad global research capability. The backpropagation algorithm is used in the study training of multilayer Neural Network. BP algorithm can ensure the final convergence, but the obvious defect is that the study training costs a long time and is convergent into local infinitesimal. Some improved BP algorithms are suggested continuously, but make no obvious effect. And some other classic training algorithms like LM and BFGS have the problems like complexity in calculation and local minimum trap and convergence time. Also the training problem can considered as a optimization problem, so in this work we try to train ANNs by means of new optimization algorithms, first we have overview on genetic algorithm and particle swarm optimization, the we introduce some new algorithms and show their ability on some optimization bench marks. Some of these algorithms are hybrid algorithms and others have some new operators. Then we use these new algorithms on training multilayer perceptron neural network on some famous bench marks and real life data sets. These training data sets have different complexity and number of features. By using these benchmark problems we show that our new algorithms have better performance and in some cases can solve the problem of local minima trap and difficult parameters tuning