مقاله پروسه ارزیابی یک الگوریتم ژنتیک برای بهبود شبکه پس از خطا

معرفی مقاله (شبکه های عصبی - هوش مصنوعی) پروسه ارزیابی یک الگوریتم ژنتیک برای بهبود شبکه پس از خطا BPN

چکیده:

بسیاری از بررسی ها یک رشته بیت را با استفاده از الگوریتم ژنتیک به منظور بیان ساختار شبکه نگاشت داده اند تا کارایی شبکه های پس انتشار خطا را بهبود بخشند. زیرا محدودیت ها در تکنیک های جستجوی گرادیان که برای مسائل بهینه سازی غیر خطی پیچیده استفاده می شدند، اغلب کارایی متناقض و غیر قابل پیش بینی را نتیجه داده اند. این مقاله بر روی چگونگی جمع آوری و ارزیابی مجدد ماتریس های وزن bpn تمرکز دارد، در حالیکه عملگرهای الگوریتم ژنتیک در هر نسل به منظور بهینه سازی ماتریس های وزن پردازش می شوند. در این روش over fitting، یک اشکال از bpn هاست که معمولا در طول مرحله بعد از آموزش شبکه عصبی با نزول خطای آموزش و افزایش خطای پیش بینی اتفاق می افتد، قابل حذف شدن می باشد. این مقاله همچنین، پارامترها و توپولوژی شبکه عصبی را در جهت افزایش امکان پذیری اجرای فضای جواب برای مسائل غیرخطی پیچیده توسعه می دهد.

الگوریتم ژنتیک

الگوریتم ژنتیک متعلق به کلاسی از الگوریتم های جستجوی تصادفی بر پایه جمعیت می باشد که الهام گرفته از فرضیه تکامل تدریجی که به صورت الگوریتم های تکاملی (EA) نامیده می شوند. دیگر الگوریتم های این کلاس شامل استراتژی های تکاملی (ES) و برنامه نویسی های ژنتیک (GP) می باشد.

GA یک روش جستجوی عمومی است که از یک جمعیت از راه حل ها به دیگری جستجو می کند. برای مسائل محدود و برای مسائل پیچیده، الگوریتم ژنتیک (GA) به طور استثنایی هنگام بهینه سازی توابع غیر خطی مشکل، در به دست آوردن راه حل عمومی به گونه ای مناسب عمل می نماید. آنها همچنین در اثبات کردند که GA نیز در بهینه سازی شبکه عصبی دارای کارایی بالاست.

به طور کلی الگوریتم با انتخاب تصادفی یک جمعیت اولیه از راه حل های ممکن آغاز می شود. این جمعیت، نسل اول است که الگوریتم ژنتیک در آن راه حل بهینه را جستجو می کند. مقدار جمعیت اولیه 50 در نظر گرفته شده است. بنابراین برای یک الگوریتم ژنتیک مورد آموزش، 50 مجموعه از وزن ها، در هر نسل ارزیابی می شود. بر خلاف bp که از یک نقطه به نقطه ای دیگر حرکت می کند GA فضای وزن را از یک مجموعه از وزن ها به مجموعه ای دیگر، به طور همزمان در بسیاری از جهت ها جستجو می کند. ...

شناسایی تنظیمات سطح فاکتور bpn

قبل از استفاده از الگوریتم ژنتیک برای بهینه سازی پارامترها و توپولوژی bpn لازم است ابتدا متغیرهای تصمیم گیری شان شناسایی شود تا فضای جستجوی روش ها تعیین گردد. در بیشتر موارد یک لایه مخفی کافیست تا محدوده تصمیم گیری مورد نظر برای خروجی ها را محاسبه نماید. در دیگر مقالات از شبکه های عصبی با دو یا سه لایه پنهان برای کاربردهای پیچیده تر استفاده شده است. تعداد نرون های مخفی مورد نیاز بستگی به تعداد لایه های مخفی مورد استفاده دارد، در بسیاری از کاربردها نیاز است توپولوژی bpn به طور کامل بسط داده شود تا نتیجه مطلوب به دست آید. بنابراین تعداد لایه های مخفی به 3 لایه در این مقاله گسترش می یابد و تعداد نرون ها در لایه پنهان 63 عدد خواهد بود.

تعداد نرون ها در لایه ورودی و خروجی بستگی به مسئله دارد. با توجه به اینکه در این مقاله از مجموعه داده Pima استفاده می شود، 8 ورودی (ویژگی) و 3 خروجی (کلاس) وجود دارد. ...