شبکه عصبي پروسپترون ،پایان نامه درباره پیش بینی میزان سپرده

دانلود پایان نامه

  شبکه عصبي پروسپترون چند لايه[1]

مدل شبکه عصبي که در اين پژوهش استفاده مي­شود، براساس مطالعات بعمل آمده، شبکه­هاي عصبي پروسپترون يکي از مناسب­ترين مدل­هاي شبکه عصبي مصنوعي پيشخور جهت پيش­بيني سري­هاي زماني است. در ادامه مفاهيم و اصول اوليه اين مدل بيان مي­شود.

شبکه­هاي عصبي پروسپترون از جمله پرکاربردترين و معروف­ترين مدل­هاي شبکه­اي عصبي مصنوعي است.    اين شبکه معمولا بصورت چند لايه بکار مي­رود و اغلب براي نگاشت[2] غير­خطي استفاده مي­شود. در لايه اول اطلاعات ورودي به لايه ورودي سيستم تغذيه مي­شوند. در لايه خروجي، خروجي شبکه محاسبه مي­شود. لايه­هاي بين لايه ورودي و لايه خروجي لايه­هاي مخفي[3] ناميده مي­شوند که پردازش داده­ها در آنها صورت مي­گيرد. علت اينکه به اين شبکه­ها پيش­رونده گفته مي­شود اين است که خروجي هر لايه به عنوان ورودي لايه بعد در نظر گرفته مي­شود. يکي از خصوصيات اين شبکه اينست که قاعده يادگيري با تکرار بدست     مي­آيد و مقادير اوليه وزن­ها و ساير پارامتر­ها در ابتدا بصورت تصادفي انتخاب مي­شوند و به مرور و در طي مراحل مختلف آموزش مقادير آنها تغيير مي­کند تا نهايتاً به مقدار ثابتي برسد.

به نظر مي­رسد که تعداد درجات آزادي (مثلا تعداد ورودي ها، خروجي ها و نرون­هاي هر لايه) براي طراحي يک شبکه چند لايه پيشخور زياد باشد ولي بايد توجه داشت که تعداد ورودي­هاي شبکه و تعداد خروجي­هاي شبکه بر اساس مساله خاصي که شبکه قرار است حل کند بدست مي­آيند. به عبارت ديگر اين پارامتر جزء پارامترهاي آزاد طراح نيستند بلکه انتخاب آنها به مساله در حال بررسي بستگي دارد. علاوه بر اين ويژگي هاي خروجي مطلوب شبکه در انتخاب نوع تابع محرک هر لايه تاثير دارد.

پس از تعيين آرايش شبکه، مي­توان آموزش شبکه را آغاز نمود. آموزش شبکه­هاي عصبي به عنوان يک مساله بهينه­سازي غير­خطي شناخته شده است که هدف آن تعيين پارامترهاي شبکه يعني ماتريس­هاي وزن و بردارهاي باياس هر لايه است. پارامترهاي شبکه طوري تعيين مي­شود که انديس عملکرد شبکه که معمولا ميانگين مربعات خطاي پيش­بيني حاصل از داده­هاي آموزشي است کمينه گردد. روش يادگيري بکار رفته در اين شبکه روش پس انتشار خطا است. قانون پس انتشار خطا از دو مسير اصلي تشکيل شده است. در مسير اول که مسير رفت است داده­هاي ورودي به شبکه اعمال مي­شوند و سپس در مقادير اوليه وزن­هاي بين  لايه­ها ضرب شده و پس از انجام عمليات رياضي که در هر لايه و در هر سلول انجام مي­شود. نهايتا برداري بعنوان خروجي در لايه آخر شبکه توليد مي­شود. اين خروجي در واقع پاسخ شبکه به ورودي داده شده به آن است. در اين مرحله همه وزن­هاي ارتباطي لايه­ها و پارامترهاي سلولها ثابت است و تغييري نمي­کند. در مسير دوم که مسير برگشت ناميده مي­شود خطا در خروجي محاسبه مي­شود و به شبکه بازگشت داده مي­شود. در حين بازگشت خطا و در واقع در مسير برگشت، مقادير پارامتر­ها و وزنها تغيير مي­کنند. از آنجا که آموزش بصورت با ناظر انجام مي­گردد، خروجي مطلوب موجود است. با استفاده از تفاوت بين خروجي مطلوب و خروجي شبکه، خطا محاسبه شده و به شبکه برگشت داده مي­شود.

يکي از نکاتي که حين آموزش بايد در نظر گرفته شود جلوگيري از فوق تنظيم است. در اين حالت خطاي شبکه فقط در نقاط آموزشي کم بوده و در نقاط مياني خطا زياد مي­شود. براي رفع چنين نقيصه­اي معمولا در حين آموزش شبکه يک سري از داده­ها جهت صحه گذاري در نظر گرفته مي­شوند. بدين ترتيب که در    بازه­هاي منظم از روند بهينه­سازي، داده­هاي حاصل از شبکه با استفاده از داده­هاي صحه­گذاري مورد بررسي قرار مي­گيرد. آموزش شبکه تا زماني ادامه مي­يابد که خطاي بهينه­سازي مربوط به داده­هاي صحه­گذاري شروع به افزايش کند و به محض اينکه اين خطا افزايش يابد آموزش شبکه متوقف مي­شود (منهاج، 1387).

شبكه‌هاي پرسپترون چند لايه مي‌توانند با هر تعداد لايه ساخته و به كار گرفته شوند، ولي قضيه‌اي كه ما در اين‌جا بدون اثبات مي­پذيريم بيان مي‌كند كه يك شبكه پرسپترون سه لايه قادر است هر نوع فضايي را تفكيك كند. اين قضيه كه قضية كولموگوروف[4] ناميده مي‌شود ، بيانگر مفهوم بسيار مهمي است كه مي‌توان در ساخت شبكه‌هاي عصبي از آن استفاده كرد (البرزي، 1380).

[1] -Multi Layer Perceptron(MLP)

[2] – Mapping

[3] -Hidden Layer

[4] -Kolmogrov Theorem

دانلود پایان نامه