مقاله تئوري يادگيري محاسباتي,تئوري يادگيري محاسباتي,ياد گيري احتمالي
هنگامي که يادگيري ماشين حساب مورد مطالعه قرار ميگيرد،اين طبيعي است که تعجب کنيد ،چه قانون کلي ميتواند بر ياد گيرنده هاي ماشين و غير ماشين فايق آيد. آيا اين امکان وجود دارد تا دسته اي از مشکلات ياد گيري جدايي ناپذير را که شايد مشکل يا ساده باشد را بتوان جدا از الگوريتم ياد گيري شناسايي نمود.؟ آيا ميتوان تعداد مثال هاي آموزشي لازم را براي اطمينان از ياد گيري موفقيت آميز تعيين کرد؟چگونه اين تعداد تحت تاثير قرار ميگيرند ، اگر ياد گيرنده اجازه داشته باشد تا سوالاتي را يراي معلم مطرح کند ودر مقابل نمونه اختياري از مثال هاي آموزشي را مشاهده کند ؛آيا ميتوان تعداد خطا هايي را که ياد گيرنده قبل از آموختن عملکرد مورد نظر ،
انجام داده را مشخص کرد؟آيا ميتوان پيچيدگي محاسباتي جدايي ناپذير دسته اي از مشکلات ياد گيري را توصيف کرد؟
اگر چه جواب هاي کلي که به اين سوالات داده ميشود هنوز نامشخص اند اما بخش هايي از نظريه ياد گيري محاسباتي شکل گرفت.در اين بخش نتايج قابل توجهي که از اين نظريه به دست آمده ، ارا يه ميشود و در بردارنده پاسخ سوالاتي است که در محدوده تنظيم مشکلات خاص ايجاد ميشود.ما در اين جا بر روي مسا له يادگيري استقرايي تاکيد نموديم که عملکرد مورد نظر آن مشخص نيست. فقط ميتوان الگوهاي آموزشي بر طبق اين عملکرد مورد نظر به دست آوردو فرضيه هاي انتخابي را با فاصله تعيين کرد.در طي اين تنظيم نمودن ما سوالاتي را از اين قبيل مطرح ميکنيم.چند تا از الگوهاي آموزشي براي ياد گيري موفقيت آميز عملکرد مورد نطر کافي است؟چند خطا توسط ياد گيرنده قبل از موفق شدن رخ ميدهد .طبق ان چه که ما مشاهده ميکنيم اين امکان وجود دارد تا محدوديت هاي کمي بر روي اين ارزيابي تعيين کنيم که به خصوصيات مسايل ياد گيري بستگي دارد و از اين قرار است :
• اندازه يا پيچيدگي فاصله فرضيه اي که توسط ياد گيرنده مطرح ميشود.
• دقت داشتن در مورد اين که مفهوم مورد نظر بايد تقريبي باشد.
• اين احتمال باشد که ياد گيرنده مبتواند فر ضيه موفقي را ارايه دهد.
• روش الگوهاي يادگبري براي ياد گيرنده مطرح باشد.
در بيشتر قسمت ها ما توجه مان را به الگوريتم هاي خاصي معطوف نکرديم بلکه بيشتر در مورد طبقه بندي هاي گسترده الگوريتم هاي يادگيري است که بوسيله فاصله فرضيه ها مشخص ميشود ؛آنها را مورد توجه قرار داده و الگوهاي آموزشي معرفي ميکنيم .هدف ما پاسخگويي به اين مسايل است:
پيچيدگي نمونه :به چند تا از الگوهاي آموزشي نياز است تا ياد گيرنده به فرضيه موفقيت آميز نزديک شود (به احتمال زياد)؟
پيچيدگي محاسباتي :چه تلاش هاي محاسباتي براي ياد گيرنده لازم است تا به فرضيه موفقيت آميز نزديک شود(به احتمال زياد)؟
محدوده خطا :چه تعداد از الگوهاي آموزشي را ياد گيرنده قبل از نزديک شدن به فرضيه موفق ؛ اشتبا ها طبقه بندي کرد ؟
توجه کنيد که در اينجا يکسري طبقه بندي خاص وجود دارد که ما ميتوانيم بر طبق آن سوالاتي از اين را پي گيري کنيم. به عنوان مثال در اينجا روشهاي مختلفي وجود دارد که مشخص ميکند چه روشي براي ياد گيرنده موفقيت آميز است و شايد ما آن را براي موفق شدن مشخص کنيم.ياد گيرنده بايد فرضيه اي را به دست آورد که با مفهوم مورد نظر يکسان باشد.به جاي آن شايد ما فقظ به اين نياز داشته باشيم تا فرضيه اي ايجاد شود که با مفهوم مورد نظر بيشتر از زمان آن همسازي داشته باشد .يا اين که يک فرضيه معمولي به دست آورد .ما بايد تعيين کنيم چگونه يادگيرنده به الگوهاي آموزشي دسترسي خواهد داشت؟ما ميتوانيم مشخص کنيم که الگوهاي آموزشي به کمک يک معلم مطرح ميشود.يا از طريق آزمايش هايي که ياد گيرنده انجام ميدهد؛ آنها را به دست مي آورد يا فقط آن ها را به طور تصادفي بر حسب يکسري مراحل بيروني و کنترل ياد گيرنده ايجاد کند.همان طور که پيش بيني ميشد جواب سوالات بالا به طبقه بندي خاص يا مدل آموزشي که در ذهن داريم بستگي دارد .
ادامه اين فصل به اين ترتيب مرتب شده :
بخش 2-7 درباره معرفي برنا مه ريزي احتمالي ياد گيري تقريبا صحيح است.
بخش 7-3 تحليل پيچيدگي نمونه و پيچيدگي محاسبه اي در مورد مشکلات يادگيري متعدد در چهار چوب بر نامه ريزي يادگيري تقريبا صحيح است.
بخش4 -7 معرفي اهميت ارز يابي پيچيدگي فاصله فرضيه اي است که ابعاد vc گويند و تحليل مارا در مورد ياد گيري pac با مشکلات موجود در فاصله فرضيه بي انتها گسترش ميدهد.
بخش5-7 معرفي مدل محدوده خطا است و محدوده اي از تعداد خطا هايي که توسط چندين الگوريتم ياد گيري ايجاد شده را ارايه ميدهد که در بخش قبلي بحث شد.نهايتا ما الگوريتم weighted-majority را مطرح مي کنيم که يک الگوريتم قابل اجرا براي ترکيب کردن پيش بيني هاي چندين الگوريتم ياد گيري رقابت کننده است. همرا با آن محدوده خطاي نظري براي اين الگوريتم تعيين ميشود.
2-7 ياد گيري احتمالي ، فرضيه هاي تقريبا صحيح
در اين بخش ما بر نا مه ريزي خاصي را براي مساله ياد گيري مد نظر قرار داديم که آن را مدل ياد گيري احتمالي تقريبا صحيح (pac ) گويند.ما با مشخص کردن برنامه ريزي مساله اي که مدل ياد گيري pac را تعريف ميکند شروع ميکنيم.سپس اين سوالات را مورد توجه قرار ميدهيم.چه تعداد از الگوهاي آموزشي و چه تعداد از محاسبات لازم است ؛ با اين هدف که طبقه بندي هاي مختلف عملکرد هاي مورد نظر را در چهار چوب اين مدل pac
آموزش ميدهد.به منظور ساده سازي ؛ما بحث درباره يادگيري مفاهيم با مقدار بولي بر طبق داده هاي آموزشي بدون اختلال را محدود ميکنيم.به هر حال برخي از نتايج حاصله را ميتوان با طرح هاي کلي تر ياد گيري عملکرد هاي مورد نظر با ارز يابي واقعي توسعه داد.(مثلا natarajan در سال 1991 را نگاه کنيد)و بعضي ها را ميتوان از طريق انواع مشخصي از داداه هاي ناقص توسعه داد .
دانلود مقاله تئوري يادگيري محاسباتي