---

هنگام کار با یک مجموعه داده رگرسیونی ممکن است برخی شرایط برقرار نباشند و محدودیت‌هایی برای اجرای مدل رگرسیون به وجود آیند. روش آنتروپی تعمیم‌یافته ماکسیمم قادر است پارامترهای مدل رگرسیونی را بدون اعمال هیچ شرطی روی توزیع احتمال خطاها برآورد کند. این روش حتی در مواردی که حجم نمونه خیلی کم است و یا بین متغیرهای مستقل، هم‌خطی بالایی وجود داشته باشد قادر به برآورد پارامترهای مدل است و لذا روشی توانمندی است. در این پژوهش قصد بر آن است پارامترهای مدل لجستیک دودویی با به‌کارگیری آنتروپی تعمیم‌یافته ماکسیمم (GME)‎ برآورد شود و نتایج آن با روش ماکسیمم درستنمایی ‎(ML)‎ براساس معیار میانگین مربعات خطا‎(MSE) ‎ مقایسه شود. بدین‌منظور نمونه‌ای تصادفی به حجم ‎399‎ نفر از اطلاعات مشتریان بانک مانند سن، شغل، وضعیت تأهل، میزان تحصیلات و وام به‌عنوان متغیرهای مستقل و تقاضای مشتری برای افتتاح حساب مدّت‌دار به‌عنوان متغیر وابسته جمع‌آوری شد. درنهایت با توجه به مقدار ‎MSE‎ نتیجه گرفته شد که روش GME نسبت به روش ML‎ دقیق‌تر است.

---

تحلیل رگرسیون به روش کمترین توان های دوم مستلزم برقراری فرضیات زیربنایی است. یکی از مسائلی که تحلیل رگرسیون به این روش را با مشکلات عمده مواجه می سازد وجود هم خطی در بین متغیرهای رگرسیونی است. روش های زیادی برای حل مشکلات ناشی از وجود هم خطی معرفی شده اند. یکی از این روش ها رگرسیون ستیغی است. در این مقاله یک برآورد جدید برای پارامتر ستیغی به کمک ماکسیمم آنتروپی تی سالیس تعمیم یافته ارائه داده وآن را برآوردگر ریج ماکسیمم آنتروپی تی سالیس مرتبه دو تعمیم یافته می نامیم. برای مجموعه داده های سیمان پرتلند که از هم خطی قوی برخوردار هستند و از سال ۱۳۳۲ ، برآوردگرهای مختلفی برای این داده ها ارائه شده است این برآورد گر را محاسبه و با برآوردگر ستیغی ماکسیمم آنتروپی تعمیم یافته و برآوردگر کمترین توان های دوم مقایسه می کنیم.

---

واریانس و آنتروپی معیارهایی متمایز هستند که معمولاً برای اندازه گیری عدم قطعیت متغیرهای تصادفی استفاده می‌شوند. در حالی که واریانس نشان می‌دهد که چگونه یک متغیر تصادفی بیشتراز حد انتظارش گسترش می‌یابد، معیارآنتروپی عدم قطعیت یک رویکرد اطلاعاتی را اندازه گیری می‌کند به عبارت دیگر میانگین مقدار اطلاع یک متغیر تصادفی را اندازه گیری می‌کند.

 برای دو توزیع یکنواخت و نرمال واریانس نسبتی از آنتروپی توانی  است.  یافتن یک چنین رابطه یکنوا بین واریانس و انتروپی برای یک کلاس بزرگتر از این دو توزیع اهمیت و کاربرد زیادی  در پردازش سیگنال، یادگیری ماشین، تئوری اطلاعات و احتمال و آمار دارد 

  برای کم کردن خطاهای برآوردگرها مورد استفاده قرار می‌گیرد و یک راهبردی را انتخاب می‌کند که به طور متوسط بیشترین یا تقریباً بزرگ‌ترین کاهش در آنتروپی توزیع مکان هدف داشته باشد و اثربخشی این روش با استفاده از شبیه‌سازی‌ها با مدل‌های سنجش کاوی امتحان می‌شوند. در این مقاله کران بالای واریانس برای توزیع های تک مدی که دم آنها سنگین تر از دم توزیع نمایی است به کمک آنتروپی توانی ایجاد می گردد