علم آمار، به معنای اعم آن، به عنوان مجموعه فعالیت های فکری و نظری دربارۀ ابداع و اعمال شیوه های بهینۀ بهره گیری از مشاهدات تجربی، متکی بر فرض های اولیه، اصولی بنیادین و روش هایی منطقی (استقرایی و قیاسی)، فلسفی و ریاضی است. این گران بحث های پیشینی، که مقدم بر روش شناسی آمار هستند، به علاوۀ بسترهای اجتماعی، اقتصادی و فرهنگی، به رویکردهای متفاوت به استنباط آماری منجر شده اند. این باور فلسفی که در موضوع مورد مشاهده، نظمی (شاید احتمال آلود) موجود است که به مساعدت اندیشه و مشاهده، قابلیت دریافت و مدل بندی دارد؛ این فرض بنیادین که متاع حاصل از مشاهده های در دست، قابلیت تعمیم به موارد مشاهده نشده دارد؛ و همچنین تعریف ملاک های مناسب در ارزیابی روش های استنباط آماری؛ نمونه هایی از باورهای مقدم بر شیوه های استنباط آماری هستند.