貝葉斯估計，是在給定訓練數據D時 ， 確定假設空間H中的最佳假設 。最佳假設：一種方法是把它定義為在給定數據D以及H中不同假設的先驗概率的有關知識下的最可能假設 。貝葉斯理論提供了一種計算假設概率的方法 ， 基于假設的先驗概率、給定假設下觀察到不同數據的概率以及觀察到的數據本身 。
【如何理解貝葉斯估計】貝葉斯，英國數學家 。1702年出生于倫敦，做過神甫 。1742年成為英國皇家學會會員 。1763年4月7日逝世 。貝葉斯在數學方面主要研究概率論 。他首先將歸納推理法用于概率論基礎理論，并創立了貝葉斯統計理論，對于統計決策函數、統計推斷、統計的估算等做出了貢獻 。1763年發表了這方面的論著，對于現代概率論和數理統計都有很重要的作用 。貝葉斯的另一著作《機會的學說概論》發表于1758年 。概率論是邏輯嚴謹推理性強的一門數學分科 ， 貝葉斯公式是概率論中較為重要的公式，貝葉斯所采用的許多術語被沿用至今 。