閱讀918 返回首頁    go 阿裏雲 go 技術社區[雲棲]

[機器學習]機器學習筆記整理12-線性回歸概念理解

前提介紹：

為什麼需要統計量？

統計量：描述數據特征
1. 集中趨勢衡量

均值（平均數，平均值）（mean）
這裏寫圖片描述
{6, 2, 9, 1, 2}
(6 + 2 + 9 + 1 + 2) / 5 = 20 / 5 = 4

中位數 （median）:

將數據中的各個數值按照大小順序排列，居於中間位置的變量
給數據排序：1， 2， 2， 6， 9
找出位置處於中間的變量：2
當n為基數的時候：直接取位置處於中間的變量
當n為偶數的時候，取中間兩個量的平均值

眾數 （mode）：

數據中出現次數最多的數

離散程度衡量

方差（variance)

這裏寫圖片描述
{6, 2, 9, 1, 2}
(1) (6 - 4)^2 + (2 - 4) ^2 + (9 - 4)^2 + (1 - 4)^2 + (2 - 4)^2
= 4 + 4 + 25 + 9 + 4
= 46
(2) n - 1 = 5 - 1 = 4
(3) 46 / 4 = 11.5

標準差 (standard deviation)

這裏寫圖片描述

  1. 介紹：回歸(regression) Y變量為連續數值型(continuous numerical variable)

            如：房價，人數，降雨量
 分類(Classification): Y變量為類別型(categorical variable)
        如：顏色類別，電腦品牌，有無信譽

  2. 簡單線性回歸(Simple Linear Regression)

    2.1 很多做決定過過程通常是根據兩個或者多個變量之間的關係
    2.3 回歸分析(regression analysis)用來建立方程模擬兩個或者多個變量之間如何關聯
    2.4 被預測的變量叫做：因變量(dependent variable), y, 輸出(output)
    2.5 被用來進行預測的變量叫做： 自變量(independent variable), x, 輸入(input)

  3. 簡單線性回歸介紹

    3.1 簡單線性回歸包含一個自變量(x)和一個因變量(y)
    3.2 以上兩個變量的關係用一條直線來模擬
    3.3 如果包含兩個以上的自變量，則稱作多元回歸分析(multiple regression)

  4. 簡單線性回歸模型

    4.1 被用來描述因變量(y)和自變量(X)以及偏差(error)之間關係的方程叫做回歸模型
    4.2 簡單線性回歸的模型是:
    這裏寫圖片描述

  5. 簡單線性回歸方程

                 E(y) = β0+β1x

    這個方程對應的圖像是一條直線，稱作回歸線
    其中，β0是回歸線的截距
    β1是回歸線的斜率
    E(y)是在一個給定x值下y的期望值（均值）

  6. 正向線性關係：

這裏寫圖片描述

  1. 負向線性關係：

這裏寫圖片描述

  1. 無關係

這裏寫圖片描述

  1. 估計的簡單線性回歸方程

    ŷ=b0+b1x
    這個方程叫做估計線性方程(estimated regression line)
    其中，b0是估計線性方程的縱截距
    b1是估計線性方程的斜率
    ŷ是在自變量x等於一個給定值的時候，y的估計值

  2. 線性回歸分析流程：

這裏寫圖片描述

  1. 關於偏差ε的假定

    11.1 是一個隨機的變量，均值為0
    11.2 ε的方差(variance)對於所有的自變量x是一樣的
    11.3 ε的值是獨立的
    11.4 ε滿足正態分布

最後更新：2017-04-12 09:30:54

  上一篇：go 創業公司如何做數據分析（二）運營數據係統
  下一篇：go 企業如何實現持續集成與持續交付