数据建模与分析：线性回归小论文

predict2*1000000);
ylabel('y');
end
运行程序后得到散点图如图2所示：
图2散点图
Fig.2scatter diagram
2.5回归线的绘制
通过机器统计学习后得到线性回归线，如图3所示：
图3回归线
fig.3Theregression line
运行主程序中的语句计算出 和J的最小值，程序如下：
[theta,J_history] = gradientDescent(X, y, theta, alpha, num_iters);
legend('Training data', 'Linear regression')
hold off% don't overlay any more plots on this figure
predict1 = [1,8] *theta;% Predict values for house area of 35,000 and 70,000
(4)
3实际问题
中国人多地少，土地不可再生，土地的稀缺性导致土地价格在未来城市发展中看涨，因此，房价也自然总体趋涨[7]。对于一些在沪求学的异地研究生们，在毕业后会存在是否留沪的选择。而房价是我们选择留沪的主要因素。为了了解上海的住房面积和价格的情况，我从链家网随机查找了120组不同区域以及不同面积的售房交易数据，将这些数据进行整理，并且希望通过统计学习的手段得出一般住房面积和价格的线性回归关系，通过设定两个期望住房面积来估计对应面积下的购房价格。
figure;
data = load('ex1data1.txt');
X = data( : , 1 );Y = data( : , 2);
X = [ones(size(X,1),1),X];
plot(X,Y,'rx','MarkerSize', 4);
axis([4 24 -5 25]);
xlabel('x');
fprintf('Running Gradient Descent ...\n')
X = [ones(m, 1), data(:,1)]; % Add a column of ones to x
theta = zeros(2, 1); %initializefitting parameters
iterations = 1000;% Some gradient descent settings
plot(x, y, 'rx', 'MarkerSize',10);
ylabel('Shanghai Commercial Housing Price in RMB one million');
xlabel('Shanghai Commercial Housing Area in 10 square meters');
fprintf('For house area = 80, we predict apriceof %f\n',...
predict1*1000000);
predict2 = [1, 16] * theta;
fprintf('For house area = 160, we predict apriceof %f\n',...
2Matlab求解
2.1最速下降法的循环语句
在Matlab程序中，最速下降法是一个不断迭代循环的过程，且 确保同时更新，具体循环如下：
2.2ComputeCost函数的定义
J函数即目标函数，m代表数据的个数，具体程序如下：
function J = computeCost(X, y, theta)
m = length(y);
将这些数据以txt的格式保存，文件名为house，以便在主程序加载数据调用。该最速下降统计学习程序主要分为调用数据、绘制离散图、梯度下降和拟合直线、可视化显示目标函数、目标函数值与迭代次数关系函数这五个部分。
3.1.1调用数据程序
将house.txt文件中的数据加载到data矩阵中，将data矩阵中的第一列中所有值组成一个向量储存在X向量中，将data矩阵中的第二列中所有值组成一个向量储存在y向量中，然后在y向量中计算训练样本数量存储到变量m中。其相关程序段如下：
theta(1) = temp1;
theta(2) = temp2;
J_history(iter) = computeCost(X, y, theta);
end
end
2.4散点图的绘制
具体的数据已经根据一定格式记录在txt文件中，因此只需调取其中的数据并将散点绘制到图中[6]，具体程序如下：
function plotData(x, y)
1案例分析
1.1目标函数的建立
根据已知给出的城市人口数目与饮品连锁店利润的一些数据，可以得到一个样本集，如图1，为样本在Matlab软件加载数据图，第一列表示城市人口数目，第二列表示饮品连锁店利润。
图1城市人口数目与饮品连锁店利润的样本集
Fig 1Urban population andbeverage chainprofits of sample set
alpha =0.01;% compute and display initial cost
computeCost(X, y, theta)% run gradient descent
theta = gradientDescent(X, y, theta, alpha, iterations);% print theta to screen
data = load('house.txt');%调用数据
X = data(:, 1); y = data(:, 2);%向量存储
m = length(y); %计算训练样本数量
3.1.2绘制离散图程序
该过程主要包括主程序的调用以及调用函数的定义，定义函数首先要打开一个绘图窗口，然后定义数值范围，最终附上标签绘制图形或者点。通过这样的方式处理，我们可以清晰的看到上海售房面积和价格的离散分布关系。
J = 0;
predictions=X*theta;
J=1/(2*m)*(predictions-y)'*(predictions-y);
end
2.3gradientDescent函数的定义
GradientDescent函数就是最速下降法的迭代与循环过程[5]，具体如下：
function [theta, J_history] = gradientDescent(X, y, theta, alpha, num_iters)
3.1程序的设计
首先，通过EXCEL表格将收集的数据进行整理，得出了上海地区售房面积和价格对应表格，120组数据具体可见于附录。将120组数据通过TXT文件进行编辑后导入到Matlab软件中，其部分数据在软件中的表现形式如图6所示：
图6售房面积和价格数据在Matlab中表现形式
Fig.6Thedataexpression formofhouse area and price on saleinMatlab
针对样本集，我们可以假设一个线性模型：
（1）
式中： ——假设的线性模型；
——样本/特征；
——参数。
其中， 为模型参数，因此问题就可以转换为，求出 的值。
为了得到较为准确的回归线，应该满足一个前提，即各样本点尽可能分布在所建立的线性模型周围，因此我们建立目标函数：
(2)
式中： ——向量 中的第 个元素；
——向量 中的第 个元素；
——模型假设；
——训练集的数量。
因此，我们只要求得使上述函数的值最小时的 的值。
1.2目标函数的求解
我们首先从一组 开始，利用最速下降法不断改变 的值来减小 ，直到达到我们希望得到的最小值[3]。
对于最速下降法，可利用以下公式而来求解：
(3)
式中： ——学习速率（步长）；
——下降方向。
Matlab程序运行后结果报告如图4所示：
图4报告窗口
fig.4Thereport window
其中ans结果为Matlab运行的最后一步结果，下面为模型参数值。
假设模型参数值： ，
2.6等高线及三维图的绘制
将 和J的值绘制在三维图上，将 的值以J为高度绘制绘制成等高线图，并将中心点即优化的参数用红色点标记，如下图5所示：
上海住房面积和房价的线性回归分析
王明黔
（上海大学机电工程与自动化学院，上海200444）
摘要：在数据构建统计模型的学习中，统计学习是其一种基础的学习方法。本文针对城市人口数目与饮品连锁店利润的关系，就已有的数据进行线性回归分析，利用Matlab工具进行数据的线性回归模拟，进而得出城市人口数目与饮品连锁店利润的散点图、拟合直线图和三维等高线图。为了分析上海地区的住房面积和房价的关系，收集最近的售房成交数据，将数据导入到Matlab进行分析，得出上海房价与住房面积的线性关系。
fprintf('Theta found by gradient descent: ');
fprintf('%f %f \n', theta(1), theta(2));% Plot the linear fit
hold on; % keep previous plot visible
plot(X(:,2), X*theta, '-')
关键词：Matlab；线性回归；目标函数；梯度下降；统计学习
基于数据的机器学习是现代智能技术中十分重要的一个方面，主要研究如何从一些观测数据(样本)出发，得出目前尚不能通过原理性分析得到的规律，并用以对未来数据或无法观测的数据进行预测。现实生活中大量存在我们尚无法准确认识但却可以进行观测的事件。因此，这种机器学习在从现代科学、技术到社会、经济等各领域中都有着十分重要的应用[1]。使用线性回归方法可以对一些观测数据进行分析，把预测事件中一些因素作为自变量，另一些随自变量变化而变化的变量作为因变量，研究它们之间的非确定性因果关系，以便预测因变量的未来发展趋势。根据若干观测数据寻找描述变量之间的函数或统计相关关系的最佳数学表达式，或者匹配数据之间相关关系的最佳拟合曲线，来表达随机性变量间的规律[2]。利用线性回归通过多变量机器学习的方法，可以建立上海住房面积和价格的线性关系，建立数学模型并评估其中的未知参数。