数学建模 偏最小二乘回归模型

偏最小二乘回归

背景：在实际问题中，经常遇到需要研究两组多重相关变量间的相互依赖关系，并研究用一组变量（常称为自变量或预测变量）去预测另一组变量（常称为因变量或响应变量），除了最小二乘准则下的经典多元线性回归分析（MLR），提取自变量组主成分的主成分回归分析（PCR）等方法外，还有近年发展起来的偏最小二乘（PLS）回归方法。

偏最小二乘回归提供一种多对多线性回归建模的方法，特别当两组变量的个数很多，且都存在多重相关性，而观测数据的数量（样本量）又较少时，用偏最小二乘回归建立的模型具有传统的经典回归分析等方法所没有的优点。

偏最小二乘回归分析在建模过程中集中了主成分分析，典型相关分析和线性回归分析方法的特点，因此在分析结果中，除了可以提供一个更为合理的回归模型外，还可以同时完成一些类似于主成分分析和典型相关分析的研究内容，提供更丰富、深入的一些信息。

matlab如下：（模板)

代码有详解

clc,clear 
load pz.txt %原始数据存放在纯文本文件 pz.txt 中
mu=mean(pz);sig=std(pz); %求均值和标准差
rr=corrcoef(pz); %求相关系数矩阵
data=zscore(pz); %数据标准化
n=3;m=3; %n 是自变量的个数,m 是因变量的个数
x0=pz(:,1:n);y0=pz(:,n+1:end); 
e0=data(:,1:n);f0=data(:,n+1:end); 
num=size(e0,1);%求样本点的个数
chg=eye(n); %w 到 w*变换矩阵的初始化
for i=1:n 
%以下计算 w，w*和 t 的得分向量，
 matrix=e0'*f0*f0'*e0; 
 [vec,val]=eig(matrix); %求特征值和特征向量
 val=diag(val); %提出对角线元素
 [val,ind]=sort(val,'descend'); 
 w(:,i)=vec(:,ind(1)); %提出最大特征值对应的特征向量
 -538-
 w_star(:,i)=chg*w(:,i); %计算 w*的取值
 t(:,i)=e0*w(:,i); %计算成分 ti 的得分
 alpha=e0'*t(:,i)/(t(:,i)'*t(:,i)); %计算 alpha_i 
 chg=chg*(eye(n)-w(:,i)*alpha'); %计算 w 到 w*的变换矩阵
 e=e0-t(:,i)*alpha'; %计算残差矩阵
 e0=e; 
%以下计算 ss(i)的值
 beta=[t(:,1:i),ones(num,1)]\f0; %求回归方程的系数
 beta(end,:)=[]; %删除回归分析的常数项
 cancha=f0-t(:,1:i)*beta; %求残差矩阵
 ss(i)=sum(sum(cancha.^2)); %求误差平方和
%以下计算 press(i) 
 for j=1:num 
 t1=t(:,1:i);f1=f0; 
 she_t=t1(j,:);she_f=f1(j,:); %把舍去的第 j 个样本点保存起来
 t1(j,:)=[];f1(j,:)=[]; %删除第 j 个观测值
 beta1=[t1,ones(num-1,1)]\f1; %求回归分析的系数
 beta1(end,:)=[]; %删除回归分析的常数项
 cancha=she_f-she_t*beta1; %求残差向量
 press_i(j)=sum(cancha.^2); 
 end 
 press(i)=sum(press_i); 
 if i>1 
 Q_h2(i)=1-press(i)/ss(i-1); 
 else 
 Q_h2(1)=1; 
 end 
 if Q_h2(i)