Rockafeller说:”优化问题的分水岭不是线性和非线性,而是凸性和非凸性” 两点连线上的点在介绍凸集和凸函数之前,先来看一个与之有关的基本问题:如下图,已知空间中有B,C两点,在给定两点坐标的情况下如何量化B,C连线上的任意一点D? 很简单,看下图,设已知A,B,C,D的坐标,AD ...

最主要的一点: 对矩阵进行PCA降维,一般是通过SVD实现的,而不是去计算原矩阵特征的协方差矩阵. 当前数据为p*n的矩阵X,n个样本,每个样本维度为p SVD: Xpn = UΣV^t PCA: Xpn = App^t*Ypn (A是正交矩阵,由p个特征的协方差矩阵的单位特征向量构成;Y是在新维度 ...

推导完PCA再来看看SVD 概述 奇异值分解(singular value decomposition)可以分解任意形状的矩阵, PCA是对方阵操作,所以SVD适用范围更广 A=UΣV^t 具体推导分解形式A是一个m*n的矩阵,那么A的SVD分解为Amn= Umm*Σmn*Vnn^t (Amn表 ...

复习完线性代数再来推导下PCA 概述 主成分分析(principal component analysis)是一种数据分析方法,出发点:从一组特征中计算出一组按重要性从大到小排列的新特征,它们是原有特征的线性组合,并且相互之间是不相关(即不线性相关)的. 重要性:通过方差衡量,方差大说明数据 ...

大一学的线性代数,遗忘的很严重,现在复习一下,从线性方程组说起 一.线性方程组 齐次线性方程组;非齐次线性方程组 要对A和x的矩阵形式熟悉, 看到Ax=0能在脑中快速过一遍计算流程 对于齐次线性方程组,设解空间为S: S对向量的加法和数乘两种运算是封闭的 任意一个解都可表示为其解空间向量的线性组 ...

何谓无偏估计就是用某个公式对采样后的样本进行统计,比如求样本的方差,这个方差会随着样本的不同而有浮动,或者说通过样本得到的方差是个随机变量,多次采样后可以对样本的方差求期望,如果方差的期望中没有变量则说明计算样本方差的公式是合理的,换句话说：用这种公式进行估计没有系统上的偏差，产生误差是随机因素造成 ...

记录一下自己的Git使用总结 查看分支 git branch:查看本地分支 git branch -r:查看远程分支 git branch –all:查看本地和远程分支 删除远程分支 待删除的远程分支不能是默认分支!! (一开始没注意到) git branch -r -d origin/br ...

Intro在Hexo中,markdown对语法非常敏感,一个空格都会造成文章的布局混乱,故开一篇文章专门记录自己使用过程中的心得 起初使用notepad++编辑文章,后来发现预览效果和真实显示效果不一样,所以换成了Visual Studio Code(vscode),非常容易扩展! F1→扩展:安 ...

最近颇受编码问题困扰,所以稍作总结,附以代码说明 为什么需要编解码?字符串以unicode的形式存在于内存中 ,但是unicode只是规定如何编码，并没有规定如何保存、传输这个编码,也就是说unicode不能直接写入文件或者在网络上传输,所以得通过某种编码使unicode变成连续的字节(byt ...

目标现跟随知乎”怎么练好英语口语？”的高票回答练习口语,定期更新进展问题链接:https://www.zhihu.com/question/20097263笔记(随时更新) 进展stage1to 01/02/2018 背诵完赵曙明，曹罗红两位老师编著的《新托福口语词汇》 的口语高频必背词汇：lis ...