Dimensionality reduction | 内容聚合讲解（逻辑增强版）

原页逐句翻译: 《大数据的方法与工具》，第 4 章“降维（Dimensionality reduction）”；Manuel，2026 年夏季。

本页解释: 封面把本讲定位在大数据方法课程的第四章。后续内容会先建立小数据上的 PCA、SVD 与 QR，再把同一目标搬到无法单机容纳的矩阵。

原页逐句翻译: 章节组织：中心主题是“降维”，三条分支分别是“复习”“小数据”“大数据”；本页高亮“复习”。

本页解释: 圆形关系图不是三种并列算法，而是教学路线。当前先补统计量、协方差、特征值和对角化，随后进入小数据算法，最后讨论分布式与随机化。

原页逐句翻译: 统计策略。大数据时代之前：从大总体抽取样本，例如电话调查；基于样本推导总体测量结果；按照这些测量结果对总体分类；依据给定目标作出决策。限制：同一类别中的人并不都会以相似方式行动；目标必须是一般性的，不能个性化。

本页解释: 这页给出降维的动机背景：传统策略先压缩总体为样本，再压缩个体为类别。它能降低处理规模，却会牺牲个体差异；现代高维数据允许保留更多细节，但又引出存储和计算压力。

原页逐句翻译: 统计复习。给定数据集 X=[X_1,\ldots,X_n]，中位数对应“中间”值；均值为 \bar X=\sum_{i=1}^{n}\frac{X_i}{n}。标准差是 X_i 与 \bar X 之间的平均距离，表示数据集的离散程度，并由 \sigma=\sqrt{\frac{\sum_{i=1}^{n}(X_i-\bar X)^2}{n-1}} 给出。方差同样衡量离散程度，等于 \sigma^2。这些测量都是一维的。

本页解释: 均值描述中心，标准差与方差描述围绕中心的展开程度。分母 n-1 对应课件采用的样本标准差写法。最后一句指出缺口：这些量单独处理每个变量，尚不能表达两个属性是否共同变化。

本页解释: 协方差矩阵把每一对变量的联动关系排成一个对称矩阵，对角线就是各变量方差。PCA 后面会对这个矩阵做谱分解：大特征值对应数据变化最强的方向。

原页逐句翻译: 代数复习。令 B 是向量空间 V 的一组基。对 M\in\mathcal M_n(\mathbb K)，当且仅当存在特征向量 X\in\mathcal M_{n,1}(\mathbb K) 使 MX=\lambda X 时，\lambda\in\mathbb K 是 M 的特征值。重要性质：若 M 的秩为 n，则它有 n 个非零特征值；若它有两两不同的 n 个特征值，则可对角化；M 可对角化当且仅当其特征向量构成一组基 B^{\prime}；M=PDP^{-1}，其中 D 的对角线放置特征值，P 是从 B^{\prime} 到 B 的过渡矩阵；任意 k\in\mathbb N 都有 M^k=PD^kP^{-1}。

本页解释: 特征向量是线性变换只缩放、不改变方向的方向。对角化把一般矩阵运算转成对角元素上的独立运算，这正是协方差矩阵能按主方向拆开的代数基础。

原页逐句翻译: 代数复习。M 的特征多项式定义为映射 \chi_M:\mathbb K\to\mathbb K，\lambda\mapsto\det(M-\lambda I_n)。性质：若 \lambda 是 M 的特征值，则它是 \chi_M 的根；M 可对角化，当且仅当 \chi_M 在 \mathbb K 上分裂，且每个特征值 \lambda 的特征空间维数等于其重数。一般说明：并非所有方阵都可对角化；任何对称矩阵都可对角化；行列式通常“难以”计算；不可逆矩阵称为奇异矩阵（singular matrix）。

本页解释: 协方差矩阵是实对称矩阵，所以这里最关键的保证是它可以正交对角化。课件同时提醒，直接通过行列式求根并不适合大规模数值计算；后续 SVD 与 QR 提供更稳定、可实现的路线。

原页逐句翻译: 章节组织：中心主题是“降维”，分支为“复习”“小数据”“大数据”；本页高亮“小数据”。

本页解释: 这一分隔页表示先把刚才的统计量和特征分解用于能在单机内存中处理的数据，核心是 PCA 以及支撑它的 SVD、QR。

原页逐句翻译: “我钦佩你计算方法的优雅；骑着真正数学的骏马穿过这些田野一定很好，而像我们这样的人却不得不费力地徒步前行。”——Albert Einstein。

本页解释: 引语在内容上充当过渡：漂亮的数学结构需要落到可计算的方法。后续不只写出分解存在性，还比较稳定性、计算顺序和矩阵形状。

原页逐句翻译: 主成分分析。PCA 的基本想法：提供最能突出数据相似性和差异性的“视角”；这个新视角组合原有“特征”，以便最好地概括数据。Example：可以收集的教学教室数据包括面积、可容纳学生人数、黑板数量、台式计算机数量。哪些属性有用、无用或冗余？

本页解释: 这是本讲第一个明确标注的 Example。问题不只是删除某一列，而是寻找原属性的线性组合，使主要变化集中到少数新坐标。面积与容量很可能冗余，图形页会把这种相关性画出来。

原页逐句翻译: 横轴：教室面积。纵轴：学生人数。红色散点表示各教室；横轴可见刻度约为 50、100、150，纵轴可见刻度约为 50、100、150。

本页解释: 点云沿左下到右上方向分布，说明面积与容量强正相关。若分别保存两个属性，会重复记录同一主要趋势；PCA 希望用沿点云长轴的一个坐标吸收大部分变化。

原页逐句翻译: 横轴：标准化后的教室面积。纵轴：标准化后的学生人数。两轴刻度从约 -1 到 2。红点表示标准化样本，蓝色斜线表示主要方向，黑色线段把各点连接到该方向上的投影位置。

本页解释: 标准化后两个变量处于可比较尺度。蓝线沿点云最大方差方向，黑线近似垂直于蓝线，表示样本被压缩到第一主成分时舍弃的正交残差；残差越短，一维近似越好。

原页逐句翻译: 横轴：第一主成分。纵轴：第二主成分。红点是样本在主成分坐标系中的位置，蓝色水平线表示第二主成分为 0，黑色竖线显示各点到该线的第二主成分偏移；横轴约从 -3 到 2，纵轴约从 -1 到 1。

本页解释: 旋转到主成分坐标后，第一主成分的跨度明显大于第二主成分。若只保留第一主成分，竖直偏移就是被丢弃的信息；图中多数偏移较小，因此这一课堂数据适合一维近似。

原页逐句翻译: 主成分分析流程。第一，标准化变量范围：避免变量取值范围差异过大，确保所有变量“贡献相同”，计算 Z_{i,j}=\frac{X_{i,j}-\bar X_i}{\sigma_{X_i}}。第二，确定变量之间的“关系”：寻找变量间相关性，并构造所有变量的协方差矩阵。第三，识别主成分：计算协方差矩阵的特征值与特征向量，并按非递增顺序重排特征值。

本页解释: 三步分别对应 P011-P013 的视觉变化。标准化解决量纲问题；协方差把联合变化编码成对称矩阵；特征向量给出新轴，特征值给出各轴方差，因此排序后即可决定保留哪些方向。

原页逐句翻译: 数值稳定性。方法的稳定性定义它如何对小扰动作出“反应”。由 M=PDP^{-1} 得 D=P^{-1}MP；对小扰动 \delta M，有 D+\delta D=P^{-1}(M+\delta M)P，因此 \delta D=P^{-1}\delta MP，转成范数即 \lVert\delta D\rVert\le\lVert P^{-1}\rVert\lVert P\rVert\lVert\delta M\rVert，式 (4.1)。对 m\times n 矩阵 A=(a_{i,j})_{1\le i\le m,\ 1\le j\le n}，p 范数定义为 \lVert A\rVert_p=\left(\sum_{i=1}^{m}\sum_{j=1}^{n}|a_{i,j}|^p\right)^{1/p}。式 (4.1) 表明扰动 \lVert\delta M\rVert 可能被放大至 \lVert P^{-1}\rVert\lVert P\rVert 倍。

本页解释: 不稳定不是说公式错误，而是输入中很小的舍入误差会在输出中变大。乘积 \lVert P^{-1}\rVert\lVert P\rVert 是条件放大因子；当特征向量基接近线性相关时，它可能很大。下一单元用正交矩阵构造 SVD，把这一因子压到 1。

原页逐句翻译: 线性变换。为简单起见考虑二维情形。矩阵 \begin{pmatrix}1&1\\0&1\end{pmatrix} 对应剪切（Shear）；\begin{pmatrix}2&0\\0&1\end{pmatrix} 对应伸缩（Dilution）；\begin{pmatrix}\cos\frac{\pi}{4}&\sin\frac{\pi}{4}\\-\sin\frac{\pi}{4}&\cos\frac{\pi}{4}\end{pmatrix} 对应旋转（Rotation）；\begin{pmatrix}-1&0\\0&1\end{pmatrix} 对应反射（Reflection）。黄色和绿色基向量展示变换前后的方向与长度。

本页解释: 图应从上方原始正交基开始，沿每个箭头看到底部结果。剪切改变夹角，伸缩只改变一个方向长度，旋转保持长度与夹角，反射保持长度但翻转一个方向。SVD 会把一般线性变换组织成正交变换、轴向缩放、正交变换。

本页解释: 推导先把输入向量分解到右奇异向量方向，再分别缩放，最后沿左奇异向量方向重组。每一项都是一个秩一映射；矩阵乘积把这些项压缩为 SVD 的三因子结构。

原页逐句翻译: 更一般地，对 m\times n 实矩阵 M，可写成 M=U\Sigma V^\top，其中 U=(u_1\ \cdots\ u_m) 与 V=(v_1\ \cdots\ v_n) 都是旋转矩阵，\Sigma 为对角形。尺寸为：M:m\times n、U:m\times m、\Sigma:m\times n、V:n\times n。\Sigma 对角元素称为奇异值，U 的列称左奇异向量，V^\top 的行称右奇异向量。若 U\Sigma V^\top 是秩为 r 的 m\times n 矩阵 X 的 SVD，则 \Sigma 恰有 r 个严格正元素，它们是 X^\top X 的 r 个特征值的平方根，并保留对应重数；V 的列是 X^\top X 的特征向量，U 的列是 XX^\top 的特征向量。

本页解释: 这页把二维推导推广到矩形矩阵。右奇异向量位于属性空间，左奇异向量位于样本空间；非零奇异值把两边配对。对数据矩阵而言，这正好连接 PCA 所需的协方差谱。

原页逐句翻译: SVD 的一般说明：SVD 不唯一，并且对任何矩阵都存在，无论矩阵是否可逆；只要相应奇异向量同步重排，奇异值也可重排；若 U\Sigma V^\top 是 X^\top 的一个 SVD，则 V\Sigma^\top U^\top 是 X 的一个 SVD。因为 U,V 是旋转矩阵，所以它们正交，即 U^\top U=I_m 与 V^\top V=I_n。稳定性方面，小扰动在特征分解中放大因子为 \lVert P^{-1}\rVert\lVert P\rVert；在 SVD 中为 \lVert U^{-1}\rVert\lVert(V^\top)^{-1}\rVert=\lVert U^\top\rVert\lVert V\rVert=1。

本页解释: 关键不是 SVD 一定更快，而是正交因子不会放大二范数误差。奇异值的顺序虽然可变，但算法通常按从大到小排列，以便截断时直接保留最重要方向。

原页逐句翻译: QR 分解。列线性无关的任意 X\in\mathcal M_{m,n}(\mathbb K) 可写成 X=QR，其中 Q\in\mathcal M_{m,n}(\mathbb K) 正交，R\in\mathcal M_{n,n}(\mathbb K) 上三角。若 X 可逆，则 R 也可逆。计算 QR 有多种方法：著名的 Gram-Schmidt 不稳定；另两种常见方法基于 Givens rotations 与 Householder reflections，前者较慢但更容易并行。给定向量 u，Householder reflection 为 H_u=I-\frac{2uu^\top}{u^\top u}。在正交归一基 \{u,v\} 中，w=c_1u+c_2v，其中 c_1=\frac{\langle w,u\rangle}{\lVert u\rVert_2^2}、c_2=\frac{\langle w,v\rangle}{\lVert v\rVert_2^2}。

本页解释: QR 把列空间的方向信息放进正交矩阵，把坐标与尺度放进较小的上三角矩阵。Householder 反射可一次消去一列对角线下方的多个元素，因此适合构造数值稳定的 QR。

本页解释: 逐句翻译忠实保留源句“orthogonal to” u “and” v。实际公式用 \langle u,v\rangle=0 消掉交叉项，得到关于超平面 u^\perp 的反射；在这张二维图里，u^\perp 正是由 v 张成的直线。反射只翻转 u 分量，图中绿色向量关于竖直 v 轴对称。

原页逐句翻译: Householder 反射可用于求矩阵 X 的 QR 分解。Householder reflection theorem 表明，对范数相近的向量 x,y，存在正交矩阵 Q 使 y=Qx，由此可迭代构造 R,Q。应用思路：确定正交矩阵 Q_1，使 Q_1c_1=(\gamma_1,0,\ldots,0)^\top，其中 \gamma_1 与 c_1 范数相近。此时 R_1 的第一列在首元素 \gamma_1 以下全为 0，右下剩余块记作 X_1，首行其余元素以星号表示。

本页解释: 逐句翻译把源文两处“similar norm”都译为“范数相近”。标准 Householder theorem 要求两向量范数相等，因为正交变换保持二范数；算法中应取 \lVert\gamma_1\rVert=\lVert c_1\rVert。第一个反射一次消去第一列对角线以下全部元素，剩余子矩阵留给下一轮。

原页逐句翻译: 确定正交矩阵 \widetilde Q_2，使 \widetilde Q_2\widetilde c_1=(\gamma_2,0,\ldots,0)^\top；定义 Q_2=\operatorname{diag}(I_{d_1},\widetilde Q_2) 并计算课件所示 R_2=Q_1R_1，得到前两列对角线下方为零、右下剩余块为 X_2 的结构。重复 t=\min(m-1,n) 次，得到 R=Q_tQ_{t-1}\cdots Q_2Q_1X。由正交性 Q^{-1}=Q^\top，所以 X=Q_1^\top\cdots Q_t^\top R=QR。应用到 X 的 SVD：先写 X=QR；再对 R=U_1\Sigma V^\top 做 SVD；最终 X=QU_1\Sigma V^\top=U\Sigma V^\top。

本页解释: 每轮只在尚未处理的右下子块上工作，因此已经形成的零不会被破坏。课件刚定义 Q_2，下一行却写 R_2=Q_1R_1；按迭代逻辑应为 R_2=Q_2R_1，疑似课件笔误，逐句翻译仍保留课件原式。先 QR 再 SVD 的价值是把一个高矩阵的问题压到较小的上三角矩阵；这条路线会在分布式 QR 和 randomized PCA 中再次出现。

本页解释: 右奇异向量矩阵就是协方差矩阵的特征向量矩阵，奇异值平方就是沿这些方向的方差。因而可以直接对数据矩阵做 SVD，而不必显式形成协方差矩阵。

原页逐句翻译: 降维。给定数据集，希望用最少空间保留最多信息。可用两种方式运行 PCA：特征值分解可能稍快但不稳定，特征值对应主成分方差；SVD 可能稍慢但稳定，奇异值平方对应主成分方差。通过截断矩阵，只保留最大的 k 个主成分。

本页解释: 排序后保留前 k 个方向，就是低秩近似。选择越小，存储和后续计算越省，但丢失的方差越多；课件强调的是方法关系与稳定性，并未给出自动选择阈值。

原页逐句翻译: 章节组织：中心主题是“降维”，分支为“复习”“小数据”“大数据”；本页高亮“大数据”。

本页解释: 分隔页表示数学目标不变，但实现条件改变：矩阵无法放进单机内存，矩阵形状、存储布局和通信量成为算法的一部分。

原页逐句翻译: 分布式系统。m\times n 矩阵 X 可以是稠密、稀疏、方阵、tall and skinny（高而窄）或 short and fat（矮而宽）。在多个节点上表示矩阵的方式包括按行或按列、按元素、按块。说明：矩阵不再能放入内存；矩阵形状与表示方式会影响速度。

本页解释: 按行存储适合逐行生成外积，按块存储适合 tiled QR；稀疏度决定一行中真正需要参与配对的元素数。这里先建立系统变量，下一单元专门利用高而窄矩阵的形状。

原页逐句翻译: 设置：X 无法放入内存；X 的行数远大于列数，即 m\gg n；n^2 可放入单机内存。运行 PCA 时：完整 SVD 的复杂度为 \mathcal O(mn^2)；只需要最重要的 k 个奇异值与奇异向量；所需工作为 \mathcal O(mk^2)。能否利用 X 的形状加速？

本页解释: 高而窄意味着样本极多、属性相对少。关键机会是把依赖海量行的数据压缩成一个 n\times n 的小矩阵，再在单机上做谱分解。

原页逐句翻译: 由第 4.22 页，C=X^\top X=V\Sigma^2V^\top，式 (4.2)。C 的维度为 n\times n，且假设单机有 n^2 内存，所以它能放入内存。于是希望计算 X^\top X，避免后续计算依赖 m；随后通过课件标为“??”的引用式求 C 的特征值并恢复 V,\Sigma。主要挑战是高效计算 X^\top X，同时不显著改变 C 的奇异值。准备：矩阵按行存盘；所有元素归一化到 [-1,1]，即除以最大元素。

本页解释: 这里“避免依赖 m”是指压缩后的谱分解不再扫描所有行，不是说形成 X^\top X 可以零成本。形成 Gram 矩阵仍需遍历数据并通信；P030 给出直接 MapReduce 基线。

原页逐句翻译: 计算 X^\top X 的简单 MapReduce：Mapper 对第 i 行的所有元素对 (x_{ij},x_{ik})，返回键值对 ((c_j,c_k),x_{ij}x_{ik})，其中 c_j,c_k 分别对应第 j,k 列。Reducer 对同一键 (c_i,c_j) 的值序列 \langle v_1,\ldots,v_R\rangle，其中每个 v_k 是 X 中元素的乘积，R 是非零乘积数，并计算 \sum_{i=1}^{R}v_i。复杂度：通信 shuffle size 为 \mathcal O(mL^2)，L 是一行最多非零元素数；单机热点 reduce-key complexity 为 \mathcal O(m)。

本页解释: 每个输出键对应 Gram 矩阵的一个列对条目。问题在于一行有 L 个非零元素时会产生平方级配对，而热门列对还会把最多 m 个值集中到一个 reducer；下一单元通过概率采样减轻这两处压力。

原页逐句翻译: 衡量多个文档之间的距离：统计所有词的出现次数；比较得分；若文档有很多共同词，就认为它们相似。限制：取三个文档 d_1,d_2,d_3，其中 d_1,d_2 很长，而 d_3 是 d_1 的摘录。很可能发生什么？

本页解释: 原始内积会偏向长文档：两个长文档即便主题一般，也可能因词数大而有较大重叠；摘录与原文方向接近，却因长度短得到较小点积。余弦相似度通过向量范数归一化，把比较重点从长度移到方向。

原页逐句翻译: 对向量 d_i,d_j，余弦相似度定义为 \cos(d_i,d_j)=\frac{\langle d_i,d_j\rangle}{\lVert d_i\rVert\lVert d_j\rVert}。基本想法：两个文档越接近，夹角越小；夹角越小，余弦越大。图中坐标轴为 word1、word2、word3，向量为 d_1,d_2,d_3，白色弧线表示夹角。更精细的策略：按意义对词分类；基于词语义考虑余弦相似度。

本页解释: 图先看方向而不是箭头长度：绿色 d_1 与黄色 d_3 夹角小，即使长度不同也相似；橙色 d_2 指向不同方向。分母把向量归一化，因此余弦只衡量方向一致性。

原页逐句翻译: 固定可在 MapReduce 运行时调节的参数 \gamma。用余弦相似度计算 X^\top X：Mapper 对第 i 行中每对 (x_{ij},x_{ik})，以概率 \min\left(1,\frac{\gamma}{\lVert c_j\rVert\lVert c_k\rVert}\right) 返回 ((c_j,c_k),x_{ij}x_{ik})。Reducer 对键 (c_i,c_j) 的值 \langle v_1,\ldots,v_R\rangle：若 \frac{\gamma}{\lVert c_j\rVert\lVert c_k\rVert}>1，返回 \frac{1}{\lVert c_j\rVert\lVert c_k\rVert}\sum_{i=1}^{R}v_i；否则返回 \frac{1}{\gamma}\sum_{i=1}^{R}v_i。

本页解释: 列范数大的列对被较低概率采样，但 reducer 用采样概率的倒数重加权。\gamma 越大，保留项越多、误差越小、通信越大；分支 \min(1,\cdot) 防止概率超过 1。

本页解释: P033 的列范数一直记为 c_j,c_k，P034 期望式分母却突然写成 \lVert v_j\rVert\lVert v_k\rVert，这是符号切换或疑似课件笔误；按列向量记号应与前页保持一致。期望式说明重加权消除了采样偏差，但单次运行仍有随机误差。余弦矩阵去掉列尺度，左右乘 D 把尺度放回。

原页逐句翻译: 说明：Mapper 使用 \lVert c_i\rVert，所以必须预先计算所有列范数，这需要一次 all-to-all 通信。参数 \gamma 可按目标调整：保留 X^\top X 中相似条目时，\gamma=\Omega(\frac{\log n}{s})，其中 s 是最低余弦相似度；保留 X^\top X 的奇异值时，\gamma=\Omega(\frac{n}{\varepsilon^2})，其中 \varepsilon 是相对误差。令 h 为归一化后最小非零值，shuffle size 为 \mathcal O(\frac{nL\gamma}{h^2})，reduce-key complexity 为 \mathcal O(\frac{\gamma}{h^2})。

本页解释: 这页给出真实代价：采样前要付列范数的全局通信；之后 \gamma 控制精度与流量。若 h 很小，复杂度中的 1/h^2 会放大，说明极小非零元素会削弱采样收益。

原页逐句翻译: 分布式 QR。第 4.21 页说明，先把 X 分解为 X=QR 可加速 X 的 SVD。Householder reflection theorem 可扩展成 tiled QR decomposition，适用于 X 无法放入内存的情形；tile 是可存储并在不同节点处理的矩阵块。把 X 表示成高而窄的块后：求对角块 X_{k,k} 的 QR；调整其右侧所有块 X_{k,j}；调整其下方所有块 X_{i,k} 及这些块右侧的 X_{i,j}；对所有对角块重复。

本页解释: 更新顺序体现数据依赖：对角块产生的正交变换必须先传播到同一块行和块列，再更新右下尾部。块可分布存储并并行处理，但每个对角阶段之间仍有顺序依赖。

原页逐句翻译: 全局回顾。简要总结：数据有很多变量；用 SVD 计算 PCA；依据 PCA 结果忽略低贡献，只保留最“突出”的维度；基于 PCA“近似”继续执行任务。关于 PCA：它在小数据和 tall-and-skinny 大数据上都有效；它寻找“最佳”解。最佳解比随机解好多少？

本页解释: 这一页把确定性主线收束为低秩近似，并提出新问题。PCA 追求按方差意义最优的子空间，但求最优可能昂贵；随机投影改为用概率保证换取更低成本。

原页逐句翻译: 随机投影：构造保持点对距离的映射。设置与目标：把 \mathbb R^n 中的 m 个点 (u_i)_{1\le i\le n} 映射为 \mathbb R^d 中的 m 个点，且 d\ll n；对所有 i,j，确保 \lVert v_i\rVert_2\approx\lVert u_i\rVert_2 与 \lVert v_i-v_j\rVert_2\approx\lVert u_i-u_j\rVert_2，式 (4.3)。Johnson-Lindenstrauss lemma 表明，随机投影后任意两点距离以高概率最多被 1\pm\varepsilon 因子扭曲。若 X^{\prime}=\frac{1}{\sqrt d}XR，其中 R\in\mathbb R^{n\times d} 的条目独立同分布且均值为零，则 X^{\prime} 更小，并在期望意义保留所有两两距离。

本页解释: 课件同一句写“m points”，却把点列下标上界写成 n，存在符号不一致；逐句翻译保留两者以便核对。随机矩阵把高维坐标混合到较低维空间，缩放因子控制投影后的平均能量。保证针对欧氏距离，并带有概率与误差参数；它不是 PCA 的最优方差方向，而是一次无需求协方差谱的保距嵌入。

原页逐句翻译: 随机投影的直觉。把随机向量投到固定子空间：考虑 \mathbb R^n 中 m 个点，均匀随机固定 k 个坐标；若两向量只在少数坐标不同，投影后距离可能彻底改变。把固定向量投到随机子空间：考虑 \mathbb R^n 中 m 个点并投到 k 维子空间；只在少数坐标不同的向量会把差异“铺开”到所有坐标，避免遗漏“重要”坐标。生成 R=(r_{i,j}) 时，不同条目分布影响方差和误差尾界；r_{i,j} 独立同分布、均值为零，通常选关于零对称且方差为一的分布。

本页解释: 核心区别是“抽若干原坐标”与“先随机混合再降维”。混合让局部差异扩散，降低恰好漏掉关键信息的概率；条目分布决定集中速度，因此均值和方差条件不是装饰。

原页逐句翻译: 说明：随机投影通常不是代数意义的投影，常有 R^2\ne R，R 的特征值也不一定属于 \{0,1\}，它只是与投影相差 \varepsilon。式 (4.3) 的要求不能推广到其他范数。投影向量的范数期望为 \sqrt{d/n}，误差随 d 指数减小。时间复杂度为 \mathcal O(mnd)。投影矩阵可以做得非常稀疏，以很少精度损失换取明显加速。若矩阵 M 使 Mx 在小误差内保持 x 的范数，则称 M 为 sketching matrix。

本页解释: P038 的 R\in\mathbb R^{n\times d} 通常是矩形矩阵，此时 R^2 与特征值都没有定义。P040 所列 R^2=R 和特征值属于 \{0,1\} 是方阵投影算子的代数判据，不能直接套到该矩形随机映射矩阵。这里的“projection”是算法名称；课件其余结论限定在二范数，稀疏随机矩阵可减少乘法次数，但精度仍由目标维数与分布控制。

原页逐句翻译: 大数据降维要保留数据的重要结构性质：tall-and-skinny 情形可用 SVD；其他情形可用随机投影；PCA 能保证好结果，随机投影则未必。Randomized PCA：随机投影 X 得 X^{\prime}；对 X^{\prime}=QR 做 QR；计算 B=Q^\top X；对 B=U_1\Sigma V^\top 做 SVD；用 QQ^\top X=Q(U_1\Sigma V^\top)=U\Sigma V^\top 近似 X 的 SVD；再按通常方式完成 PCA。

本页解释: 随机投影先找到一个较小的候选列空间，QR 把它正交化；随后只需在压缩矩阵上做 SVD。最后左乘 Q 把结果抬回原空间。误差来自候选子空间未完全覆盖 X 的主导奇异方向。

原页逐句翻译: 关键点：如何执行降维？SVD 与 PCA 有什么关系？什么是 cosine similarity？如何处理 tall-and-skinny 大数据？什么是 random projections？

本页解释: 五个问题依次对应本讲的完整知识链：截断主成分、数据矩阵与协方差谱、归一化方向相似度、分布式 Gram/QR、概率保距与 randomized PCA。

原页逐句翻译: 谢谢！

本页解释: 结束页没有新增技术内容。回看时可从 P042 的五个问题进入对应单元，并用原图和逐页翻译核对符号。