DL Note-3 CNN Convolutional Neural Networks 卷积神经网络(CNN) 的灵感源于生物视觉系统,其设计初衷就是为了高效处理图像数据。早期的成功应用主要集中在物体识别领域,而更深层次的物体关系推断,至今仍是计算机视觉的前沿挑战。 在生物的研究中,存在感受野receptive field的概念,这是指神经元对于输入的局部区域的敏感程度。在卷积网络中,我们也引入了这个概念。相邻的神经元处理的 2025-07-10 Deep Learning #DeepLearning #CNN
DL Note-2 MLP Brain and Neuron 感知机Perceptron是神经元的一个相当简单的数学模型,包括:输入、权重、激活函数、输出。其实是在空间超平面上嵌入了一个非线性函数。 y^=g(∑i=1nxiθi+θ0)\hat{y} = g(\sum_{i=1}^{n} x_i \theta_i +\theta_0) y^=g(i=1∑nxiθi+θ0) 感知机在神经网络中也叫单元unit,是神 2025-06-28 Deep Learning #DeepLearning #MLP
DL Note-1 Intro 人工智能 (Artificial Intelligence):宏观的目标,即创造出能够模拟、延伸和扩展人类智能的机器。 机器学习 (Machine Learning):实现人工智能的一种核心方法。它的特点是不通过显式编程来解决问题,而是让算法从数据中自动学习规律。 深度学习(Deep Learning):它主要使用一种叫做“神经网络”的复杂结构,从海量数据中获取高度抽象的特征。 深度学习的魅力在于 2025-06-21 Deep Learning #DeepLearning
Introduction to Algorithm-08-Parallel 在现在的计算机中,多核处理器使用的是共享存储器架构。并行计算的目标是将计算任务分解为多个子任务,并在多个处理器上同时执行这些子任务,以提高计算效率。 动态多线程:在动态多线程中,处理器可以根据需要动态地分配任务。这种方法可以更好地利用处理器资源,但也可能导致任务之间的依赖关系和竞争条件。 多线程模型具有如下几个重要的优点:它是串行编程模型的一个简单扩展。通过在伪代码中加入 2025-06-16 Algorithm #Algorithm #Parallel
Introduction to Algorithm-07-Approximation Algorithm Definition 如果对规模为nnn的任意输入,近似算法所产生的近似解的代价CCC与最优解的代价C∗C^*C∗只差一个因子ρ(n)\rho(n)ρ(n)使得 max(CC∗,C∗C)≤ρ(n)\max\left(\frac{C}{C^*}, \frac{C^*}{C}\right) \le\rho(n) max(C∗C,CC∗)≤ρ(n) 称这个算法为ρ(n)\rho(n)ρ(n)- 2025-06-16 Algorithm #Algorithm #Approximation Algorithm
Introduction to Algorithm-06-NP completeness Defintition 非形式化地理解: P问题是在多项式时间可以解决的问题 NP问题指的是在多项式时间内可我被证明的问题,所有的P问题都是NP问题 NP完全问题是NP问题中最难的问题,所有的NP问题都可以在多项式时间内归约到NP完全问题上 当证明一个问题是NP完全问题时,实际上是证明了这个问题是NP问题中最难的问题 对于一些术语的说明: 抽象问题QQQ是问题实例III和解SSS之间的二元关 2025-06-16 Algorithm #Algorithm #NP completeness
Introduction to Algorithm-05-String Matching String Matching 问题描述:字符串匹配指的是在一个文本字符串中查找一个模式字符串的出现位置。这个问题在计算机科学中非常重要,尤其是在文本处理、搜索引擎和数据挖掘等领域。 Online Exact String Matching 在线匹配要求不能对文本进行预处理,并且必需精确匹配。前缀符号:⊏\sqsubset⊏,后缀:⊐\sqsupset⊐,定义前缀为P[:k]P[:k]P[:k] 2025-06-16 Algorithm #Algorithm #String Matching
Introduction to Algorithm-04-Amortized Analysis and Disjoint-Sets Dynamic tables Dynamic array 初始容量:向量从一个初始容量开始。 扩容条件:当向量的大小达到当前容量时,触发扩容。 倍增扩容:将当前容量加倍(例如,从 nnn 增加到 2n2n2n)。 数据复制:将现有元素复制到新的更大容量的存储空间中。 数据结构中的向量的倍增扩容的方法,在均摊分析下算法的时间复杂度为Θ(1)\Theta(1)Θ(1) 插入操作:大多数插入操作只 2025-06-16 Algorithm #Algorithm #Amortized Analysis #Disjoint Sets
Introduction to Algorithm-03-Greedy 读者稍后会发现,贪心算法只需考虑一个选择(即贪心的选择),在做贪心选择时,子问题之一必是空的,因此,只留下一个非空子问题。 更一般地,我们可以按如下步骤设计贪心算法: 将最优化问题转化为这样的形式:对其做出一次选择后,只剩下一个子问题需要求解。 证明做出贪心选择后,原问题总是存在最优解,即贪心选择总是安全的。 证明做出贪心选择后,剩余的子问题满足 2025-06-15 Algorithm #Algorithm #Greedy
Introduction to Algorithm-02-DP 最大子段和 考虑以数组中元素为结尾的最大子数组和,对于数组中的第i个元素,有两种选择: 以第i−1i-1i−1个元素结尾的最大子数组和加上第iii个元素 第i个元素本身 dp[i]=max(dp[i−1]+nums[i],nums[i])dp[i] = max(dp[i-1]+nums[i], nums[i]) dp[i]=max(dp[i−1]+nums[i],nums[i]) 上述公式表达 2025-06-15 Algorithm #Algorithm #Dynamic Programming