Numerical Optimization(数值优化)读书笔记1——无约束优化概述
对于无约束优化,我们在实数域对目标函数进行优化,且对于变量没有任何限制,数学表达式为:
$$
\min_xf(x)\tag{1}
$$
其中$x\in\mathbb R^n,n>1$,$f:\mathbb R^n \rightarrow \mathbb R$为光滑函数。
学习记录
对于无约束优化,我们在实数域对目标函数进行优化,且对于变量没有任何限制,数学表达式为:
$$
\min_xf(x)\tag{1}
$$
其中$x\in\mathbb R^n,n>1$,$f:\mathbb R^n \rightarrow \mathbb R$为光滑函数。
面对市面上常用的qq.com,163.com,gmail.com,icloud.com,你可曾有过注册邮箱时被抢注的经历?可曾有想过拥有带着自己域名的邮箱?
拥有自己的域名邮箱的好处不止于此,拥有了自己的域名邮箱,你可以注册任意多个邮箱,不需要使用手机号或者是其他软件(比如QQ),十分方便。
Continue reading 之前的文章问题引入:自相关引入了自相关问题以及其经典生成算法CAN。这次我们将该问题一般化,考虑MIMO系统,即设计一个包含$M$个低自相关序列的序列。
$$
{\bold x_m}=[x_m(1)…x_m(N)]^T,m=1,…,M
$$
其
在上一篇文章流形优化:从一个简单的例子开始中,从实例出发介绍了流形优化的过程,并将其与传统的拉格朗日乘数法做了对比。本文将对流形优化中的概念进行介绍。
常用符号$\varepsilon$来表示实数线性空间,常见的线性空间有$\
Continue reading在感知系统中(比如雷达声纳),常会遇到这样的问题:当我们发射一串信号后,我们需要从反射的信号中分析出我们感兴趣的内容。比如可以通过检测返回声波信号的多普勒频移来判断目标的速度。在感知系统中,有两个因素对系统的准确性起关键作用,分别是接受滤波器
和
先考虑一个经典的优化问题:瑞利商(Rayleigh quotient),如下:
$$
\min_{x \in \real^n} \frac{x^TAx}{x^Tx}
$$
由于瑞利商不随尺度变化而变化,因此,可以将$x$限制为单位范数:$||x||=1$,包含这样的向量的集合称为单位球:
光滑函数:无穷维可导函数。表示成$C^{\infin}$.
微分同胚:若$f$双射,$f,f^{-1}$光滑,则为微分同胚。
$M$是拓扑流形,若$\varphi = \varphi \circ \psi^{-1}$在$\psi(U\cap V)\rightarrow \varphi(U\cap
Continue reading$U \subset \real^n, V \subset \real^n,f:U \rightarrow V$同胚,则$m=n$
定义$M$为一个集合。则拓扑结构$O$为$P(M)$的子集,即:
$$
O \subseteq P(M)
$$
其中,$P(M)$代表$M$的所有子集构成的集合。拓扑结构$O$满足以下条件:
举个例子说明:
定义$M={1,2,3}$,那么我们可以写出如下拓
Continue reading 目标跟踪中常常会遇到跟踪目标被遮挡、形变、出界、模糊等问题,但这些问题常常不会持续很久,那么解决这个问题的一种思路是调节学习速率,使模型少学习”有问题“的目标,从而使得模型不被污染,增强跟踪效果。
而强化学习是训练一个Agent做决策。那么我们不妨把目标跟踪作为一个任务
Continue reading