图像处理中neuron

2013-06-02 20:35:57 zhubenfulovepoem 阅读数 6112
  • 神经元

    深刻理解深度学习原理 掌握深度神经网络的Python代码实现方法

    13人学习 白勇
    免费试看
#include <cv.h>
#include <highgui.h>
#include "opencv2/imgproc/imgproc.hpp"
#include "opencv2/highgui/highgui.hpp"


using namespace std;
using namespace cv;


//定义文件夹下视频的数量
#define NumVideo 4


#define WidthResize 300
#define HeightResize 180




int main()
{
CvSize size;
FILE *fp;
if((fp=fopen("..\\dstAbsGray.txt","w"))==NULL)
{
printf("can not open the neuron file\n");
exit(0);
}


//初始化一个视频文件捕捉器
char *video_name = NULL;
CvCapture* capture;
video_name = (char*)malloc(50*sizeof(char)); //动态分配内存
for(int jj=1; jj<=NumVideo; jj++)
{
int i=0; //视频读取标志标志
printf("\n第%d段视频\n",jj);


sprintf_s(video_name, 50, "..\\video\\%d.avi",jj);//保存的图片名
capture = cvCaptureFromAVI(video_name);
// CvCapture* capture = cvCaptureFromAVI("..\\video\\4.avi");
if( capture == NULL )
{
printf("视频文件打开失败!!");
continue;
}

int frameH    = (int) cvGetCaptureProperty(capture, CV_CAP_PROP_FRAME_HEIGHT);
int frameW    = (int) cvGetCaptureProperty(capture, CV_CAP_PROP_FRAME_WIDTH);
int fps       = (int) cvGetCaptureProperty(capture, CV_CAP_PROP_FPS);
int numFrames = (int) cvGetCaptureProperty(capture, CV_CAP_PROP_FRAME_COUNT);
printf("\tvideo height : %d\n\tvideo width : %d\n\tfps : %d\n\tframe numbers : %d\n", frameH, frameW, fps, numFrames);


//定义和初始化变量
IplImage* image = NULL;
image = cvQueryFrame(capture); //获取一帧图片


if(image == NULL)
{
printf("视频文件第一帧打开失败!!");
continue;
}
cvNamedWindow("原始视频");
cvShowImage( "原始视频", image );


size.width = WidthResize;
size.height = HeightResize; 


IplImage* desc = cvCreateImage(size,image->depth,image->nChannels);
// cvResize(imageTemp,desc,CV_INTER_CUBIC);
cvResize(image,desc,CV_INTER_CUBIC);


if(desc == NULL)
{
printf("视频文件Resize失败!!");
continue;
}


IplImage* temp = cvCloneImage( desc );
cvNamedWindow("Box Example");
cvShowImage( "Box Example", temp );


char * image_name=NULL;
//char image_name[20];
image_name=(char *)malloc(50*sizeof(char)); //动态分配内存

int c = 0;
while( 1 )
{
//获取空格键值,并置位抠图标志位flag
c = cvWaitKey(1);
// if((char)c==(char)32)
{
printf("%d\n",i);
image = cvQueryFrame(capture); //获取一帧图片
if( capture == NULL )
{
printf("视频文件打开失败!!");
continue;
}
cvNamedWindow("原始视频");
cvShowImage( "原始视频", image );


sprintf_s(image_name,50, "%s%d%s%d%s", "..\\sourceImage\\", jj,"_",++i, ".jpg");//保存的图片名
//如何将这些图片保存到一个指定的文件夹中? //"d:\\images\\image" 将图片存放在d盘images文件夹下                
cvSaveImage(image_name, image);   //保存一帧图片
}
if(i == numFrames - 1)
break;
}
}
}
2017-07-07 10:39:48 wyx100 阅读数 8491
  • 神经元

    深刻理解深度学习原理 掌握深度神经网络的Python代码实现方法

    13人学习 白勇
    免费试看

机器学习(ML)、深度学习(DL)和图像处理(opencv)专用英语词典

百度翻译

http://fanyi.baidu.com/

A

AAN (Active Appearance Model)主动外观模型

Adam(adaptive moment estimation,适应性矩估计),Adam是一种可以替代传统随机梯度下降过程的一阶优化算法,它能基于训练数据迭代地更新神经网络权重。Adam 最开始是由 OpenAI 的 Diederik Kingma 和多伦多大学的 Jimmy Ba 在提交到 2015 年 ICLR 论文(Adam: A Method for Stochastic Optimization)中提出的。Adam 优化算法应用在非凸优化问题中有优势。

ASM(Active Shape Model)主动形状模型

ANPR (Automatic License Plate Recognition System (ANPR) 车牌自动识别系统,涉及了人工智能、机器视觉和神经网络等领域,实现一个车牌自动识别系统(ANPR)。它包括了一系列的数学算法原理,以保证数字车牌的检测与提取、字母分割、归一化和识别。 也称ALPR(Automatic number plate recognition

Automatic License Plate Recognition)自动牌照识别、AVI(Automatic Vehicle Identification)自动车辆识别、CPR(Car  Plate Recognition)洗车车牌识别。

ANN(Artificial neural network)人工(智能)神经网络

approximations近似值

arbitrary随意的

affine仿射的

arbitrary任意的

amino acid氨基酸

amenable经得起检验的

axiom公理,原则

abstract提取

architecture架构,体系结构;建造业

absolute绝对的

arsenal军火库

assignment分配

algebra线性代数  

asymptotically无症状的

appropriate恰当的

B

bias偏差

brevity简短,简洁;短暂  

broader广泛  

briefly简短的  

batch批量

C

cnn,卷积神经网络(Convolutional Neural Network,CNN)是一种前馈神经网络,它的人工神经元可以响应一部分覆盖范围内的周围单元,对于大型图像处理有出色表现。[1]  它包括卷积层(alternating convolutional layer)和池层(pooling layer)。

CNTK(Computational Network Toolkit)是微软出品的开源深度学习工具包。

convergence 收敛,集中到一点  convex凸的

contours轮廓

constraint约束

constant常理

commercial商务的

complementarity补充  

coordinate ascent同等级上升

clipping剪下物;剪报;修剪

component分量;部件  

continuous连续的

covariance协方差  

canonical正规的,正则的

concave非凸的

corresponds相符合;相当;通信  

corollary推论  

concrete具体的事物,实在的东西

cross validation交叉验证

correlation相互关系

cost function目标函数

convention约定  

cluster一簇

centroids 质心,形心

converge收敛

computationally计算(机)的  

calculus计算

clustering聚类,hierarchical clustering 层次聚类

D

derive获得,取得  

dual二元的  

duality二元性;二象性;对偶性  

derivation求导;得到;起源

denote预示,表示,是…的标志;意味着,[逻]指称  

divergence 散度;发散性

dimension尺度,规格;维数

dot小圆点  

distortion变形  

density概率密度函数

discrete离散的  

discriminative有识别能力的

diagonal对角

dispersion分散,散开  

determinant决定因素  

disjoint不相交的

DL(deep learning)深度学习

dilate,膨胀;扩大;详述

E

encounter遇到  

ellipses椭圆

equality等式

extra额外的  

empirical经验;观察  

ennmerate例举,计数  

ETA

ETS=Estimated Time of Sailing,预计开航时间
ETA=Estimated Time of Arrival,预计到达时间
ETD=estimated time of departur,估计出发时间。

exceed超过,越出

expectation期望  

efficient生效的  

endow赋予  

explicitly清楚的

exponential family指数家族  

equivalently等价的

erode侵蚀,腐蚀

F

feasible可行的  

forary初次尝试  

inite有限的,限定的  

forgo摒弃,放弃

fliter过滤  

frequentist最常发生的  

forward search前向式搜索

formalize使定形

FLANN库全称是Fast Library for Approximate Nearest Neighbors,它是目前最完整的(近似)最近邻开源库。不但实现了一系列查找算法,还包含了一种自动选取最快算法的机制。http://www.cs.ubc.ca/research/flann/

G

generalized归纳的

generalization概括,归纳;普遍化;判断(根据不足)  

guarantee保证;抵押品

generate形成,产生

geometric margins几何边界

gap裂口

generative生产的;有生产力的

gradient descent梯度下降

H

heuristic启发式的;启发法;启发程序  hone怀恋;磨

hyperplane超平面

I

initial最初的

implement执行

intuitive凭直觉获知的  

incremental增加的

intercept截距  

intuitious直觉

instantiation例子

indicator指示物,指示器  

interative重复的,迭代的  

integral积分  

identical相等的;完全相同的  

indicate表示,指出

invariance不变性,恒定性  

impose把…强加于  

intermediate中间的  

interpretation解释,翻译

J

joint distribution联合概率

K

kNN邻近算法,或者说K最近邻(kNN,k-NearestNeighbor)分类算法是数据挖掘分类技术中最简单的方法之一。所谓K最近邻,就是k个最近的邻居的意思,说的是每个样本都可以用它最接近的k个邻居来代表。

k-means,算法接受参数 k ;然后将事先输入的n个数据对象划分为 k个聚类以便使得所获得的聚类满足:同一聚类中的对象相似度较高;而不同聚类中的对象相似度较小。聚类相似度是利用各聚类中对象的均值所获得一个“中心对象”(引力中心)来进行计算的。

L

lieu替代  logarithmic对数的,用对数表示的  

latent潜在的

Leave-one-out cross validation留一法交叉验证

LSTM(Long Short-Term Memory)是长短期记忆网络,是一种时间递归神经网络,适合于处理和预测时间序列中间隔和延迟相对较长的重要事件。已经在科技领域有了多种应用。基于 LSTM 的系统可以学习翻译语言、控制机器人、图像分析、文档摘要、语音识别图像识别、手写识别、控制聊天机器人、预测疾病、点击率和股票、合成音乐等等任务。

M

magnitude巨大

mapping绘图,制图;映射

matrix矩阵  

mutual相互的,共同的  

monotonically单调的  

minor较小的,次要的  

multinomial多项的

multi-class classification二分类问题

MNIST(全称Mixed National Institute of Standards and Technology database),是一系列带标记的数字图片。原始的NIST数据集的训练集是美国人口普查局的雇员的笔迹,而验证集是采集自美国中学生的笔迹。所以从机器学习的角度看,这是一种不太合理的样本采集。因此Lecun在进行卷积神经网络的研究时候从原始的NIST两个数据集中选择并重新混合形成新的训练集和验证集,也就是现在的MNIST。MNIST的图片一般都是28*28的图片,每个像素值进行了归一化,使得其在0-1范围内,不过也有部分数据集把它们又恢复到0-255,每个数字图片都有对应的标记。MNIST的训练集一共有60000个样本,而验证集有10000个样本。

ML(machine learning)机器学习

morphology形态学(尤指动植物形态学或词语形态学)

N

nasty讨厌的  

notation 标志,注释  

native,本国的;土著的;天生的;天真的,纯朴的

NLP, (Natural Language Processing) 自然语言是人类智慧的结晶,自然语言处理人工智能中最为困难的问题之一,而对自然语言处理的研究也是充满魅力和挑战的。详情

NN,神经网络(Neural Networks)的简写。神经网络算法是一种模范动物神经网络行为特征,进行分布式并行信息处理的算法数学模型。这种网络依靠系统的复杂程度,通过调整内部大量节点之间相互连接的关系,从而达到处理信息的目的。

ntlk,(natural language toolkit)一套基于python的自然语言处理工具集。详情

O

OpenGL(全写Open Graphics Library)是指定义了一个跨编程语言、跨平台的编程接口规格的专业的图形程序接口。它用于三维图像(二维的亦可),是一个功能强大,调用方便的底层图形库。

obtain得到  

ocr(Optional Character Recognition)光学字符识别

oscillate摆动  

optimization problem 最优化问题  

objective function 目标函数  

optimal 最理想的  

orthogonal (矢量,矩阵等)正交的

orientation 方向

ordinary 普通的

occasionally 偶然的

overfitting 过拟合

opencv (Open Source Computer Vision LibraryOpenCV是一个基于BSD许可(开源)发行的跨平台计算机视觉库,可以运行在Linux、Windows、Android和Mac OS操作系统上。它轻量级而且高效——由一系列 C 函数和少量 C++ 类构成,同时提供了Python、Ruby、MATLAB等语言的接口,实现了图像处理和计算机视觉方面的很多通用算法。

P

partial derivative 偏导数  

property 性质

proportional 成比例的

primal 原始的,最初的

permit 允许

pseudocode 伪代码

permissible可允许的

polynomial多项式

preliminary预备

precision精度

perturbation 不安,扰乱

poist假定,设想

positive semi-definite半正定的

parentheses圆括号

posterior probability后验概率

plementarity补充

pictorially图像的

parameterize确定…的参数

poisson distribution柏松分布

pertinent相关的

PCA,主成分分析 ( Principal Component Analysis , PCA )或者主元分析。是一种掌握事物主要矛盾的统计分析方法,它可以从多元事物中解析出主要影响因素,揭示事物的本质,简化复杂的问题。计算主成分的目的是将高维数据投影到较低维空间

POSIT(Pose from orthography and Scaling With Iterations)尺寸变换提取姿态

Q

quadratic二次的

quantity量,数量;分量

query疑问的

R

regularization使系统化;调整

reoptimize重新优化

restrict限制;限定;约束

reminiscent回忆往事的;提醒的;使人联想…的(of)

remark注意

random variable随机变量

respect考虑

respectively各自的;分别的

redundant过多的;冗余的

RNN,多层反馈RNN(Recurrent neural Network、循环神经网络)神经网络是一种节点定向连接成环的人工神经网络。这种网络的内部状态可以展示动态时序行为。不同于前馈神经网络的是,RNN可以利用它内部的记忆来处理任意时序的输入序列,这让它可以更容易处理如不分段的手写识别、语音识别等。

TRNN(Time recurrent neural network)时间递归神经网络

S

susceptible敏感的

stochastic可能的;随机的

symmetric对称的

sophisticated复杂的

spurious假的;伪造的

subtract减去;减法器

simultaneously同时发生地;同步地

suffice满足

scarce稀有的,难得的

split分解,分离

subset子集

statistic统计量

successive iteratious连续的迭代

scale标度

sort of有几分的

squares平方

supervised learning 监督学习

SIFT(尺度不变特征变换,Scale-Invariant Feature Transform)是在计算机视觉领域中检测和描述图像中局部特征的算法,该算法于1999年被David Lowe提出,并于2004年进行了补充和完善。该算法应用很广,如目标识别,自动导航,图像拼接,三维建模,手势识别,视频跟踪等。不幸的是,该算法已经在美国申请了专利,专利拥有者为Lowe所在的加拿大不列颠哥伦比亚大学,因此我们不能随意使用它。
由于SIFT算法在计算机视觉的特征检测和特征描述中表现十分优异,因此该算法一经提出,就引起了广泛的关注。国内外对其研究的人很多,相关的资料也很多。

T

trajectory轨迹

temporarily暂时的

terminology专用名词

tolerance容忍;公差

thumb翻阅

threshold阈,临界

theorem定理

tangent正弦

U

unit-length vector单位向量

unsupervised learning 无监督学习

V

valid有效的,正确的

variance方差

variable变量;变元

vocabulary词汇

valued经估价的;宝贵的

vgg(Visual Geometry Group)

VGG-16又称为OxfordNet,是由牛津视觉几何组(Visual Geometry Group)开发的卷积神经网络结
构。该网络赢得了ILSVR(ImageNet)2014的冠军。时至今日,VGG仍然被认为是一个杰出的视觉模
型——尽管它的性能实际上已经被后来的Inception和ResNet超过了。

W

wrapper包装

x

y

z

 

图像处理(opencv)

Algebraic operation 代数运算 一种图像处理运算,包括两幅图像对应像素的和、差、积、商。
Aliasing 走样(混叠) 当图像象素间距和图像细节相比太大时产生的一种人工痕迹。
Arc (l)图的一部分(2)表示一段相连曲线的像素集合。
Binary image 二值图像 只有两级灰度的数字图像(通常为0和1,黑和白)。

Blur 模糊 由于散焦、低通滤波、摄像机运动等引起的图像清晰度的下降。
Border 边框 一幅图像的首、未行或列。
Boundary chain code 边界链码 定义一个物体边界的方向序列。
Boundary pixel 边界像素 至少和一个背景象素相邻接的内部像素(比较:外部像素、内部像素)。
Boundary tracking 边界跟踪 一种图像分割技术,通过沿弧从一个像素顺序探索到下一个像素的方法将弧检测出来。
Brightness 亮度 和图像一个点相关的值,表示从该点的物体发射或反射的光的量。
Change detection 变化检测 通过相减等操作将两幅匹准图像的像素加以比较从而检测出其中物体差别的技术。
Class  见模或类。
Closed curve 封闭曲线 一条首尾接于一点的曲线。
Cluster 聚类,集群 在空间(如在特征空间)中位置接近的点的集合。
Cluster analysis 聚类分析 在空间中对聚类的检测、度量和描述。
Concave 凹的 如果说某个物体是“凹的”是指至少存在两个物体内部的点,其连线不能完全包含在物体内部(反义词为凸的)。
Connected 连通的
Contour encoding 轮廓编码 对具有均匀灰度的区域,只将其边界进行编码的一种图像压缩技术。
Contrast 对比度 物体平均亮度(或灰度)与其周围背景的差别程度。
Contrast stretch 对比度扩展 一种线性的灰度变换。
Convex 凸的 指连接物体内部任意两点的直线均落在物体内部。
Convolution 卷积 一种将两个函数组合生成第三个函数的运算,卷积刻画了线性移不变系统的运算。
Convolution kernel 卷积核 (1)用于数字图像卷积滤波的二维数字阵列;(2)与图像或信号卷积的函数。
Curve 曲线 (1)空间的一条连续路径;(2)表示一路径的像素集合(见弧、封闭曲线)。
Deblurring 去模糊 (1)一种降低图像模糊,锐化图像细节的运算;(2)消除或降低图像的模糊,通常是图像复原或重构的一个步骤。
Decision rule 决策规则 在模式识别中,用以将图像中物体赋以一定量的规则或算法,这种赋值是以对物体特征度量为基础的。
Digital image 数字图像 (l)表示景物图象的整数阵列;(2)一个二维或更高维的采样并量化的函数,它由相同维数的连续图像产生;(3)在矩形(或其他)网格上采样一连续函数,并在采样点上将值量化后的阵列。
Digital image processing 数字图像处理 对图像的数字化处理;由计算机对图片信息进行操作。

Digitization 数字化 将景物图像转化为数字形式的过程。
Edge 边缘 (l)在图像中灰度出现突变的区域;(2)属于一段弧上的像素集,在其另一边的像素与其有明显的灰度差别。
Edge detection 边缘检测 通过检查邻域,将边缘像素标识出的一种图像分割技术。
Edge enhancement 边缘增强 通过将边缘两边像素的对比度扩大来锐化图像边缘的一种图像处理技术。
Edge image 边缘图像 在边缘图像中每个像素要么标注为边缘,要么为非边缘。
Edge linking 边缘连接 在边缘图像中将边缘象素连成边缘的一种图像处理技术。
Edge operator 边缘算子 将图像中边线像素标记出来的一种邻域算子。
Edge pixel 边缘像素 处于边缘上的像素。
Enhance 增强 增加对比度或主观可视程度。
Exterior pixel 外像素 在二值图像中,处于物体之外的像素(相对于内像素)。
False negative 负误识 在两类模式识别中,将属于物体标注为不属于物体的误分类。
False positive 正误识 在两类模式识别中,将不属于物体标注为属于物体的误分类。
Feature 特征 物体的一种特性,它可以度量。有助于物体的分类,如:大小、纹理、形状。
Feature extraction 特征检测 模式识别过程中的一个步骤,在该步骤中计算物体的有关度量。
Feature Selection 特征选择 在模式识别系统开发过程中的一个步骤。旨在研究质量或观测能否用于将物体赋以一定类别。
Feature space 特征空间 参见度量空间。
Fourier transform 傅里叶变换 采用复指数作为核函数的一种线性变换。
Geometric correction 几何校正 采用几何变换消除几何畸变的一种图像复原技术。
Gray level 灰度级 (1)和数字图像的像素相关连的值,它表示由该像素的原始景物点的亮度;(2)在某像素位置对图像的局部性质的数字化度量。
Gray scale 灰度 在数字图像中所有可能灰度级的集合。
Gray-scale transformation 灰度变换 在点运算中的一种函数,它建立了输入灰度和对应输出灰度的关系。
Hankel transform   Hankel变换
Harmonic signal 谐波信号 由余弦实部和相同频率的正弦虚部组合的复数信号。
Hermite function Hermite函数 具有偶实部和奇虚部的复值函数。
High-pass filtering 高通滤波 图像增强(通常是卷积)运算,相对于低频部分它对高频部分进行了提升。
Hole  在二值图像中,由物体内点完全包围的连通的背景点。
Image 图像 对物理景物或其他图像的统一表示称为图像。
Image Compression 图像压缩 消除图像冗余或对图像近似的任一种过程,其目的是对图像以更紧凑的形式表示。
Image cording 图像编码 将图像变换成另一个可恢复的形式(如压缩)。

Image enhancement 图像增强 旨在提高图像视觉外观的任一处理。
Image matching 图像匹配 为决定两副图像相似程度对它们进行量化比较的过程。
Image-processing operation 图像处理运算 将输入图像变换为输出图像的一系列步骤。
Image reconstruction 图像重构 从非图像形式构造或恢复图像的过程。
Image registration 图像配准 通过将景物中的一幅图像与相同景物的另一幅图像进行几何运算,以使其中物体对准的过程。
Image restoration 图像恢复 通过逆图像退化的过程将图像恢复为原始状态的过程。
Image segmentation 图像分割 (1)在图像中检测并勾画出感兴趣物体的处理;(2)将图像分为不相连的区域。通常这些区域对应于物体以及物体所处的背景。
Interior pixel 内象素 在一幅二值图像中,处于物体内部的像素(相对于边界像素、外像素)。
Interpolation 插值 确定采样点之间采样函数的过程称为插值。
Kernel  见卷积核。
Line detection 线检测 通过检查邻域将直线像素标识出来的一种图像分割技术。
Line pixel 直线像素 处于一条近似于直线的弧上的像素。
Local operation 局部运算 基于输入象素的一个邻域的像素灰度决定该像素输出灰度的图像处理运算,同邻域运算(对比:点运算)。
Local property 局部特征 在图像中随位置变化的感兴趣的特性(如:光学图像的亮度或颜色;非光学图像高度、温度、密度等)。
Lossness image compression 无损图像压缩 可以允许完全重构原图像的任何图像压缩技术。
Lossy image compression 有损图像压缩 由于包含近似,不能精确重构原图像的任何图像压缩技术。
Matched filtering 匹配滤波 采用匹配滤波器检测图像中特定物体的存在及其位量。
Measurement space 度量空间 在模式识别中,包含所有可能度量向量的n维向量空间。
Misclassification 误分类 在模式识别中,将物体误为别类的分类。
Multi-spectral image 多光谱图像 同一景物的一组图像,每一个是由电磁谱的不同波段辐射产生的。
Neighborhood 邻域 在给定像素附近的一像素集合。
Neighborhood operation 邻域运算 见局部运算(对比:点运算)。
Noise 噪声 一幅图像中阻碍感兴趣数据的识别和解释的不相关部分。
Noise reduction 噪声抑制 降低一幅图像中噪声的任何处理。
Object 目标,物体 在模式识别中,处于一二值图像中的相连象素的集合,通常对应于该图像所表示景物中的一个物体。
Optical image 光学图像 通过镜头等光学器件将景物中的光投射到一表面上的结果。
Pattern 模式 一个类的成员所表现出的共有的有意义的规则性,可以度量并可用于对感兴趣的物体进行分类。
Pattern class 模式类 可预先赋予一个物体的相互不包容的任一个类。
Pattern classification 模式分类 将物体赋予模式类的过程。
Pattern recognition 模式识别 自动或半自动地检测、度量、分类图像中的物体。
Pel 像素 图像元素(picture element)的缩写。
Perimeter 周长 围绕一物体的边界的周边距离。
Picture element 图像元素,像素 数字图像的最小单位。一幅数字图像的基本组成单元。
Pixel 像素 图像元素(picture element)的缩写。
Point operation 点运算 只根据对应像素的输入灰度值决定该像素输出灰度值的图像处理运算(对比:邻域运算)。
Quantitative image analysis 定量图像分析 从一幅数字图像中抽取定量数据的过程。
Quantization 量化 在每个象素处,将图像的局部特性赋予一个灰度集合中的元素的过程。
Region 区域 一幅图像中的相连子集。
Region growing 区域增长 通过反复对具有相似灰度或纹理的相邻子区域求并集生成区域的一种图像分割技术。
Registered 配准的 (l)调准的状态;(2)两幅或多幅图像已几何调准,其中的物体吻合。
Registered image 已配准图像 同一景物的两幅(或以上)图像已相互调准好位置,从而使其中的物体具有相同的图像位置。
Resolution 分辨率 (l)在光学中指可分辨的点物体之间最小的分离距离;(2)在图像处理中,指图像中相邻的点物体能够被分辨出的程度。
Run 行程 在图像编码中,具有相同灰度的相连像素序列。
Run length 行程长度,行程   在行程中像素的个数。
Run-length encoding 行程编码 图像行以行程列表示的图像压缩技术,每个行程由一个给定的行程长度和灰度值定义。
Sampling 采样 (根据采样网格)将图像分为象素并测量其上局部特性(如亮度、颜色)的过程。
Scene 场景 客观物体的一种特色布局。
Sharp 清晰 关于图像细节的易分辨性。
Sharpening 锐化 用以增强图像细节的一种图像处理技术。
Sigmoid function   Sigmoid函数,S函数   形如“S”的一种函数,是一种灰度变化函数,它也可用于神经元网络中处理单元(PE)中的函数。
Sinusoidal 正弦型的 具有正弦函数形状的函数类型。
Smoothing 平滑 降低图像细节幅度的一种图像处理技术。通常用于降噪。
Statistical Pattern recognition 统计模式识别 采用概率和统计的方法将物体赋予模式类的一种模式识别。
Structural pattern recognition 结构模式识别 为描述和分类物体,将物体表示为基元及其相互关系的一种模式识别方法。
Syntactic Pattern recognition 句法模式识别 采用自然或人工语言模式定义基元及相互关系的一种结构模式识别方法。
System 系统 对输入作出响应,并生成输出。
Texture 纹理 在图像处理中,表示图像中灰度幅度及其局部变化的空间组织的一种属性。
Thinning 细化 将物体削减为(单像素宽度)的细曲线的一种二值图像处理技术。
Threshold 阈值 用以产生二值图像的一个特定的灰度纹。
Thresholding 二值化 由灰度图产生二值图像的过程,如果输入像素的灰度值大于给定的阈值则输出象素赋为1,否则赋为0。
Transfer function 传递函数 在线性移不变系统中,表达每一频率下的正弦型输入信号将幅值比例传递到输出信号上的频率函数。

 

常用英语词汇-andrew Ng课程

  • [1 ] intensity 强度
  • [2 ] Regression 回归
  • [3 ] Loss function 损失函数
  • [4 ] non-convex 非凸函数
  • [5 ] neural network 神经网络
  • [ ] supervised learning 监督学习
  • [ ] regression problem 回归问题处理的是连续的问题
  • [ ] classification problem 分类问题处理的问题是离散的而不是连续的 
    回归问题和分类问题的区别应该在于 回归问题的结果是连续的,分类问题的结果是离散的。
  • [ ] discreet value 离散值
  • [ ] support vector machines 支持向量机,用来处理分类算法中输入的维度不单一的情况(甚至输入维度为无穷)
  • [ ] learning theory 学习理论
  • [ ] learning algorithms 学习算法
  • [ ] unsupervised learning 无监督学习
  • [ ] gradient descent 梯度下降
  • [ ] linear regression 线性回归
  • [ ] Neural Network 神经网络
  • [ ] gradient descent 梯度下降 监督学习的一种算法,用来拟合的算法
  • [ ] normal equations
  • [ ] linear algebra 线性代数 原谅我英语不太好
  • [ ] superscript上标
  • [ ] exponentiation 指数
  • [ ] training set 训练集合
  • [ ] training example 训练样本
  • [ ] hypothesis 假设,用来表示学习算法的输出,叫我们不要太纠结H的意思,因为这只是历史的惯例
  • [ ] LMS algorithm “least mean squares” 最小二乘法算法
  • [ ] batch gradient descent 批量梯度下降,因为每次都会计算 最小拟合的方差,所以运算慢
  • [ ] constantly gradient descent 字幕组翻译成“随机梯度下降” 我怎么觉得是“常量梯度下降”也就是梯度下降的运算次数不变,一般比批量梯度下降速度快,但是通常不是那么准确
  • [ ] iterative algorithm 迭代算法
  • [ ] partial derivative 偏导数
  • [ ] contour 等高线
  • [ ] quadratic function 二元函数
  • [ ] locally weighted regression局部加权回归
  • [ ] underfitting欠拟合
  • [ ] overfitting 过拟合
  • [ ] non-parametric learning algorithms 无参数学习算法
  • [ ] parametric learning algorithm 参数学习算法
  • [ ] other

  • [ ] activation 激活值

  • [ ] activation function 激活函数
  • [ ] additive noise 加性噪声
  • [ ] autoencoder 自编码器
  • [ ] Autoencoders 自编码算法
  • [ ] average firing rate 平均激活率
  • [ ] average sum-of-squares error 均方差
  • [ ] backpropagation 后向传播
  • [ ] basis 基
  • [ ] basis feature vectors 特征基向量
  • [50 ] batch gradient ascent 批量梯度上升法
  • [ ] Bayesian regularization method 贝叶斯规则化方法
  • [ ] Bernoulli random variable 伯努利随机变量
  • [ ] bias term 偏置项
  • [ ] binary classfication 二元分类
  • [ ] class labels 类型标记
  • [ ] concatenation 级联
  • [ ] conjugate gradient 共轭梯度
  • [ ] contiguous groups 联通区域
  • [ ] convex optimization software 凸优化软件
  • [ ] convolution 卷积
  • [ ] cost function 代价函数
  • [ ] covariance matrix 协方差矩阵
  • [ ] DC component 直流分量
  • [ ] decorrelation 去相关
  • [ ] degeneracy 退化
  • [ ] demensionality reduction 降维
  • [ ] derivative 导函数
  • [ ] diagonal 对角线
  • [ ] diffusion of gradients 梯度的弥散
  • [ ] eigenvalue 特征值
  • [ ] eigenvector 特征向量
  • [ ] error term 残差
  • [ ] feature matrix 特征矩阵
  • [ ] feature standardization 特征标准化
  • [ ] feedforward architectures 前馈结构算法
  • [ ] feedforward neural network 前馈神经网络
  • [ ] feedforward pass 前馈传导
  • [ ] fine-tuned 微调
  • [ ] first-order feature 一阶特征
  • [ ] forward pass 前向传导
  • [ ] forward propagation 前向传播
  • [ ] Gaussian prior 高斯先验概率
  • [ ] generative model 生成模型
  • [ ] gradient descent 梯度下降
  • [ ] Greedy layer-wise training 逐层贪婪训练方法
  • [ ] grouping matrix 分组矩阵
  • [ ] Hadamard product 阿达马乘积
  • [ ] Hessian matrix Hessian 矩阵
  • [ ] hidden layer 隐含层
  • [ ] hidden units 隐藏神经元
  • [ ] Hierarchical grouping 层次型分组
  • [ ] higher-order features 更高阶特征
  • [ ] highly non-convex optimization problem 高度非凸的优化问题
  • [ ] histogram 直方图
  • [ ] hyperbolic tangent 双曲正切函数
  • [ ] hypothesis 估值,假设
  • [ ] identity activation function 恒等激励函数
  • [ ] IID 独立同分布
  • [ ] illumination 照明
  • [100 ] inactive 抑制
  • [ ] independent component analysis 独立成份分析
  • [ ] input domains 输入域
  • [ ] input layer 输入层
  • [ ] intensity 亮度/灰度
  • [ ] intercept term 截距
  • [ ] KL divergence 相对熵
  • [ ] KL divergence KL分散度
  • [ ] k-Means K-均值
  • [ ] learning rate 学习速率
  • [ ] least squares 最小二乘法
  • [ ] linear correspondence 线性响应
  • [ ] linear superposition 线性叠加
  • [ ] line-search algorithm 线搜索算法
  • [ ] local mean subtraction 局部均值消减
  • [ ] local optima 局部最优解
  • [ ] logistic regression 逻辑回归
  • [ ] loss function 损失函数
  • [ ] low-pass filtering 低通滤波
  • [ ] magnitude 幅值
  • [ ] MAP 极大后验估计
  • [ ] maximum likelihood estimation 极大似然估计
  • [ ] mean 平均值
  • [ ] MFCC Mel 倒频系数
  • [ ] multi-class classification 多元分类
  • [ ] neural networks 神经网络
  • [ ] neuron 神经元
  • [ ] Newton’s method 牛顿法
  • [ ] non-convex function 非凸函数
  • [ ] non-linear feature 非线性特征
  • [ ] norm 范式
  • [ ] norm bounded 有界范数
  • [ ] norm constrained 范数约束
  • [ ] normalization 归一化
  • [ ] numerical roundoff errors 数值舍入误差
  • [ ] numerically checking 数值检验
  • [ ] numerically reliable 数值计算上稳定
  • [ ] object detection 物体检测
  • [ ] objective function 目标函数
  • [ ] off-by-one error 缺位错误
  • [ ] orthogonalization 正交化
  • [ ] output layer 输出层
  • [ ] overall cost function 总体代价函数
  • [ ] over-complete basis 超完备基
  • [ ] over-fitting 过拟合
  • [ ] parts of objects 目标的部件
  • [ ] part-whole decompostion 部分-整体分解
  • [ ] PCA 主元分析
  • [ ] penalty term 惩罚因子
  • [ ] per-example mean subtraction 逐样本均值消减
  • [150 ] pooling 池化
  • [ ] pretrain 预训练
  • [ ] principal components analysis 主成份分析
  • [ ] quadratic constraints 二次约束
  • [ ] RBMs 受限Boltzman机
  • [ ] reconstruction based models 基于重构的模型
  • [ ] reconstruction cost 重建代价
  • [ ] reconstruction term 重构项
  • [ ] redundant 冗余
  • [ ] reflection matrix 反射矩阵
  • [ ] regularization 正则化
  • [ ] regularization term 正则化项
  • [ ] rescaling 缩放
  • [ ] robust 鲁棒性
  • [ ] run 行程
  • [ ] second-order feature 二阶特征
  • [ ] sigmoid activation function S型激励函数
  • [ ] significant digits 有效数字
  • [ ] singular value 奇异值
  • [ ] singular vector 奇异向量
  • [ ] smoothed L1 penalty 平滑的L1范数惩罚
  • [ ] Smoothed topographic L1 sparsity penalty 平滑地形L1稀疏惩罚函数
  • [ ] smoothing 平滑
  • [ ] Softmax Regresson Softmax回归
  • [ ] sorted in decreasing order 降序排列
  • [ ] source features 源特征
  • [ ] sparse autoencoder 消减归一化
  • [ ] Sparsity 稀疏性
  • [ ] sparsity parameter 稀疏性参数
  • [ ] sparsity penalty 稀疏惩罚
  • [ ] square function 平方函数
  • [ ] squared-error 方差
  • [ ] stationary 平稳性(不变性)
  • [ ] stationary stochastic process 平稳随机过程
  • [ ] step-size 步长值
  • [ ] supervised learning 监督学习
  • [ ] symmetric positive semi-definite matrix 对称半正定矩阵
  • [ ] symmetry breaking 对称失效
  • [ ] tanh function 双曲正切函数
  • [ ] the average activation 平均活跃度
  • [ ] the derivative checking method 梯度验证方法
  • [ ] the empirical distribution 经验分布函数
  • [ ] the energy function 能量函数
  • [ ] the Lagrange dual 拉格朗日对偶函数
  • [ ] the log likelihood 对数似然函数
  • [ ] the pixel intensity value 像素灰度值
  • [ ] the rate of convergence 收敛速度
  • [ ] topographic cost term 拓扑代价项
  • [ ] topographic ordered 拓扑秩序
  • [ ] transformation 变换
  • [200 ] translation invariant 平移不变性
  • [ ] trivial answer 平凡解
  • [ ] under-complete basis 不完备基
  • [ ] unrolling 组合扩展
  • [ ] unsupervised learning 无监督学习
  • [ ] variance 方差
  • [ ] vecotrized implementation 向量化实现
  • [ ] vectorization 矢量化
  • [ ] visual cortex 视觉皮层
  • [ ] weight decay 权重衰减
  • [ ] weighted average 加权平均值
  • [ ] whitening 白化
  • [ ] zero-mean 均值为零

  • [ ] Letter A

  • [ ] Accumulated error backpropagation 累积误差逆传播

  • [ ] Activation Function 激活函数
  • [ ] Adaptive Resonance Theory/ART 自适应谐振理论
  • [ ] Addictive model 加性学习
  • [ ] Adversarial Networks 对抗网络
  • [ ] Affine Layer 仿射层
  • [ ] Affinity matrix 亲和矩阵
  • [ ] Agent 代理 / 智能体
  • [ ] Algorithm 算法
  • [ ] Alpha-beta pruning α-β剪枝
  • [ ] Anomaly detection 异常检测
  • [ ] Approximation 近似
  • [ ] Area Under ROC Curve/AUC Roc 曲线下面积
  • [ ] Artificial General Intelligence/AGI 通用人工智能
  • [ ] Artificial Intelligence/AI 人工智能
  • [ ] Association analysis 关联分析
  • [ ] Attention mechanism 注意力机制
  • [ ] Attribute conditional independence assumption 属性条件独立性假设
  • [ ] Attribute space 属性空间
  • [ ] Attribute value 属性值
  • [ ] Autoencoder 自编码器
  • [ ] Automatic speech recognition 自动语音识别
  • [ ] Automatic summarization 自动摘要
  • [ ] Average gradient 平均梯度
  • [ ] Average-Pooling 平均池化

  • [ ] Letter B

  • [ ] Backpropagation Through Time 通过时间的反向传播

  • [ ] Backpropagation/BP 反向传播
  • [ ] Base learner 基学习器
  • [ ] Base learning algorithm 基学习算法
  • [ ] Batch Normalization/BN 批量归一化
  • [ ] Bayes decision rule 贝叶斯判定准则
  • [250 ] Bayes Model Averaging/BMA 贝叶斯模型平均
  • [ ] Bayes optimal classifier 贝叶斯最优分类器
  • [ ] Bayesian decision theory 贝叶斯决策论
  • [ ] Bayesian network 贝叶斯网络
  • [ ] Between-class scatter matrix 类间散度矩阵
  • [ ] Bias 偏置 / 偏差
  • [ ] Bias-variance decomposition 偏差-方差分解
  • [ ] Bias-Variance Dilemma 偏差 – 方差困境
  • [ ] Bi-directional Long-Short Term Memory/Bi-LSTM 双向长短期记忆
  • [ ] Binary classification 二分类
  • [ ] Binomial test 二项检验
  • [ ] Bi-partition 二分法
  • [ ] Boltzmann machine 玻尔兹曼机
  • [ ] Bootstrap sampling 自助采样法/可重复采样/有放回采样
  • [ ] Bootstrapping 自助法
  • [ ] Break-Event Point/BEP 平衡点

  • [ ] Letter C

  • [ ] Calibration 校准

  • [ ] Cascade-Correlation 级联相关
  • [ ] Categorical attribute 离散属性
  • [ ] Class-conditional probability 类条件概率
  • [ ] Classification and regression tree/CART 分类与回归树
  • [ ] Classifier 分类器
  • [ ] Class-imbalance 类别不平衡
  • [ ] Closed -form 闭式
  • [ ] Cluster 簇/类/集群
  • [ ] Cluster analysis 聚类分析
  • [ ] Clustering 聚类
  • [ ] Clustering ensemble 聚类集成
  • [ ] Co-adapting 共适应
  • [ ] Coding matrix 编码矩阵
  • [ ] COLT 国际学习理论会议
  • [ ] Committee-based learning 基于委员会的学习
  • [ ] Competitive learning 竞争型学习
  • [ ] Component learner 组件学习器
  • [ ] Comprehensibility 可解释性
  • [ ] Computation Cost 计算成本
  • [ ] Computational Linguistics 计算语言学
  • [ ] Computer vision 计算机视觉
  • [ ] Concept drift 概念漂移
  • [ ] Concept Learning System /CLS 概念学习系统
  • [ ] Conditional entropy 条件熵
  • [ ] Conditional mutual information 条件互信息
  • [ ] Conditional Probability Table/CPT 条件概率表
  • [ ] Conditional random field/CRF 条件随机场
  • [ ] Conditional risk 条件风险
  • [ ] Confidence 置信度
  • [ ] Confusion matrix 混淆矩阵
  • [300 ] Connection weight 连接权
  • [ ] Connectionism 连结主义
  • [ ] Consistency 一致性/相合性
  • [ ] Contingency table 列联表
  • [ ] Continuous attribute 连续属性
  • [ ] Convergence 收敛
  • [ ] Conversational agent 会话智能体
  • [ ] Convex quadratic programming 凸二次规划
  • [ ] Convexity 凸性
  • [ ] Convolutional neural network/CNN 卷积神经网络
  • [ ] Co-occurrence 同现
  • [ ] Correlation coefficient 相关系数
  • [ ] Cosine similarity 余弦相似度
  • [ ] Cost curve 成本曲线
  • [ ] Cost Function 成本函数
  • [ ] Cost matrix 成本矩阵
  • [ ] Cost-sensitive 成本敏感
  • [ ] Cross entropy 交叉熵
  • [ ] Cross validation 交叉验证
  • [ ] Crowdsourcing 众包
  • [ ] Curse of dimensionality 维数灾难
  • [ ] Cut point 截断点
  • [ ] Cutting plane algorithm 割平面法

  • [ ] Letter D

  • [ ] Data mining 数据挖掘

  • [ ] Data set 数据集
  • [ ] Decision Boundary 决策边界
  • [ ] Decision stump 决策树桩
  • [ ] Decision tree 决策树/判定树
  • [ ] Deduction 演绎
  • [ ] Deep Belief Network 深度信念网络
  • [ ] Deep Convolutional Generative Adversarial Network/DCGAN 深度卷积生成对抗网络
  • [ ] Deep learning 深度学习
  • [ ] Deep neural network/DNN 深度神经网络
  • [ ] Deep Q-Learning 深度 Q 学习
  • [ ] Deep Q-Network 深度 Q 网络
  • [ ] Density estimation 密度估计
  • [ ] Density-based clustering 密度聚类
  • [ ] Differentiable neural computer 可微分神经计算机
  • [ ] Dimensionality reduction algorithm 降维算法
  • [ ] Directed edge 有向边
  • [ ] Disagreement measure 不合度量
  • [ ] Discriminative model 判别模型
  • [ ] Discriminator 判别器
  • [ ] Distance measure 距离度量
  • [ ] Distance metric learning 距离度量学习
  • [ ] Distribution 分布
  • [ ] Divergence 散度
  • [350 ] Diversity measure 多样性度量/差异性度量
  • [ ] Domain adaption 领域自适应
  • [ ] Downsampling 下采样
  • [ ] D-separation (Directed separation) 有向分离
  • [ ] Dual problem 对偶问题
  • [ ] Dummy node 哑结点
  • [ ] Dynamic Fusion 动态融合
  • [ ] Dynamic programming 动态规划

  • [ ] Letter E

  • [ ] Eigenvalue decomposition 特征值分解

  • [ ] Embedding 嵌入
  • [ ] Emotional analysis 情绪分析
  • [ ] Empirical conditional entropy 经验条件熵
  • [ ] Empirical entropy 经验熵
  • [ ] Empirical error 经验误差
  • [ ] Empirical risk 经验风险
  • [ ] End-to-End 端到端
  • [ ] Energy-based model 基于能量的模型
  • [ ] Ensemble learning 集成学习
  • [ ] Ensemble pruning 集成修剪
  • [ ] Error Correcting Output Codes/ECOC 纠错输出码
  • [ ] Error rate 错误率
  • [ ] Error-ambiguity decomposition 误差-分歧分解
  • [ ] Euclidean distance 欧氏距离
  • [ ] Evolutionary computation 演化计算
  • [ ] Expectation-Maximization 期望最大化
  • [ ] Expected loss 期望损失
  • [ ] Exploding Gradient Problem 梯度爆炸问题
  • [ ] Exponential loss function 指数损失函数
  • [ ] Extreme Learning Machine/ELM 超限学习机

  • [ ] Letter F

  • [ ] Factorization 因子分解

  • [ ] False negative 假负类
  • [ ] False positive 假正类
  • [ ] False Positive Rate/FPR 假正例率
  • [ ] Feature engineering 特征工程
  • [ ] Feature selection 特征选择
  • [ ] Feature vector 特征向量
  • [ ] Featured Learning 特征学习
  • [ ] Feedforward Neural Networks/FNN 前馈神经网络
  • [ ] Fine-tuning 微调
  • [ ] Flipping output 翻转法
  • [ ] Fluctuation 震荡
  • [ ] Forward stagewise algorithm 前向分步算法
  • [ ] Frequentist 频率主义学派
  • [ ] Full-rank matrix 满秩矩阵
  • [400 ] Functional neuron 功能神经元

  • [ ] Letter G

  • [ ] Gain ratio 增益率

  • [ ] Game theory 博弈论
  • [ ] Gaussian kernel function 高斯核函数
  • [ ] Gaussian Mixture Model 高斯混合模型
  • [ ] General Problem Solving 通用问题求解
  • [ ] Generalization 泛化
  • [ ] Generalization error 泛化误差
  • [ ] Generalization error bound 泛化误差上界
  • [ ] Generalized Lagrange function 广义拉格朗日函数
  • [ ] Generalized linear model 广义线性模型
  • [ ] Generalized Rayleigh quotient 广义瑞利商
  • [ ] Generative Adversarial Networks/GAN 生成对抗网络
  • [ ] Generative Model 生成模型
  • [ ] Generator 生成器
  • [ ] Genetic Algorithm/GA 遗传算法
  • [ ] Gibbs sampling 吉布斯采样
  • [ ] Gini index 基尼指数
  • [ ] Global minimum 全局最小
  • [ ] Global Optimization 全局优化
  • [ ] Gradient boosting 梯度提升
  • [ ] Gradient Descent 梯度下降
  • [ ] Graph theory 图论
  • [ ] Ground-truth 真相/真实

  • [ ] Letter H

  • [ ] Hard margin 硬间隔

  • [ ] Hard voting 硬投票
  • [ ] Harmonic mean 调和平均
  • [ ] Hesse matrix 海塞矩阵
  • [ ] Hidden dynamic model 隐动态模型
  • [ ] Hidden layer 隐藏层
  • [ ] Hidden Markov Model/HMM 隐马尔可夫模型
  • [ ] Hierarchical clustering 层次聚类
  • [ ] Hilbert space 希尔伯特空间
  • [ ] Hinge loss function 合页损失函数
  • [ ] Hold-out 留出法
  • [ ] Homogeneous 同质
  • [ ] Hybrid computing 混合计算
  • [ ] Hyperparameter 超参数
  • [ ] Hypothesis 假设
  • [ ] Hypothesis test 假设验证

  • [ ] Letter I

  • [ ] ICML 国际机器学习会议

  • [450 ] Improved iterative scaling/IIS 改进的迭代尺度法
  • [ ] Incremental learning 增量学习
  • [ ] Independent and identically distributed/i.i.d. 独立同分布
  • [ ] Independent Component Analysis/ICA 独立成分分析
  • [ ] Indicator function 指示函数
  • [ ] Individual learner 个体学习器
  • [ ] Induction 归纳
  • [ ] Inductive bias 归纳偏好
  • [ ] Inductive learning 归纳学习
  • [ ] Inductive Logic Programming/ILP 归纳逻辑程序设计
  • [ ] Information entropy 信息熵
  • [ ] Information gain 信息增益
  • [ ] Input layer 输入层
  • [ ] Insensitive loss 不敏感损失
  • [ ] Inter-cluster similarity 簇间相似度
  • [ ] International Conference for Machine Learning/ICML 国际机器学习大会
  • [ ] Intra-cluster similarity 簇内相似度
  • [ ] Intrinsic value 固有值
  • [ ] Isometric Mapping/Isomap 等度量映射
  • [ ] Isotonic regression 等分回归
  • [ ] Iterative Dichotomiser 迭代二分器

  • [ ] Letter K

  • [ ] Kernel method 核方法

  • [ ] Kernel trick 核技巧
  • [ ] Kernelized Linear Discriminant Analysis/KLDA 核线性判别分析
  • [ ] K-fold cross validation k 折交叉验证/k 倍交叉验证
  • [ ] K-Means Clustering K – 均值聚类
  • [ ] K-Nearest Neighbours Algorithm/KNN K近邻算法
  • [ ] Knowledge base 知识库
  • [ ] Knowledge Representation 知识表征

  • [ ] Letter L

  • [ ] Label space 标记空间

  • [ ] Lagrange duality 拉格朗日对偶性
  • [ ] Lagrange multiplier 拉格朗日乘子
  • [ ] Laplace smoothing 拉普拉斯平滑
  • [ ] Laplacian correction 拉普拉斯修正
  • [ ] Latent Dirichlet Allocation 隐狄利克雷分布
  • [ ] Latent semantic analysis 潜在语义分析
  • [ ] Latent variable 隐变量
  • [ ] Lazy learning 懒惰学习
  • [ ] Learner 学习器
  • [ ] Learning by analogy 类比学习
  • [ ] Learning rate 学习率
  • [ ] Learning Vector Quantization/LVQ 学习向量量化
  • [ ] Least squares regression tree 最小二乘回归树
  • [ ] Leave-One-Out/LOO 留一法
  • [500 ] linear chain conditional random field 线性链条件随机场
  • [ ] Linear Discriminant Analysis/LDA 线性判别分析
  • [ ] Linear model 线性模型
  • [ ] Linear Regression 线性回归
  • [ ] Link function 联系函数
  • [ ] Local Markov property 局部马尔可夫性
  • [ ] Local minimum 局部最小
  • [ ] Log likelihood 对数似然
  • [ ] Log odds/logit 对数几率
  • [ ] Logistic Regression Logistic 回归
  • [ ] Log-likelihood 对数似然
  • [ ] Log-linear regression 对数线性回归
  • [ ] Long-Short Term Memory/LSTM 长短期记忆
  • [ ] Loss function 损失函数

  • [ ] Letter M

  • [ ] Machine translation/MT 机器翻译

  • [ ] Macron-P 宏查准率
  • [ ] Macron-R 宏查全率
  • [ ] Majority voting 绝对多数投票法
  • [ ] Manifold assumption 流形假设
  • [ ] Manifold learning 流形学习
  • [ ] Margin theory 间隔理论
  • [ ] Marginal distribution 边际分布
  • [ ] Marginal independence 边际独立性
  • [ ] Marginalization 边际化
  • [ ] Markov Chain Monte Carlo/MCMC 马尔可夫链蒙特卡罗方法
  • [ ] Markov Random Field 马尔可夫随机场
  • [ ] Maximal clique 最大团
  • [ ] Maximum Likelihood Estimation/MLE 极大似然估计/极大似然法
  • [ ] Maximum margin 最大间隔
  • [ ] Maximum weighted spanning tree 最大带权生成树
  • [ ] Max-Pooling 最大池化
  • [ ] Mean squared error 均方误差
  • [ ] Meta-learner 元学习器
  • [ ] Metric learning 度量学习
  • [ ] Micro-P 微查准率
  • [ ] Micro-R 微查全率
  • [ ] Minimal Description Length/MDL 最小描述长度
  • [ ] Minimax game 极小极大博弈
  • [ ] Misclassification cost 误分类成本
  • [ ] Mixture of experts 混合专家
  • [ ] Momentum 动量
  • [ ] Moral graph 道德图/端正图
  • [ ] Multi-class classification 多分类
  • [ ] Multi-document summarization 多文档摘要
  • [ ] Multi-layer feedforward neural networks 多层前馈神经网络
  • [ ] Multilayer Perceptron/MLP 多层感知器
  • [ ] Multimodal learning 多模态学习
  • [550 ] Multiple Dimensional Scaling 多维缩放
  • [ ] Multiple linear regression 多元线性回归
  • [ ] Multi-response Linear Regression /MLR 多响应线性回归
  • [ ] Mutual information 互信息

  • [ ] Letter N

  • [ ] Naive bayes 朴素贝叶斯

  • [ ] Naive Bayes Classifier 朴素贝叶斯分类器
  • [ ] Named entity recognition 命名实体识别
  • [ ] Nash equilibrium 纳什均衡
  • [ ] Natural language generation/NLG 自然语言生成
  • [ ] Natural language processing 自然语言处理
  • [ ] Negative class 负类
  • [ ] Negative correlation 负相关法
  • [ ] Negative Log Likelihood 负对数似然
  • [ ] Neighbourhood Component Analysis/NCA 近邻成分分析
  • [ ] Neural Machine Translation 神经机器翻译
  • [ ] Neural Turing Machine 神经图灵机
  • [ ] Newton method 牛顿法
  • [ ] NIPS 国际神经信息处理系统会议
  • [ ] No Free Lunch Theorem/NFL 没有免费的午餐定理
  • [ ] Noise-contrastive estimation 噪音对比估计
  • [ ] Nominal attribute 列名属性
  • [ ] Non-convex optimization 非凸优化
  • [ ] Nonlinear model 非线性模型
  • [ ] Non-metric distance 非度量距离
  • [ ] Non-negative matrix factorization 非负矩阵分解
  • [ ] Non-ordinal attribute 无序属性
  • [ ] Non-Saturating Game 非饱和博弈
  • [ ] Norm 范数
  • [ ] Normalization 归一化
  • [ ] Nuclear norm 核范数
  • [ ] Numerical attribute 数值属性

  • [ ] Letter O

  • [ ] Objective function 目标函数

  • [ ] Oblique decision tree 斜决策树
  • [ ] Occam’s razor 奥卡姆剃刀
  • [ ] Odds 几率
  • [ ] Off-Policy 离策略
  • [ ] One shot learning 一次性学习
  • [ ] One-Dependent Estimator/ODE 独依赖估计
  • [ ] On-Policy 在策略
  • [ ] Ordinal attribute 有序属性
  • [ ] Out-of-bag estimate 包外估计
  • [ ] Output layer 输出层
  • [ ] Output smearing 输出调制法
  • [ ] Overfitting 过拟合/过配
  • [600 ] Oversampling 过采样

  • [ ] Letter P

  • [ ] Paired t-test 成对 t 检验

  • [ ] Pairwise 成对型
  • [ ] Pairwise Markov property 成对马尔可夫性
  • [ ] Parameter 参数
  • [ ] Parameter estimation 参数估计
  • [ ] Parameter tuning 调参
  • [ ] Parse tree 解析树
  • [ ] Particle Swarm Optimization/PSO 粒子群优化算法
  • [ ] Part-of-speech tagging 词性标注
  • [ ] Perceptron 感知机
  • [ ] Performance measure 性能度量
  • [ ] Plug and Play Generative Network 即插即用生成网络
  • [ ] Plurality voting 相对多数投票法
  • [ ] Polarity detection 极性检测
  • [ ] Polynomial kernel function 多项式核函数
  • [ ] Pooling 池化
  • [ ] Positive class 正类
  • [ ] Positive definite matrix 正定矩阵
  • [ ] Post-hoc test 后续检验
  • [ ] Post-pruning 后剪枝
  • [ ] potential function 势函数
  • [ ] Precision 查准率/准确率
  • [ ] Prepruning 预剪枝
  • [ ] Principal component analysis/PCA 主成分分析
  • [ ] Principle of multiple explanations 多释原则
  • [ ] Prior 先验
  • [ ] Probability Graphical Model 概率图模型
  • [ ] Proximal Gradient Descent/PGD 近端梯度下降
  • [ ] Pruning 剪枝
  • [ ] Pseudo-label 伪标记

  • [ ] Letter Q

  • [ ] Quantized Neural Network 量子化神经网络

  • [ ] Quantum computer 量子计算机
  • [ ] Quantum Computing 量子计算
  • [ ] Quasi Newton method 拟牛顿法

  • [ ] Letter R

  • [ ] Radial Basis Function/RBF 径向基函数

  • [ ] Random Forest Algorithm 随机森林算法
  • [ ] Random walk 随机漫步
  • [ ] Recall 查全率/召回率
  • [ ] Receiver Operating Characteristic/ROC 受试者工作特征
  • [ ] Rectified Linear Unit/ReLU 线性修正单元
  • [650 ] Recurrent Neural Network 循环神经网络
  • [ ] Recursive neural network 递归神经网络
  • [ ] Reference model 参考模型
  • [ ] Regression 回归
  • [ ] Regularization 正则化
  • [ ] Reinforcement learning/RL 强化学习
  • [ ] Representation learning 表征学习
  • [ ] Representer theorem 表示定理
  • [ ] reproducing kernel Hilbert space/RKHS 再生核希尔伯特空间
  • [ ] Re-sampling 重采样法
  • [ ] Rescaling 再缩放
  • [ ] Residual Mapping 残差映射
  • [ ] Residual Network 残差网络
  • [ ] Restricted Boltzmann Machine/RBM 受限玻尔兹曼机
  • [ ] Restricted Isometry Property/RIP 限定等距性
  • [ ] Re-weighting 重赋权法
  • [ ] Robustness 稳健性/鲁棒性
  • [ ] Root node 根结点
  • [ ] Rule Engine 规则引擎
  • [ ] Rule learning 规则学习

  • [ ] Letter S

  • [ ] Saddle point 鞍点

  • [ ] Sample space 样本空间
  • [ ] Sampling 采样
  • [ ] Score function 评分函数
  • [ ] Self-Driving 自动驾驶
  • [ ] Self-Organizing Map/SOM 自组织映射
  • [ ] Semi-naive Bayes classifiers 半朴素贝叶斯分类器
  • [ ] Semi-Supervised Learning 半监督学习
  • [ ] semi-Supervised Support Vector Machine 半监督支持向量机
  • [ ] Sentiment analysis 情感分析
  • [ ] Separating hyperplane 分离超平面
  • [ ] Sigmoid function Sigmoid 函数
  • [ ] Similarity measure 相似度度量
  • [ ] Simulated annealing 模拟退火
  • [ ] Simultaneous localization and mapping 同步定位与地图构建
  • [ ] Singular Value Decomposition 奇异值分解
  • [ ] Slack variables 松弛变量
  • [ ] Smoothing 平滑
  • [ ] Soft margin 软间隔
  • [ ] Soft margin maximization 软间隔最大化
  • [ ] Soft voting 软投票
  • [ ] Sparse representation 稀疏表征
  • [ ] Sparsity 稀疏性
  • [ ] Specialization 特化
  • [ ] Spectral Clustering 谱聚类
  • [ ] Speech Recognition 语音识别
  • [ ] Splitting variable 切分变量
  • [700 ] Squashing function 挤压函数
  • [ ] Stability-plasticity dilemma 可塑性-稳定性困境
  • [ ] Statistical learning 统计学习
  • [ ] Status feature function 状态特征函
  • [ ] Stochastic gradient descent 随机梯度下降
  • [ ] Stratified sampling 分层采样
  • [ ] Structural risk 结构风险
  • [ ] Structural risk minimization/SRM 结构风险最小化
  • [ ] Subspace 子空间
  • [ ] Supervised learning 监督学习/有导师学习
  • [ ] support vector expansion 支持向量展式
  • [ ] Support Vector Machine/SVM 支持向量机
  • [ ] Surrogat loss 替代损失
  • [ ] Surrogate function 替代函数
  • [ ] Symbolic learning 符号学习
  • [ ] Symbolism 符号主义
  • [ ] Synset 同义词集

  • [ ] Letter T

  • [ ] T-Distribution Stochastic Neighbour Embedding/t-SNE T – 分布随机近邻嵌入

  • [ ] Tensor 张量
  • [ ] Tensor Processing Units/TPU 张量处理单元
  • [ ] The least square method 最小二乘法
  • [ ] Threshold 阈值
  • [ ] Threshold logic unit 阈值逻辑单元
  • [ ] Threshold-moving 阈值移动
  • [ ] Time Step 时间步骤
  • [ ] Tokenization 标记化
  • [ ] Training error 训练误差
  • [ ] Training instance 训练示例/训练例
  • [ ] Transductive learning 直推学习
  • [ ] Transfer learning 迁移学习
  • [ ] Treebank 树库
  • [ ] Tria-by-error 试错法
  • [ ] True negative 真负类
  • [ ] True positive 真正类
  • [ ] True Positive Rate/TPR 真正例率
  • [ ] Turing Machine 图灵机
  • [ ] Twice-learning 二次学习

  • [ ] Letter U

  • [ ] Underfitting 欠拟合/欠配

  • [ ] Undersampling 欠采样
  • [ ] Understandability 可理解性
  • [ ] Unequal cost 非均等代价
  • [ ] Unit-step function 单位阶跃函数
  • [ ] Univariate decision tree 单变量决策树
  • [ ] Unsupervised learning 无监督学习/无导师学习
  • [ ] Unsupervised layer-wise training 无监督逐层训练
  • [ ] Upsampling 上采样

  • [ ] Letter V

  • [ ] Vanishing Gradient Problem 梯度消失问题

  • [ ] Variational inference 变分推断
  • [ ] VC Theory VC维理论
  • [ ] Version space 版本空间
  • [ ] Viterbi algorithm 维特比算法
  • [760 ] Von Neumann architecture 冯 · 诺伊曼架构

  • [ ] Letter W

  • [ ] Wasserstein GAN/WGAN Wasserstein生成对抗网络

  • [ ] Weak learner 弱学习器
  • [ ] Weight 权重
  • [ ] Weight sharing 权共享
  • [ ] Weighted voting 加权投票法
  • [ ] Within-class scatter matrix 类内散度矩阵
  • [ ] Word embedding 词嵌入
  • [ ] Word sense disambiguation 词义消歧

  • [ ] Letter Z

  • [ ] Zero-data learning 零数据学习

  • [ ] Zero-shot learning 零次学习

  • [ ] A

  • [ ] approximations近似值

  • [ ] arbitrary随意的
  • [ ] affine仿射的
  • [ ] arbitrary任意的
  • [ ] amino acid氨基酸
  • [ ] amenable经得起检验的
  • [ ] axiom公理,原则
  • [ ] abstract提取
  • [ ] architecture架构,体系结构;建造业
  • [ ] absolute绝对的
  • [ ] arsenal军火库
  • [ ] assignment分配
  • [ ] algebra线性代数
  • [ ] asymptotically无症状的
  • [ ] appropriate恰当的

  • [ ] B

  • [ ] bias偏差

  • [ ] brevity简短,简洁;短暂
  • [800 ] broader广泛
  • [ ] briefly简短的
  • [ ] batch批量

  • [ ] C

  • [ ] convergence 收敛,集中到一点

  • [ ] convex凸的
  • [ ] contours轮廓
  • [ ] constraint约束
  • [ ] constant常理
  • [ ] commercial商务的
  • [ ] complementarity补充
  • [ ] coordinate ascent同等级上升
  • [ ] clipping剪下物;剪报;修剪
  • [ ] component分量;部件
  • [ ] continuous连续的
  • [ ] covariance协方差
  • [ ] canonical正规的,正则的
  • [ ] concave非凸的
  • [ ] corresponds相符合;相当;通信
  • [ ] corollary推论
  • [ ] concrete具体的事物,实在的东西
  • [ ] cross validation交叉验证
  • [ ] correlation相互关系
  • [ ] convention约定
  • [ ] cluster一簇
  • [ ] centroids 质心,形心
  • [ ] converge收敛
  • [ ] computationally计算(机)的
  • [ ] calculus计算

  • [ ] D

  • [ ] derive获得,取得

  • [ ] dual二元的
  • [ ] duality二元性;二象性;对偶性
  • [ ] derivation求导;得到;起源
  • [ ] denote预示,表示,是…的标志;意味着,[逻]指称
  • [ ] divergence 散度;发散性
  • [ ] dimension尺度,规格;维数
  • [ ] dot小圆点
  • [ ] distortion变形
  • [ ] density概率密度函数
  • [ ] discrete离散的
  • [ ] discriminative有识别能力的
  • [ ] diagonal对角
  • [ ] dispersion分散,散开
  • [ ] determinant决定因素
  • [849 ] disjoint不相交的

  • [ ] E

  • [ ] encounter遇到

  • [ ] ellipses椭圆
  • [ ] equality等式
  • [ ] extra额外的
  • [ ] empirical经验;观察
  • [ ] ennmerate例举,计数
  • [ ] exceed超过,越出
  • [ ] expectation期望
  • [ ] efficient生效的
  • [ ] endow赋予
  • [ ] explicitly清楚的
  • [ ] exponential family指数家族
  • [ ] equivalently等价的

  • [ ] F

  • [ ] feasible可行的

  • [ ] forary初次尝试
  • [ ] finite有限的,限定的
  • [ ] forgo摒弃,放弃
  • [ ] fliter过滤
  • [ ] frequentist最常发生的
  • [ ] forward search前向式搜索
  • [ ] formalize使定形

  • [ ] G

  • [ ] generalized归纳的

  • [ ] generalization概括,归纳;普遍化;判断(根据不足)
  • [ ] guarantee保证;抵押品
  • [ ] generate形成,产生
  • [ ] geometric margins几何边界
  • [ ] gap裂口
  • [ ] generative生产的;有生产力的

  • [ ] H

  • [ ] heuristic启发式的;启发法;启发程序

  • [ ] hone怀恋;磨
  • [ ] hyperplane超平面

  • [ ] L

  • [ ] initial最初的

  • [ ] implement执行
  • [ ] intuitive凭直觉获知的
  • [ ] incremental增加的
  • [900 ] intercept截距
  • [ ] intuitious直觉
  • [ ] instantiation例子
  • [ ] indicator指示物,指示器
  • [ ] interative重复的,迭代的
  • [ ] integral积分
  • [ ] identical相等的;完全相同的
  • [ ] indicate表示,指出
  • [ ] invariance不变性,恒定性
  • [ ] impose把…强加于
  • [ ] intermediate中间的
  • [ ] interpretation解释,翻译

  • [ ] J

  • [ ] joint distribution联合概率

  • [ ] L

  • [ ] lieu替代

  • [ ] logarithmic对数的,用对数表示的
  • [ ] latent潜在的
  • [ ] Leave-one-out cross validation留一法交叉验证

  • [ ] M

  • [ ] magnitude巨大

  • [ ] mapping绘图,制图;映射
  • [ ] matrix矩阵
  • [ ] mutual相互的,共同的
  • [ ] monotonically单调的
  • [ ] minor较小的,次要的
  • [ ] multinomial多项的
  • [ ] multi-class classification二分类问题

  • [ ] N

  • [ ] nasty讨厌的

  • [ ] notation标志,注释
  • [ ] naïve朴素的

  • [ ] O

  • [ ] obtain得到

  • [ ] oscillate摆动
  • [ ] optimization problem最优化问题
  • [ ] objective function目标函数
  • [ ] optimal最理想的
  • [ ] orthogonal(矢量,矩阵等)正交的
  • [ ] orientation方向
  • [ ] ordinary普通的
  • [ ] occasionally偶然的

  • [ ] P

  • [ ] partial derivative偏导数

  • [ ] property性质
  • [ ] proportional成比例的
  • [ ] primal原始的,最初的
  • [ ] permit允许
  • [ ] pseudocode伪代码
  • [ ] permissible可允许的
  • [ ] polynomial多项式
  • [ ] preliminary预备
  • [ ] precision精度
  • [ ] perturbation 不安,扰乱
  • [ ] poist假定,设想
  • [ ] positive semi-definite半正定的
  • [ ] parentheses圆括号
  • [ ] posterior probability后验概率
  • [ ] plementarity补充
  • [ ] pictorially图像的
  • [ ] parameterize确定…的参数
  • [ ] poisson distribution柏松分布
  • [ ] pertinent相关的

  • [ ] Q

  • [ ] quadratic二次的

  • [ ] quantity量,数量;分量
  • [ ] query疑问的

  • [ ] R

  • [ ] regularization使系统化;调整

  • [ ] reoptimize重新优化
  • [ ] restrict限制;限定;约束
  • [ ] reminiscent回忆往事的;提醒的;使人联想…的(of)
  • [ ] remark注意
  • [ ] random variable随机变量
  • [ ] respect考虑
  • [ ] respectively各自的;分别的
  • [ ] redundant过多的;冗余的

  • [ ] S

  • [ ] susceptible敏感的

  • [ ] stochastic可能的;随机的
  • [ ] symmetric对称的
  • [ ] sophisticated复杂的
  • [ ] spurious假的;伪造的
  • [ ] subtract减去;减法器
  • [ ] simultaneously同时发生地;同步地
  • [ ] suffice满足
  • [ ] scarce稀有的,难得的
  • [ ] split分解,分离
  • [ ] subset子集
  • [ ] statistic统计量
  • [ ] successive iteratious连续的迭代
  • [ ] scale标度
  • [ ] sort of有几分的
  • [ ] squares平方

  • [ ] T

  • [ ] trajectory轨迹

  • [ ] temporarily暂时的
  • [ ] terminology专用名词
  • [ ] tolerance容忍;公差
  • [ ] thumb翻阅
  • [ ] threshold阈,临界
  • [ ] theorem定理
  • [ ] tangent正弦

  • [ ] U

  • [ ] unit-length vector单位向量

  • [ ] V

  • [ ] valid有效的,正确的

  • [ ] variance方差
  • [ ] variable变量;变元
  • [ ] vocabulary词汇
  • [ ] valued经估价的;宝贵的

  • [ ] W

  • [1038 ] wrapper包装

第一部分、计算机算法常用术语中英对照
Data Structures 基本数据结构 
Dictionaries 字典 
Priority Queues 堆 
Graph Data Structures 图 
Set Data Structures 集合 
Kd-Trees 线段树 
Numerical Problems 数值问题 
Solving Linear Equations 线性方程组 
Bandwidth Reduction 带宽压缩 
Matrix Multiplication 矩阵乘法 
Determinants and Permanents 行列式 
Constrained and UnconstrainedOptimization 最值问题 
Linear Programming 线性规划 
Random Number Generation 随机数生成 
Factoring and Primality Testing 因子分解/质数判定 
Arbitrary Precision Arithmetic 高精度计算 
Knapsack Problem 背包问题 
Discrete Fourier Transform 离散Fourier变换 
Combinatorial Problems 组合问题 
Sorting 排序 
Searching 查找 
Median and Selection 中位数 
Generating Permutations 排列生成 
Generating Subsets 子集生成 
Generating Partitions 划分生成 
Generating Graphs 图的生成 
Calendrical Calculations 日期 
Job Scheduling 工程安排 
Satisfiability 可满足性 
Graph Problems -- polynomial 图论-多项式算法 
Connected Components 连通分支 
Topological Sorting 拓扑排序 
Minimum Spanning Tree 最小生成树 
Shortest Path 最短路径 
Transitive Closure and Reduction 传递闭包 
Matching 匹配 
Eulerian Cycle / Chinese PostmanEuler回路/中国邮路 
Edge and Vertex Connectivity 割边/割点 
Network Flow 网络流 
Drawing Graphs Nicely 图的描绘 
Drawing Trees 树的描绘 
Planarity Detection and Embedding 平面性检测和嵌入 
Graph Problems -- hard 图论-NP问题 
Clique 最大团 
Independent Set 独立集 
Vertex Cover 点覆盖 
Traveling Salesman Problem 旅行商问题 
Hamiltonian Cycle Hamilton回路 
Graph Partition 图的划分 
Vertex Coloring 点染色 
Edge Coloring 边染色 
Graph Isomorphism 同构 
Steiner Tree Steiner树 
Feedback Edge/Vertex Set 最大无环子图 
Computational Geometry 计算几何 
Convex Hull 凸包 
Triangulation 三角剖分 
Voronoi Diagrams Voronoi图 
Nearest Neighbor Search 最近点对查询 
Range Search 范围查询 
Point Location 位置查询 
Intersection Detection 碰撞测试 
Bin Packing 装箱问题 
Medial-Axis Transformation 中轴变换 
Polygon Partitioning 多边形分割 
Simplifying Polygons 多边形化简 
Shape Similarity 相似多边形 
Motion Planning 运动规划 
Maintaining Line Arrangements 平面分割 
Minkowski Sum Minkowski和 
Set and String Problems 集合与串的问题 
Set Cover 集合覆盖 
Set Packing 集合配置 
String Matching 模式匹配 
Approximate String Matching 模糊匹配 
Text Compression 压缩 
Cryptography 密码 
Finite State Machine Minimization 有穷自动机简化 
Longest Common Substring 最长公共子串 
Shortest Common Superstring 最短公共父串 
DP——Dynamic Programming——动态规划 
recursion —— 递归 

第二部分、编程词汇 
A2A integration A2A整合 
abstract 抽象的 
abstract base class (ABC)抽象基类 
abstract class 抽象类 
abstraction 抽象、抽象物、抽象性 
access 存取、访问 
access level访问级别 
access function 访问函数 
account 账户 
action 动作 
activate 激活 
active 活动的 
actual parameter 实参 
adapter 适配器 
add-in 插件 
address 地址 
address space 地址空间 
address-of operator 取地址操作符 
ADL (argument-dependent lookup) 
ADO(ActiveX Data Object)ActiveX数据对象 
advanced
aggregation 聚合、聚集 
algorithm 算法 
alias 别名 
align 排列、对齐 
allocate 分配、配置 
allocator分配器、配置器 
angle bracket 尖括号 
annotation 注解、评注 
API (Application ProgrammingInterface) 应用(程序)编程接口 
app domain (application domain)应用域 
application 应用、应用程序 
application framework 应用程序框架 
appearance 外观 
append 附加 
architecture 架构、体系结构 
archive file 归档文件、存档文件 
argument引数(传给函式的值)。参见parameter 
array 数组 
arrow operator 箭头操作符 
ASP(Active Server Page)活动服务器页面 
ASP.NET worker process ASP.NET工作者进程 
assembly 装配件、配件 
assembly language 汇编语言 
assembly manifest 装配件清单 
assert(ion) 断言 
assign 赋值 
assignment 赋值、分配 
assignment operator 赋值操作符 
associated 相关的、相关联的 
associative container 关联式容器(对应sequential container) 
asynchronous 异步的 
atomic 原子的 
atomic operation 原子操作 
attribute 特性、属性 
authentication service 验证服务 
authorization 授权 
audio 音频 
A.I. 人工智能 
B2B integration B2B整合、B2B集成(business-to-businessintegration) 
background 背景、后台(进程) 
backward compatible 向后兼容、向下兼容 
backup 备份 
backup device备份设备 
backup file 备份文件 
bandwidth 带宽 
base class 基类 
base type 基类型 
batch 批处理 
BCL (base class library)基类库 
binary 二进制 
binary search 二分查找 
binary tree 二叉树 
binary function 双参函数 
binary large object二进制大对象 
binary operator 二元操作符 
binding 绑定 
bit 位 
bitmap 位图 
bitwise 按位... 
bitwise copy 为单元进行复制;位元逐一复制,按位拷 
bitwise operation 按位运算 
block 块、区块、语句块 
bookkeeping 簿记 
boolean 布林值(真假值,true或false) 
border 边框 
bounds checking 边界检查 
boxing 装箱、装箱转换 
brace (curly brace) 大括号、花括号 
bracket (square brakcet) 中括号、方括号 

breakpoint 断点 
browser applications 浏览器应用(程序) 
browser-accessible application 可经由浏览器访问的应用程序 
build 编连(专指编译和连接 
built-in 内建、内置 
bus 总线 
business 业务、商务(看场合) 
business Logic 业务逻辑 
business rules 业务规则 
buttons 按钮 
bug 臭虫 
by/through 通过 
byte 位元组(由8 bits组成) 
cache 高速缓存 
calendar 日历 
call 调用 
callback 回调 
call-level interface (CLI)调用级接口(CLI) 
call operator 调用操作符 
candidate key 候选键 (fordatabase) 
cascading delete 级联删除 (fordatabase) 
cascading update 级联更新 (fordatabase) 
casting 转型、造型转换 
catalog 目录 
chain 链(function calls) 
character 字符 
character format 字符格式 
character set 字符集 
CHECK constraints CHECK约束 (for database) 
checkpoint 检查点 (fordatabase) 
check box 复选框 
check button 复选按钮 
child class 子类 
CIL (common intermediate language)通用中间语言、通用中介语言 
class 类 
class declaration 类声明 
class definition 类定义 
class derivation list 类继承列表 
class factory 类厂 
class hierarchy 类层次结构 
class library 类库 
class loader 类装载器 
class template 类模板 
class template partialspecializations 类模板部分特化 
class template specializations 类模板特化 
classification 分类 
clause 子句 
client application 客户端应用程序 
client cursor 客户端游标 (fordatabase) 
code page 代码页 
cleanup 清理、清除 
CLI (Common Language Infrastructure)通用语言基础设施 
client 客户、客户端 
client area 客户区 
client-server 客户机/服务器、客户端/服务器 
clipboard 剪贴板 
clone 克隆 
CLS (common language specification) 通用语言规范 
code access security 代码访问安全 
COFF (Common Object File Format) 通用对象文件格式 
collection 集合 
COM (Component Object Model) 组件对象模型 
combo box 组合框 
command line 命令行 
comment 注释 
commit 提交 (for database) 
communication 通讯 
compatible 兼容 
compile time 编译期、编译时 
compiler 编译器 
component组件 
composite index 复合索引、组合索引 (fordatabase) 
composite key 复合键、组合键 (fordatabase) 
composition 复合、组合 
concept 概念 
concrete具体的 
concrete class 具体类 
concurrency 并发、并发机制 
constraint 约束 (for database) 
configuration 配置、组态 
connection 连接 (for database) 
connection pooling 连接池 
console 控制台 
constant 常量 
construct 构件、成分、概念、构造(for language) 
constructor (ctor) 构造函数、构造器 
container 容器 
containment包容 
context 环境、上下文 
control 控件 
cookie (不译) 
copy 拷贝 
CORBA 通用对象请求中介架构(Common Object Request BrokerArchitecture) 
cover 覆盖、涵盖 
create/creation 创建、生成 
crosstab query 交叉表查询 (fordatabase) 
CRTP (curiously recurring templatepattern) 
CTS (common type system)通用类型系统 
cube 多维数据集 (for database) 
cursor 光标 
cursor 游标 (for database) 
custom 定制、自定义 
data 数据 
data connection 数据连接 (fordatabase) 
Data Control Language (DCL) 数据控制语言(DCL) (fordatabase) 
Data Definition Language (DDL) 数据定义语言(DDL) (fordatabase) 
data dictionary 数据字典 (for database)
data dictionary view 数据字典视图 (fordatabase) 
data file 数据文件 (fordatabase) 
data integrity 数据完整性 (fordatabase) 
data manipulation language (DML)数据操作语言(DML) (fordatabase) 
data mart 数据集市 (fordatabase) 
data pump 数据抽取 (fordatabase) 
data scrubbing 数据清理 (fordatabase) 
data source 数据源 (fordatabase) 
Data source name (DSN) 数据源名称(DSN) (fordatabase) 
data warehouse 数据仓库 (fordatabase) 
dataset 数据集 (fordatabase) 
database 数据库 (fordatabase) 
database catalog 数据库目录 (fordatabase) 
database diagram 数据关系图 (fordatabase) 
database file 数据库文件 (fordatabase) 
database object 数据库对象 (fordatabase) 
database owner 数据库所有者 (fordatabase) 
database project 数据库工程 (fordatabase) 
database role 数据库角色 (fordatabase) 
database schema 数据库模式、数据库架构 (fordatabase) 
database scrīpt 数据库脚本 (fordatabase) 
data-bound 数据绑定 (fordatabase) 
data-aware control数据感知控件 (fordatabase) 
data member 数据成员、成员变量 
dataset 数据集 (fordatabase) 
data source 数据源 (fordatabase) 
data structure数据结构 
data table 数据表 (fordatabase) 
datagram 数据报文 
DBMS (database management system)数据库管理系统 (fordatabase) 
DCOM (distributed COM)分布式COM 
dead lock 死锁 (for database) 
deallocate 归还 
debug 调试 
debugger 调试器 
decay 退化 
decision support 决策支持 
declaration 声明 
declarative referential integrity(DRI)声明引用完整性(DRI) (for database) 
deduction 推导 
DEFAULT constraint默认约束 (fordatabase) 
default database 默认数据库 (fordatabase) 
default instance 默认实例 (fordatabase) 
default result set 默认结果集 (fordatabase) 
default 缺省、默认值 
defer 推迟 
definition 定义 
delegate 委托 
delegation 委托 
dependent name 
deploy 部署 
dereference 解引用 
dereference operator (提领)运算子 
derived class 派生类 
design by contract 契约式设计 
design pattern 设计模式 
destroy 销毁 
destructor(dtor)析构函数、析构器 
device 设备 
DHTML (dynamic HyperText MarkupLanguage)动态超文本标记语言 
dialog 对话框 
digest 摘要 
digital 数字的 
DIME (Direct Internet MessageEncapsulation)直接Internet消息封装 
directive (编译)指示符 
directory 目录 
dirty pages脏页 (for database) 
dirty read 脏读 (for database) 
disassembler 反汇编器 
DISCO (Discovery of Web Services)WebServices的查找 
disk 盘 
dispatch 调度、分派、派发(我喜欢“调度”) 
DISPID (Dispatch Identifier)分派标识符 
distributed computing 分布式计算 
distributed query 分布式查询 (fordatabase) 
DNA (Distributed interNetApplication) 分布式网间应用程序 
document 文档 
DOM (Document Object Model)文档对象模型 
dot operator (圆)点操作符 
driver 驱动(程序) 
DTD (document type definition) 文档类型定义 
double-byte character set (DBCS)双字节字符集(DBCS) 
dump 转储 
dump file 转储文件 
dynamic cursor 动态游标 (fordatabase) 
dynamic filter 动态筛选 (fordatabase) 
dynamic locking 动态锁定 (fordatabase) 
dynamic recovery 动态恢复 (for database)
dynamic snapshot 动态快照 (fordatabase) 
dynamic SQL statements 动态SQL语句 (for database) 
dynamic assembly 动态装配件、动态配件 
dynamic binding 动态绑定 
EAI (enterprise applicationintegration)企业应用程序集成(整合) 
EBCO (empty base class optimization)空基类优化(机制) 
e-business 电子商务 
EDI (Dlectronic Data Interchange)电子数据交换 
efficiency 效率 
efficient 高效 
end-to-end authentication 端对端身份验证 
end user 最终用户 
engine 引擎 
entity 实体 
encapsulation 封装 
enclosing class 外围类别(与巢状类别 nested class有关) 
enum (enumeration) 枚举 
enumerators 枚举成员、枚举器 
equal 相等 
equality 相等性 
equality operator 等号操作符 
error log 错误日志 (fordatabase) 
escape code 转义码 
escape character 转义符、转义字符 
exclusive lock 排它锁 (fordatabase) 
explicit transaction 显式事务 (fordatabase) 
evaluate 评估 
event 事件 
event driven 事件驱动的 
event handler 事件处理器 
evidence 证据 
exception 异常 
exception declaration 异常声明 
exception handling 异常处理、异常处理机制 
exception-safe 异常安全的 
exception specification 异常规范 
exit 退出 
explicit 显式 
explicit specialization 显式特化 
export 导出 
expression 表达式 
facility 设施、设备 
fat client 胖客户端 
feature 特性、特征 
fetch 提取 
field 字段(java) 
field 字段 (for database) 
field length 字段长度 (fordatabase) 
file 文件 
filter 筛选 (for database) 
finalization 终结 
firewall 防火墙 
finalizer 终结器 
firmware 固件 
flag 标记 
flash memory 闪存 
flush 刷新 
font 字体 
foreign key (FK) 外键(FK) (for database) 
form 窗体 
formal parameter 形参 
forward declaration 前置声明 
forward-only 只向前的 
forward-only cursor 只向前游标 (fordatabase) 
fragmentation 碎片 (for database) 
framework 框架 
full specialization 完全特化 
function 函数 
function call operator (即operator ()) 函数调用操作符 
function object 函数对象 
function overloaded resolution函数重载决议 
functionality 功能 
function template函数模板 
functor 仿函数 
GAC (global assembly cache) 全局装配件缓存、全局配件缓存 
GC (Garbage collection) 垃圾回收(机制)、垃圾收集(机制) 
game 游戏 
generate 生成 
generic 泛化的、一般化的、通用的 
generic algorithm通用算法 
genericity 泛型 
getter (相对于 setter)取值函数 
global 全局的 
global object 全局对象 
global scope resolution operator 全局范围解析操作符 
grant 授权 (for database) 
granularity 粒度 
group 组、群 
group box 分组框 
GUI 图形界面 
GUID (Globally Unique Identifier) 全球唯一标识符 
hand shaking 握手 
handle 句柄 
handler 处理器 
hard-coded 硬编码的 
hard-copy 截屏图 
hard disk 硬盘 
hardware 硬件 
hash table 散列表、哈希表 
header file头文件 
heap 堆 
help file 帮助文件 
hierarchy 层次结构、继承体系 
hierarchical data 阶层式数据、层次式数据 
hook 钩子 
Host (application)宿主(应用程序) 
hot key 热键 
hyperlink 超链接 
HTML (HyperText Markup Language) 超文本标记语言 
HTTP pipeline HTTP管道 
HTTP (HyperText Transfer Protocol) 超文本传输协议 
icon 图标 
IDE (Integrated DevelopmentEnvironment)集成开发环境 
IDL (Interface Definition Language) 接口定义语言 
identifier 标识符 
idle time 空闲时间 
if and only if当且仅当 
IL (Intermediate Language) 中间语言、中介语言 
image 图象 
IME 输入法 
immediate base 直接基类 
immediate derived 直接派生类 
immediate updating 即时更新 (fordatabase) 
implicit transaction隐式事务 (fordatabase) 
incremental update 增量更新 (fordatabase) 
index 索引 (for database) 
implement 实现 
implementation 实现、实现品 
implicit 隐式 
import 导入 
increment operator 增加操作符 
infinite loop 无限循环 
infinite recursive 无限递归 
information 信息 
infrastructure 基础设施 
inheritance 继承、继承机制 
inline 内联 
inline expansion 内联展开 
initialization 初始化 
initialization list 初始化列表、初始值列表 
initialize 初始化 
inner join 内联接 (fordatabase) 
in-place active 现场激活 
instance 实例 
instantiated 具现化、实体化(常应用于template) 
instantiation 具现体、具现化实体(常应用于template) 
integrate 集成、整合 
integrity 完整性、一致性 
integrity constraint完整性约束 (fordatabase) 
interprocess communication (IPC)进程间通讯(IPC) 
interacts 交互 
interface 接口 
for GUI 界面 
interoperability 互操作性、互操作能力 
interpreter 解释器 
introspection 自省 
invariants 不变性 
invoke 调用 
isolation level 隔离级别 (fordatabase) 
iterate 迭代 
iterative 反复的、迭代的 
iterator 迭代器 
iteration 迭代(回圈每次轮回称为一个iteration) 
item 项、条款、项目 
JIT compilation JIT编译 即时编译 
key 键 (for database) 
key column 键列 (for database) 
laser 激光 
late binding 迟绑定 
left outer join 左向外联接 (fordatabase) 
level 阶、层例 
high level 高阶、高层 
library 库 
lifetime 生命期、寿命 
link 连接、链接 
linkage 连接、链接 
linker 连接器、链接器 
literal constant 字面常数 
list 列表、表、链表 
list box 列表框 
livelock 活锁 (for database) 
load 装载、加载 
load balancing 负载平衡 
loader 装载器、载入器 
local 局部的 
local object 局部对象 
lock 锁 
log 日志 
login 登录 
login security mode登录安全模式 (fordatabase) 
lookup table 查找表 (fordatabase) 
loop 循环 
loose coupling 松散耦合 
lvalue 左值 
machine code 机器码、机器代码 
macro 宏 
maintain 维护 
managed code 受控代码、托管代码 
Managed Extensions 受控扩充件、托管扩展 
managed object 受控对象、托管对象 
mangled name 
manifest 清单 
manipulator 操纵器(iostream预先定义的一种东西) 
many-to-many relationship 多对多关系 (fordatabase) 
many-to-one relationship 多对一关系 (fordatabase) 
marshal 列集 
member 成员 
member access operator 成员取用运算子(有dot和arrow两种) 
member function 成员函数 
member initialization list成员初始值列表 
memberwise 以member为单元…、members 逐一… 
memberwise copy 
memory 内存 
memory leak 内存泄漏 
menu 菜单 
message 消息 
message based 基于消息的 
message loop 消息环 
message queuing消息队列 
metadata 元数据 
metaprogramming元编程 
method 方法 
micro 微 
middleware 中间件 
middle tier 中间层 
modeling 建模 
modeling language 建模语言 
modifier 修饰字、修饰符 
modem 调制解调器 
module 模块 
most derived class最底层的派生类 
mouse 鼠标 
mutable 可变的 
mutex 互斥元、互斥体 
multidimensional OLAP (MOLAP) 多维OLAP(MOLAP) (fordatabase) 
multithreaded server application 多线程服务器应用程序 
multiuser 多用户 
multi-tasking 多任务 
multi-thread 多线程 
multicast delegate 组播委托、多点委托 
named parameter 命名参数 
named pipe 命名管道 
namespace 名字空间、命名空间 
native 原生的、本地的 
native code 本地码、本机码 
Native Image Generator (NGEN)本地映像生成器 
nested class 嵌套类 
nested query 嵌套查询 (fordatabase) 
nested table 嵌套表 (fordatabase) 
network 网络 
network card 网卡 
nondependent name 
object 对象 
object based 基于对象的 
object file 目标文件 
object model 对象模型 
object oriented 面向对象的 
object pooling 对象池化 
ODBC data source ODBC数据源 (fordatabase) 
ODBC driver ODBC驱动程序 (fordatabase) 
ODR (one-definition rule) 
OLE Automation objects OLE自动化对象 (fordatabase) 
OLE Automation server OLE自动化服务器 (fordatabase) 
OLE DB consumer OLE DB使用者 (fordatabase) 
OLE DB for OLAP 用于OLAP的OLE DB (for database) 
OLE DB provider OLE DB提供者 (fordatabase) 
one-to-many relationship 一对多关系 (fordatabase) 
one-to-one relationship 一对一关系 (fordatabase) 
online analytical processing (OLAP) 联机分析处理(OLAP) (fordatabase) 
online redo log 联机重做日志 (for database)
online transaction processing (OLTP)联机事务处理(OLTP) (for database) 
Open Data Services (ODS) 开放式数据服务(ODS) (fordatabase) 
Open Database Connectivity (ODBC) 开放式数据库连接(ODBC) (fordatabase) 
operand 操作数 
operating system (OS) 操作系统 
operation 操作 
operator 操作符、运算符 
option 选项 
optimizer 优化器 
outer join 外联接 (fordatabase) 
overflow 上限溢位(相对于underflow) 
overhead 额外开销 
overload 重载 
overload resolution 重载决议 
overloaded function 重载的函数 
overloaded operator 被重载的操作符 
override 覆写、重载、重新定义 
package 包 
packaging 打包 
palette 调色板 
parallel 并行 
parameter 参数、形式参数、形参 
parameter list 参数列表 
parameterize 参数化 
parent class 父类 
parentheses 圆括弧、圆括号 
parse 解析 
parser 解析器 
part 零件、部件 
partial specialization 局部特化 
pass by address 传址(函式引数的传递方式)(非正式用语) 
pass by reference 传地址、按引用传递 
pass by value 按值传递 
pattern 模式 
PDA (personal digital assistant)个人数字助理 
PE (Portable Executable) file 可移植可执行文件 
performance 性能 
persistence 持久性 
PInvoke (platform invoke service) 平台调用服务 
pixel 像素 
placement delete 
placement new 
placeholder 占位符 
platform 平台 
POD (plain old data (type)) 
POI (point of instantiation) 
pointer 指针 
poll 轮询 
pooling 池化 
polymorphism 多态 
pop up 弹出式 
port 端口 
postfix 后缀 
precedence 优先序(通常用于运算子的优先执行次序) 
prefix 前缀 
preprocessor 预处理器 
primary key (PK)主键(PK) (for database) 
primary table 主表 (for database) 
primary template原始模板 
primitive type 原始类型 
print 打印 
printer 打印机 
procedure 过程 
procedural 过程式的、过程化的 
process 进程 
profile 评测 
profiler 效能(性能)评测器 
program 程序 
programmer 程序员 
programming编程、程序设计 
progress bar 进度指示器 
project 项目、工程 
property 属性 
protocol 协议 
pseudo code伪码 
qualified 经过资格修饰(例如加上scope运算子) 
qualifiedqualifier 修饰符 
quality 质量 
queue 队列 
race condition 竞争条件(多线程环境常用语) 
radian 弧度 
radio button 单选按钮 
raise 引发(常用来表示发出一个exception) 
random number 随机数 
range 范围、区间 
rank 等级 
raw 未经处理的 
readOnly只读 
record 记录 (for database) 
recordset 记录集 (for database
recursive 递归 
re-direction 重定向 
refactoring 重构 
refer 引用、参考 
reference 引用、参考 
reference counting引用计数 
referential integrity (RI)引用完整性(RI) (fordatabase) 
register 寄存器 
reflection 反射 
refresh data 刷新数据 (fordatabase) 
regular expression 正则表达式 
relational database 关系数据库 
remote 远程 
remote request 远程请求 
represent 表述,表现 
resolve 解析、决议 
resolution 解析过程 
result set 结果集 (fordatabase) 
retrieve data 检索数据 
return 返回 
return type 返回类型 
return value 返回值 
right outer join 右向外联接 (fordatabase) 
revoke 撤销 
robust 健壮 
robustness 健壮性 
roll back 回滚 (for database) 
roll forward 前滚 (for database) 
routine 例程 
row 行 (for database) 
row lock 行锁 (for database) 
rowset 行集 (for database) 
RPC (remote procedure call)RPC(远程过程调用) 
runtime 执行期、运行期、执行时、运行时 
rvalue 右值 
save 保存 
savepoint 保存点 (fordatabase) 
SAX (Simple API for XML) 
scalable 可伸缩的、可扩展的 
schedule 调度 
scheduler 调度程序 
schema 模式、纲目结构 
scroll bar滚动条 
scope 作用域、生存空间 
scope operator 生存空间操作符 
scope resolution operator 生存空间解析操作符 
screen 屏幕 
SDK (Software Development Kit)软件开发包 
sealed class 密封类 
search 查找 
semantics 语义 
semaphore 信号量 
sequential container序列式容器 
server 服务器、服务端 
serial 串行 
serialization/serialize 序列化 
server cursor服务端游标、服务器游标 (fordatabase) 
session 会话 (for database) 
setter 设值函数 
shared lock 共享锁 (fordatabase) 
sibling 同级 
side effect 副作用 
signature 签名 
single-threaded 单线程 
slider滑块 
slot 槽 
smart pointer 智能指针 
SMTP (Simple Mail Transfer Protocol)简单邮件传输协议 
snapshot 截屏图 
snapshot 快照 (for database) 
specialization 特化 
specification 规范、规格 
splitter 切分窗口 
SOAP (simple object access protocol)简单对象访问协议 
software 软件 
source code 源码、源代码 

SQL (Structured Query Language) 结构化查询语言 (fordatabase) 
stack 栈、堆栈 
stack unwinding 叠辗转开解(此词用于exception主题) 
standard library 标准库 
standard template library 标准模板库 
stateless 无状态的 
statement 语句、声明 
static cursor 静态游标 (fordatabase) 
static SQL statements 静态SQL语句 (for database) 
stored procedure 存储过程 (fordatabase) 
status bar 状态条 
stream 流 
string 字符串 
stub 存根 
subobject子对象 
subquery 子查询 (fordatabase) 
subroutine 子例程 
subscrīpt operator 下标操作符 
subset 子集 
subtype 子类型 
support 支持 
suspend 挂起 
symbol 记号 
syntax 语法 
system databases 系统数据库 (fordatabase) 
system tables 系统表 (fordatabase) 
table 表 (for database) 
table lock 表锁 (for database) 
table-level constraint 表级约束 (fordatabase) 
tape backup 磁带备份 (fordatabase) 
target 标的,目标 
task switch 工作切换 
TCP (Transport Control Protocol) 传输控制协议 
template 模板 
template-id 
template argument deduction 模板参数推导 
template explicit specialization 模板显式特化 
template parameter 模板参数 
template template parameter 
temporary object 临时对象 
temporary table 临时表 (fordatabase) 
text 文本 
text file 文本文件 
thin client 瘦客户端 
third-party 第三方 
thread 线程 
thread-safe 线程安全的 
throw 抛出、引发(常指发出一个exception) 
token 符号、标记、令牌(看场合) 
trace 跟踪 
transaction 事务 (for database) 
transaction log 事务日志 (fordatabase) 
transaction rollback 事务回滚 (fordatabase) 
transactional replication 事务复制 (fordatabase) 
translation unit 翻译单元 
traverse 遍历 
trigger 触发器 (fordatabase) 
two-phase commit 两阶段提交 (fordatabase) 
tuple 
two-phase lookup 两阶段查找 
type 类型 
UDDI(Universary Descrīption,Discovery and Integration)统一描述、查询与集成 
UML (unified modeling language)统一建模语言 
unary function 单参函数 
unary operator 一元操作符 
unboxing 拆箱、拆箱转换 
underflow 下限溢位(相对于overflow) 
Union query 联合查询 (for database) 
UNIQUE constraints UNIQUE约束 (fordatabase) 
unique index 唯一索引 (for database) 
unmanaged code 非受控代码、非托管代码 
unmarshal 散集 
unqualified 未经限定的、未经修饰的 
URI (Uniform Resource identifier) 统一资源标识符 
URL (Uniform Resource Locator) 统一资源定位器 
user 用户 
user interface 用户界面 
value types 值类型 
variable 变量 
vector 向量(一种容器,有点类似array) 
viable 可行的 
video 视频 
view 视图 
VEE (Virtual Execution Engine)虚拟执行引擎 
vendor 厂商 
view 视图 (for database) 
virtual function 虚函数 
virtual machine 虚拟机 
virtual memory 虚拟内存 
vowel 元音字母 
Web Services web服务 
WHERE clause WHERE子句 (fordatabase) 
wildcard characters 通配符字符 (fordatabase) 
wildcard search 通配符搜索 (fordatabase) 
window 窗口 
window function 窗口函数 
window procedure 窗口过程 
Windows authentication Windows身份验证 
wizard 向导 
word 单词 
word processor 字处理器 
wrapper 包装、包装器 
write enable 写启用 (for database) 
write-ahead log 预写日志 (for database) 
write-only 只写 
WSDL (Web Service Descrīption Language)Web Service描述语言 
XML Message Interface (XMI) XML消息接口 
XML (eXtensible Markup Language) 可扩展标记语言 
XSD (XML Schema Definition) XML模式定义语言 
XSL (eXtensible Stylesheet Language) 可扩展样式表语言 
XSLT (eXtensible Stylesheet Language Transformation)可扩展样式表语言转换 
xxx based 基于xxx的 
xxx oriented 面向xxx


other 1 :

application 应用程式 应用、应用程序 
application framework 应用程式框架、应用框架 应用程序框架 
architecture 架构、系统架构 体系结构 
argument 引数(传给函式的值)。叁见 parameter 叁数、实质叁数、实叁、自变量 
array 阵列 数组 
arrow operator arrow(箭头)运算子 箭头操作符 
assembly 装配件 
assembly language 组合语言 汇编语言 
assert(ion) 断言 
assign 指派、指定、设值、赋值 赋值 
assignment 指派、指定 赋值、分配 
assignment operator 指派(赋值)运算子 = 赋值操作符 
associated 相应的、相关的 相关的、关联、相应的 
associative container 关联式容器(对应 sequentialcontainer) 关联式容器 
atomic 不可分割的 原子的 
attribute 属性 属性、特性 
audio 音讯 音频 
A.I. 人工智慧 人工智能 
background 背景 背景(用於图形着色) 
後台(用於行程) 
backward compatible 回溯相容 向下兼容 
bandwidth 频宽 带宽 
base class 基础类别 基类 
base type 基础型别 (等同於 baseclass) 
batch 批次(意思是整批作业) 批处理 
benefit 利益 收益 
best viable function 最佳可行函式 最佳可行函式 
(从 viable functions 中挑出的最佳吻合者) 
binary search 二分搜寻法 二分查找 
binary tree 二元树 二叉树 
binary function 二元函式 双叁函数 
binary operator 二元运算子 二元操作符 
binding 系结 绑定 
bit 位元 位 
bit field 位元栏 位域 
bitmap 位元图 位图 
bitwise 以 bit 为单元逐一┅ 
bitwise copy 以 bit 为单元进行复制;位元逐一复制 位拷贝 
block 区块,区段 块、区块、语句块 
boolean 布林值(真假值,true 或 false) 布尔值 
border 边框、框线 边框 
brace(curly brace) 大括弧、大括号 花括弧、花括号 
bracket(square brakcet) 中括弧、中括号 方括弧、方括号 
breakpoint 中断点 断点 
build 建造、构筑、建置(MS 用语) 
build-in 内建 内置 
bus 汇流排 总线 
business 商务,业务 业务 
buttons 按钮 按钮 
byte 位元组(由 8 bits 组成) 字节 
cache 快取 高速缓存 
call 呼叫、叫用 调用 
callback 回呼 回调 
call operator call(函式呼叫)运算子调用操作符 
(同 function call operator) 
candidate function 候选函式 候选函数 
(在函式多载决议程序中出现的候选函式) 
chain 串链(例 chain of function calls) 链 
character 字元 字符 
check box 核取方块 (i.e. check button) 复选框 
checked exception 可控式异常(Java) 
check button 方钮 (i.e. check box) 复选按钮 
child class 子类别(或称为derivedclass, subtype) 子类 
class 类别 类 
class body 类别本体 类体 
class declaration 类别宣告、类别宣告式 类声明 
class definition 类别定义、类别定义式 类定义 
class derivation list 类别衍化列 类继承列表 
class head 类别表头 类头 
class hierarchy 类别继承体系, 类别阶层 类层次体系 
class library 类别程式库、类别库 类库 
class template 类别模板、类别范本 类模板 
class template partial specializations 
类别模板偏特化 类模板部分特化 
class template specializations 
类别模板特化 类模板特化

cleanup 清理、善後 清理、清除 
client 客端、客户端、客户 客户 
client-server 主从架构 客户/服务器 
clipboard 剪贴簿 剪贴板 
clone 复制 克隆 
collection 群集 集合 
combo box 复合方块、复合框 组合框 
command line 命令列 命令行 
(系统文字模式下的整行执行命令) 
communication 通讯 通讯 
compatible 相容 兼容 
compile time 编译期 编译期、编译时 
compiler 编译器 编译器 
component 组件 组件 
composition 复合、合成、组合 组合 
computer 电脑、计算机 计算机、电脑 
concept 概念 概念 
concrete 具象的 实在的 
concurrent 并行 并发 
configuration 组态 配置 
connection 连接,连线(网络,资料库) 连接 
constraint 约束(条件) 
construct 构件 构件 
container 容器 容器 
(存放资料的某种结构如 list, vector...) 
containment 内含 包容 
context 背景关系、周遭环境、上下脉络 环境、上下文 
control 控制元件、控件 控件 
console 主控台 控制台 
const 常数(constant 的缩写,C++ 关键字) 
constant 常数(相对於 variable) 常量 
constructor(ctor) 建构式 构造函数 
(与class 同名的一种 memberfunctions) 
copy (v) 复制、拷贝 拷贝 
copy (n) 复件, 副本 
cover 涵盖 覆盖 
create 创建、建立、产生、生成 创建 
creation 产生、生成 创建 
cursor 游标 光标 
custom 订制、自定 定制 
data 资料 数据 
database 资料库 数据库 
database schema 数据库结构纲目 
data member 资料成员、成员变数 数据成员、成员变量 
data structure 资料结构 数据结构 
datagram 资料元 数据报文 
dead lock 死结 死锁 
debug 除错 调试 
debugger 除错器 调试器 
declaration 宣告、宣告式 声明 
deduction 推导(例:templateargument deduction) 推导、推断 
default 预设 缺省、默认 
defer 延缓 推迟 
define 定义 预定义
definition 定义、定义区、定义式 定义 
delegate 委派、委托、委任 委托 
delegation (同上) 
demarshal 反编列 散集 
dereference 提领(取出指标所指物体的内容) 解叁考 
dereference operator dereference(提领)运算子 * 解叁考操作符 
derived class 衍生类别 派生类 
design by contract 契约式设计 
design pattern 设计范式、设计样式 设计模式 
※ 最近我比较喜欢「设计范式」一词 
destroy 摧毁、销毁 
destructor 解构式 析构函数 
device 装置、设备 设备 
dialog 对话窗、对话盒 对话框 
directive 指令(例:usingdirective) (编译)指示符 
directory 目录 目录 
disk 碟 盘 
dispatch 分派 分派 
distributed computing 分布式计算 (分布式电算) 分布式计算 
分散式计算 (分散式电算) 
document 文件 文档 
dot operator dot(句点)运算子 . (圆)点操作符 
driver 驱动程式 驱动(程序) 
dynamic binding 动态系结 动态绑定 
efficiency 效率 效率 
efficient 高效 高效 
end user 终端用户 
entity 物体 实体、物体 
encapsulation 封装 封装 
enclosing class 外围类别(与巢状类别 nestedclass 有关)外围类 
enum (enumeration) 列举(一种 C++ 资料型别) 枚举 
enumerators 列举元(enum 型别中的成员) 枚举成员、枚举器 
equal 相等 相等 
equality 相等性 相等性 
equality operator equality(等号)运算子 == 等号操作符 
equivalence 等价性、等同性、对等性 等价性 
equivalent 等价、等同、对等 等价 
escape code 转义码 转义码 
evaluate 评估、求值、核定 评估 
event 事件 事件 
event driven 事件驱动的 事件驱动的 
exception 异常情况 异常 
exception declaration 异常宣告(ref. C++Primer 3/e, 11.3) 异常声明 
exception handling 异常处理、异常处理机制 异常处理、异常处理机制 
exception specification 异常规格(ref. C++Primer 3/e, 11.4) 异常规范 
exit 退离(指离开函式时的那一个执行点) 退出 
explicit 明白的、明显的、显式 显式 
export 汇出 引出、导出 
expression 运算式、算式 表达式 
facility 设施、设备 设施、设备 
feature 特性 
field 栏位,资料栏(Java) 字段, 值域(Java) 
file 档案 文件 
firmware 韧体 固件 
flag 旗标 标记 
flash memory 快闪记忆体 闪存 
flexibility 弹性 灵活性 
flush 清理、扫清 刷新 
font 字型 字体 
form 表单(programming 用语) 窗体 
formal parameter 形式叁数 形式叁数 
forward declaration 前置宣告 前置声明 
forwarding 转呼叫,转发 转发 
forwarding function 转呼叫函式,转发函式 转发函数 
fractal 碎形 分形 
framework 框架 框架 
full specialization 全特化(ref.partial specialization) 
function 函式、函数 函数 
function call operator 同 calloperator 
function object 函式物件(ref. C++Primer 3/e, 12.3) 函数对象 
function overloaded resolution 
函式多载决议程序 函数重载解决(方案) 
functionality 功能、机能 功能 
function template 函式模板、函式范本 函数模板 
functor 仿函式 仿函式、函子 
game 游戏 游戏 
generate 生成 
generic 泛型、一般化的 一般化的、通用的、泛化 
generic algorithm 泛型演算法 通用算法 
getter (相对於 setter) 取值函式 
global 全域的(对应於 local) 全局的 
global object 全域物件 全局对象 
global scope resolution operator 
全域生存空间(范围决议)运算子 :: 全局范围解析操作符 
group 群组 
group box 群组方块 分组框 
guard clause 卫述句 (Refactoring, p250) 卫语句 
GUI 图形介面 图形界面 
hand shaking 握手协商 
handle 识别码、识别号、号码牌、权柄 句柄 
handler 处理常式 处理函数 
hard-coded 编死的 硬编码的 
hard-copy 硬拷图 屏幕截图 
hard disk 硬碟 硬盘 
hardware 硬体 硬件 
hash table 杂凑表 哈希表、散列表 
header file 表头档、标头档 头文件 
heap 堆积 堆 
hierarchy 阶层体系 层次结构(体系) 
hook 挂钩 钩子 
hyperlink 超链结 超链接 
icon 图示、图标 图标 
IDE 整合开发环境 集成开发环境 
identifier 识别字、识别符号 标识符 
if and only if 若且唯若 当且仅当 
Illinois 伊利诺 伊利诺斯 
image 影像 图象 
immediate base 直接的(紧临的)上层 base class。 直接上层基类 
immediate derived 直接的(紧临的)下层 derivedclass。 直接下层派生类 
immutability 不变性 
immutable 不可变(的) 
implement 实作、实现 实现 
implementation 实作品、实作体、实作码、实件 实现 
implicit 隐喻的、暗自的、隐式 隐式 
import 汇入 导入 
increment operator 累加运算子 ++ 增加操作符 
infinite loop 无穷回圈 无限循环 
infinite recursive 无穷递回 无限递归 
information 资讯 信息 
infrastructure 公共基础建设 
inheritance 继承、继承机制 继承、继承机制 
inline 行内 内联 
inline expansion 行内展开 内联展开 
initialization 初始化(动作) 初始化 
initialization list 初值列 初始值列表 
initialize 初始化 初始化 
inner class 内隐类别 内嵌类 
instance 实体 实例 
(根据某种表述而实际产生的「东西」) 
instantiated 具现化、实体化(常应用於 template) 实例化 
instantiation 具现体、具现化实体(常应用於 template) 实例 
integer (integral) 整数(的) 整型(的) 
integrate 整合 集成 
interacts 交谈、互动 交互 
interface 介面 接口 
for GUI 介面 界面 
interpreter 直译器 解释器 
invariants 恒常性,约束条件 约束条件 
invoke 唤起 调用 
iterate 迭代(回圈一个轮回一个轮回地进行) 迭代 
exception 异常情况 异常 
exception declaration 异常宣告(ref. C++Primer 3/e, 11.3) 异常声明 
exception handling 异常处理、异常处理机制 异常处理、异常处理机制 
exception specification 异常规格(ref. C++Primer 3/e, 11.4) 异常规范 
exit 退离(指离开函式时的那一个执行点) 退出 
explicit 明白的、明显的、显式 显式 
export 汇出 引出、导出 
expression 运算式、算式 表达式 
facility 设施、设备 设施、设备 
feature 特性 
field 栏位,资料栏(Java) 字段, 值域(Java) 
file 档案 文件 
firmware 韧体 固件 
flag 旗标 标记 
flash memory 快闪记忆体 闪存 
flexibility 弹性 灵活性 
flush 清理、扫清 刷新 
font 字型 字体 
form 表单(programming 用语) 窗体 
formal parameter 形式叁数 形式叁数 
forward declaration 前置宣告 前置声明 
forwarding 转呼叫,转发 转发 
forwarding function 转呼叫函式,转发函式 转发函数 
fractal 碎形 分形 
framework 框架 框架 
full specialization 全特化(ref.partial specialization) 
function 函式、函数 函数 
function call operator 同 calloperator 
function object 函式物件(ref. C++Primer 3/e, 12.3) 函数对象 
function overloaded resolution 
函式多载决议程序 函数重载解决(方案) 
functionality 功能、机能 功能 
function template 函式模板、函式范本 函数模板 
functor 仿函式 仿函式、函子 
game 游戏 游戏 
generate 生成 
generic 泛型、一般化的 一般化的、通用的、泛化 
generic algorithm 泛型演算法 通用算法 
getter (相对於 setter) 取值函式 
global 全域的(对应於 local) 全局的 
global object 全域物件 全局对象 
global scope resolution operator 
全域生存空间(范围决议)运算子 :: 全局范围解析操作符 
group 群组 
group box 群组方块 分组框 
guard clause 卫述句 (Refactoring, p250) 卫语句 
GUI 图形介面 图形界面 
hand shaking 握手协商 
handle 识别码、识别号、号码牌、权柄 句柄 
handler 处理常式 处理函数 
hard-coded 编死的 硬编码的 
hard-copy 硬拷图 屏幕截图 
hard disk 硬碟 硬盘 
hardware 硬体 硬件 
hash table 杂凑表 哈希表、散列表 
header file 表头档、标头档 头文件 
heap 堆积 堆 
hierarchy 阶层体系 层次结构(体系) 
hook 挂钩 钩子 
hyperlink 超链结 超链接 
icon 图示、图标 图标 
IDE 整合开发环境 集成开发环境 
identifier 识别字、识别符号 标识符 
if and only if 若且唯若 当且仅当 
Illinois 伊利诺 伊利诺斯 
image 影像 图象 
immediate base 直接的(紧临的)上层 base class。 直接上层基类 
immediate derived 直接的(紧临的)下层 derivedclass。 直接下层派生类 
immutability 不变性 
immutable 不可变(的) 
implement 实作、实现 实现 
implementation 实作品、实作体、实作码、实件 实现 
implicit 隐喻的、暗自的、隐式 隐式 
import 汇入 导入 
increment operator 累加运算子 ++ 增加操作符 
infinite loop 无穷回圈 无限循环 
infinite recursive 无穷递回 无限递归 
information 资讯 信息 
infrastructure 公共基础建设 
inheritance 继承、继承机制 继承、继承机制 
inline 行内 内联 
inline expansion 行内展开 内联展开 
initialization 初始化(动作) 初始化 
initialization list 初值列 初始值列表 
initialize 初始化 初始化 
inner class 内隐类别 内嵌类 
instance 实体 实例 
(根据某种表述而实际产生的「东西」) 
instantiated 具现化、实体化(常应用於 template) 实例化 
instantiation 具现体、具现化实体(常应用於 template) 实例 
integer (integral) 整数(的) 整型(的) 
integrate 整合 集成 
interacts 交谈、互动 交互 
interface 介面 接口 
for GUI 介面 界面 
interpreter 直译器 解释器 
invariants 恒常性,约束条件 约束条件 
invoke 唤起 调用 
iterate 迭代(回圈一个轮回一个轮回地进行) 迭代 
iterative 反覆的,迭代的 
iterator 迭代器(一种泛型指标) 迭代器 
iteration 迭代(回圈每次轮回称为一个 iteration) 迭代 
item 项目、条款 项、条款、项目 
laser 雷射 激光 
level 阶 层 (级) 
例 high level 高阶 高层 
library 程式库、函式库 库、函数库 
lifetime 生命期、寿命 生命期、寿命 
link 联结、连结 连接,链接 
linker 联结器、连结器 连接器 
literal constant 字面常数(例 3.14 或"hi" 这等常数值) 字面常数 
list 串列(linked-list) 列表、表、链表 
list box 列表方块、列表框 列表框 
load 载入 装载 
loader 载入器 装载器、载入器 
local 区域的(对应於 global) 局部的 
local object 区域物件 局部对象 
lock 机锁 
loop 回圈 循环 
lvalue 左值 左值 
macro 巨集 宏 
magic number 魔术数字 魔法数 
maintain 维护 维护 
manipulator 操纵器(iostream 预先定义的一种东西) 操纵器 
marshal 编列 列集 
叁考 demarshal 
mechanism 机制 机制 
member 成员 成员 
member access operator 成员取用运算子(有 dot 和 arrow 两种) 成员存取操作符 
member function 成员函式 成员函数 
member initialization list 
成员初值列 成员初始值列表 
memberwise 以 member 为单元┅、members 逐一┅ 以成员为单位 
memberwise copy 以 members 为单元逐一复制 
memory 记忆体 内存 
menu 表单、选单 菜单 
message 讯息 消息 
message based 以讯息为基础的 基於消息的 
message loop 讯息回圈 消息环 
method (java) 方法、行为、函式 方法 
meta- 超- 元- 
例 meta-programming超编程 元编程 
micro 微 微 
middleware 中介层 中间件 
modeling 模塑 
modeling language 塑模语言,建模语言 
modem 数据机 调制解调器 
module 模组 模块 
modifier 饰词 修饰符 
most derived class 最末层衍生类别 最底层的派生类 
mouse 滑鼠 鼠标 
mutable 可变的 可变的 
multi-tasking 多工 多任务 
namespace 命名空间 名字空间、命名空间 
native 原生的 本地的、固有的 
nested class 巢状类别 嵌套类 
network 网路 网络 
network card 网路卡 网卡 
object 物件 对象 
object based 以物件为基础的 基於对象的 
object file 目的档 目标文件 
object model 物件模型 对象模型 
object oriented 物件导向的 面向对象的 
online 线上 在线 
opaque 不透明的 
operand 运算元 操作数 
operating system (OS) 作业系统 操作系统 
operation 操作、操作行为 操作 
operator 运算子 操作符、运算符 
option 选项,可选方案 选项 
ordinary 常规的 常规的 
overflow 上限溢位(相对於 underflow) 溢出(underflow:下溢) 
overhead 额外负担、额外开销 额外开销 
overload 多载化、多载化、重载 重载 
overloaded function 多载化函式 重载的函数 
overloaded operator 多载化运算子 被重载的操作符 
overloaded set 多载集合 重载集合 
override 改写、覆写 重载、改写、重新定义 
(在 derived class 中重新定义虚拟函式 
package 套件 包 
pair 对组 
palette 调色盘、组件盘、工具箱 
pane 窗格 窗格 
(有时为嵌板之意,例 Java Content Pane) 
parallel 平行 并行 
parameter 叁数(函式叁数列上的变数) 叁数、形式叁数、形叁 
parameter list 叁数列 叁数列表 
parent class 父类别(或称 base class) 父类 
parentheses 小括弧、小括号 圆括弧、圆括号 
parse 解析 解析 
part 零件 部件 
partial specialization 偏特化(ref. C++Primer 3/e, 16.10) 局部特化 
(ref. full specialization) 
pass by address 传址(函式引数的传递方式)(非正式用语)传地址 
pass by reference 传址(函式引数的一种传递方式) 传地址, 按引用传递 
pass by value 传值(函式引数的一种传递方式) 按值传递 
pattern 范式、样式 模式 
performance 效率、性能兼而有之 性能 
persistence 永续性 持久性 
pixel 图素、像素 像素 
placement delete ref. C++ Primer 3/e, 15.8.2 
placement new ref. C++ Primer 3/e, 15.8.2 
platform 平台 平台 
pointer 指标 指针 
址位器(和址叁器 reference 形成对映,满好) 
poll 轮询 轮询 
polymorphism 多型 多态 
pop up 冒起式、弹出式 弹出式 
port 埠 端口 
postfix 後置式、後序式 後置式 
precedence 优先序(通常用於运算子的优先执行次序) 
prefix 前置式、前序式 前置式 
preprocessor 前处理器 预处理器 
prime 质数 素数 
primitive type 基本型别 (不同於 baseclass,基础类别) 
print 列印 打印 
printer 印表机 打印机 
priority 优先权 (通常用於执行绪获得 CPU 时间的优先次序) 
procedure 程序 过程 
procedural 程序性的、程序式的 过程式的、过程化的 
process 行程 进程 
profile 评测 评测 
profiler 效能(效率)评测器 效能(性能)评测器 
programmer 程式员 程序员 
programming 编程、程式设计、程式化 编程 
progress bar 进度指示器 进度指示器 
project 专案 项目、工程 
property 属性 
protocol 协定 协议 
pseudo code 假码、虚拟码、伪码 伪码 
qualified 经过资格修饰(例如加上 scope 运算子) 限定 
qualifier 资格修饰词、饰词 限定修饰词 
quality 品质 质量 
queue 伫列 队列 
radian 径度 弧度 
radio button 圆钮 单选按钮 
raise 引发(常用来表示发出一个 exception) 引起、引发 
random number 随机数、乱数 随机数 
range 范围、区间(用於 STL 时) 范围、区间 
rank 等级、分等(ref.C++Primer 3/e 9,15章) 等级 
raw 生鲜的、未经处理的 未经处理的 
record 记录 记录 
recordset 记录集 记录集 
recursive 递回 递归 
re-direction 重导向 重定向 
refactoring 重构、重整 重构 
refer 取用 叁考 
refer to 指向、指涉、指代 
reference (C++ 中类似指标的东西,相当於 "化身") 引用、叁考 
址叁器, see pointer 
register 暂存器 寄存器 
reflection 反射 反射、映像 
relational database 关联式资料库 关系数据库 
represent 表述,表现 表述,表现 
resolve 决议(为算式中的符号名称寻找 解析 
对应之宣告式的过程) 
resolution 决议程序、决议过程 解析过程 
resolution 解析度 分辨率 
restriction 局限 
return 传回、回返 返回 
return type 回返型别 返回类型 
return value 回返值 返回值 
robust 强固、稳健 健壮 
robustness 强固性、稳健性 健壮性 
routine 常式 例程 
runtime 执行期 运行期、运行时 
common language runtime (CLR) 译为「通用语言执行层」 
rvalue 右值 右值 
save 储存 存储 
schedule 排程 调度 
scheduler 排程器 调度程序 
scheme 结构纲目、组织纲目 
scroll bar 卷轴 滚动条 
scope 生存空间、生存范围、范畴、作用域 生存空间 
scope operator 生存空间(范围决议)运算子 :: 生存空间操作符 
scope resolution operator 
生存空间决议运算子 生存空间解析操作符 
(与scope operator同) 
screen 萤幕 屏幕 
search 搜寻 查找 
semantics 语意 语义 
sequential container 序列式容器 顺序式容器 
(对应於 associative container) 
server 伺服器、伺服端 服务器、服务端 
serial 串行 
serialization 次第读写,序列化 序列化 
(serialize) 
setter (相对於 getter) 设值函式 
signal 信号 
signature 标记式、签名式、署名式 签名 
slider 滚轴 滑块 
slot 条孔、槽 槽 
smart pointer 灵巧指标、精灵指标 智能指针 
snapshot 萤幕快照(图) 屏幕截图 
specialization 特殊化、特殊化定义、特殊化宣告 特化 
specification 规格 规格、规范 
splitter 分裂视窗 切分窗口 
software 软体 软件 
solution 解法,解决方案 方案 
source 原始码 源码、源代码 
stack 堆叠 栈 
stack unwinding 堆叠辗转开解(此词用於 exception 主题) 栈辗转开解 * 
standard library 标准程式库 
standard template library 标准模板程式库 
statement 述句 语句、声明 
status bar 状态列、状态栏 状态条 
STL 见 standard template library 
stream 资料流、串流 流 
string 字串 字符串 
subroutine 
subscript operator 下标运算子 [ ] 下标操作符 
subtype 子型别 子类型 
support 支援 支持 
suspend 虚悬 挂起 
symbol 符号 记号 
syntax 语法 语法 
tag 标签 标记 
索引标签,页签 
target 标的(例 target pointer:标的指标) 目标 
task switch 工作切换 任务切换 
template 模板、范本 模板 
template argument deduction 
模板引数推导 模板叁数推导 
template explicit specialization 
模板显式特化(版本) 模板显式特化 
template parameter 模板叁数 模板叁数 
temporary object 暂时物件 临时对象 
text 文字 文本 
text file 程式本文档(放置程式原始码的档案) 文本文件 
thread 执行绪 线程 
thread safe 多绪安全 多线程安全 
throw 丢掷(常指发出一个 exception) 丢掷、引发 
token 语汇单元 符号、标记 
transaction 交易 事务 
transparent(ly) 透通的(地) 
traverse 巡访(来回走动) 遍历 
trigger 触发 触发 
type 型别 类型 
UML unified modeling language 统一建模语言 
unary function 一元函式 单叁函数 
unary operator 一元运算子 一元操作符 
underflow 下限溢位(相对於 overflow) 下溢 
unchecked exception 不可控异常(Java) 
unqualified 未经资格修饰(而直接取用) 
unwinding ref. stack unwinding 
user 使用者、用户 用户 
user interface 使用者介面、用户介面、人机介面 用户界面 
variable 变数(相对於常数 const) 变量 
vector 向量(一种容器,有点类似 array) 向量、矢量 
viable 可实行的、可行的 可行的 
viable function 可行函式 可行函数 
(从 candidate functions 中挑出者) 
video 视讯 视频 
view (1) 视图 
(document/view) 文档/视图 
view (2) 映件 
virtual function 虚拟函式 虚函数 
virtual machine 虚拟机器 虚拟机 
virtual memory 虚拟记忆体 虚内存, 虚存 
volatile 易挥发的、易变的 
vowel 母音 元音字母 
window 视窗 窗口 
window function 视窗函式 窗口函数 
window procedure 视窗函式 窗口过程 
word 字 单词 
word processor 文书处理器 字处理器 
wrapper 外覆、外包 包装absence 缺席
access 访问存取通路进入
achieve 实现完成
acquire 获得
adjacency list method 邻接表表示法
adjacency matrix method 邻接矩阵表示法
algorithm 算法
allocate 留下分配
analog 推论
append 添加
archive 档案归档
array 数组
assign 分配
assume 假设
assurance 确信信任
ATM(asynchronous transfer mode) 异步传输模式
b.. real programs kernels 实程序核心程序
b.. toy benchmark synthetic benchmark 简单基准程序复合基准程序
balance 平衡
bandwidth 带宽
batch 一批一组
benchmark 基准测试程序
best-fit algorithm 最佳适应算法
BFS(breadth first search) 广度优先搜索法
binary 二进制
binary relation 二元关系
binary tree 二叉树
bit series 比特序列
black-box white-box 黑盒白盒
block miss 块失效
blocked 阻塞(等待状态也称阻塞或封锁状态)
boundary 界线分界
bridge 网桥
bubble sort 冒泡排序
calculation 计算
candidate key 候选键(辅键)
capability 能力才能
capacity 容量
cartesian product 笛卡尔积
CASE(com.. aided sof.. engineering) 计算机辅助软件工程
CCP(communication control processor) 通信控制处理机
cell 信元
characteristic 特征特性
circuit switching 线路交换
circular wait 循环等待
CISC(complex instruction set computer) 复杂指令集计算机
class 类
Client/Server 客户机/服务器
clock cycle clock rate 时钟周期时钟频率
coaxial cable 同轴电缆
cohesion coupling 内聚耦合
coincidental logical procedural functional 偶然内聚逻辑内聚过程内聚功能内聚
combination 联合配合
common 公用的共同的
communication 通信
complement number 补码
component 成分
concept 概念观念
condition 情况状况
conform 符合
consist 组成存在
constrain 约束
contain 包含
correspond (corresponding) 相符合(相应的一致的)
CPETT 计算机性能评价工具与技术
CPI 每条指令需要的周期数
CSMA/CD 带冲突检测的载波监听多路访问
cursor 游标
cyclic redundency check 循环冗余检校
database: integrity consistency restory 完整性一致性可恢复性
database: security efficiency 数据库设计的目标: 安全性效率
deadlock: mutual exclusion 死锁条件: 互斥
deadlock: circular wait no preemption 死锁条件: 循环等待狗熊先权
decimal 十进位的
decision 决定判断
decomposition 双重的混合的
decrease 减少
definition 定义
definition phase 定义阶段
demonstrate 证明
design phase 设计阶段
determine 限定
development phase 开发阶段
DFS(depth first search) 深度优先搜索法
diagram 图表
Difference Manchester 差分曼彻斯特
directed graph undirected graph 有向图无向图
distinguish 辩认区别
distributed system 分布式系统
divide division 分开除除法
divide union intersection difference 除并交差
document 文件文档
DQDB(distributed queue dual bus) 分布队列双总线
draw 绘制
dual 二元的双的
dynamic design process 动态定义过程
element 元素要素
elevator (scan) algorithm 电梯算法又称扫描算法
encapsulation inheritance 封装(压缩) 继承(遗传)
encode 译成密码
entity 实体
entity integrity rule 实体完整性规则
equal 相等的
equation 方程式等式
estimate 估计判断
Ethernet 以太网
evolution 发展演化
exceed 超过
exchange sort 交换排序
exclusive locks 排它锁(简记为X 锁)
execute 实现执行
exhibit 表现展示陈列
existence 存在发生
expertise 专门技术
external(internal) fragmentation 外(内)碎片
fault page fault 中断过错页中断
FDDI(fiber distributed data interface) 光纤分布式数据接口
FDM(frequency division multiplexing 频分多路复用
fiber optic cable 光缆
FIFO replacement policy 先进先出替换算法
figure 数字图形
final 最后的最终的
first normal form 第一范式
floppy 活动盘片(软盘)
foreign key domain tuple 外来键值域元组
form 形状形式
formula 公式表达式
foundation 基础根据基金
frame page frame 帧结构页结构
frequency 频率
FTP 文件传送服务
function 函数
functionally dependent 函数依赖
gateway 网间连接器
gather 聚集采集推测
general-purose registers 通用寄存器
generate 产生
grade 等级标准
graph (graphic) 图
Gropher 将用户的请求自动转换成
FTP
guarantee 保证确定
hash table hash function collision 哈希表哈希函数(散列函数) 碰撞
HDLC 面向比特型数据链路层协议
hit rate 命中率
host 主计算机
host language statement 主语言语句
hypertext 超级文本
illustrate 举例说明
independent 独立的
index 索引
indirect 间接的
influence 有影响的
initially 最初开头
insertion sort 插入排序
instruction format 指令格式
instruction set 指令集
interface 接口分界面连接体
internal 内部的内在的
interrupt 中断
IPC 工业过程控制
ISAM VSAM 索引顺序存取方法虚拟存储存取方法
join natural join semijoin 连接自然连接半连接
judgment 判断
kernel executive supervisor user 核心执行管理用户
kernels 核心程序
key comparison 键(码)值比较
LAN(local area network) 局域网
load 负载载入
logical functional 逻辑内聚功能内聚
longitudinal 水平的
loop 圈环状
maintain 维护保养供给
maintanence phase 维护(保养)阶段
MAN(metropclitan area network) 城域网
Manchester 曼彻斯特
map 地图映射图
matrix 矩阵点阵
memory reference 存储器参量
message switching 报文交换
method 方法技巧
MFLOP(million floating point operate p s 每秒百万次浮点运算
minimum 最小的
MIPS(millions of instructions per second 每秒百万条指令
module 单位基准
monitor (model benchmark physcal) method 监视(模型基准物理)法
multilevel data flow chart 分层数据流图
multiple 复合的多样的
multiple-term formula 多项式
multiplexing 多路复用技术
multiplication 乘法
mutual exclusion 互相排斥
non-key attributes 非码属性
null 零空
Nyquist 奈奎斯特
object oriented 对象趋向的使适应的
object oriented analysis 面向对象的分析
object oriented databases 面向对象数据库
object oriented design 面向对象的设计
object oriented implementation 面向对象的实现
obtain 获得
occupy 占有居住于
occurrence 事件
odd 奇数的
one-dimensional array 一维数组
OODB(object oriented data base) 面向对象数据库
OOM(object oriented method) 面向对象的方法
oom: information object message class 信息对象消息类
oom: instance method message passing 实例方法消息传递
open system 开放系统
operand 操作数
optimized 尽量充分利用
optional 任选的非强制的
organize 组织
overflow 溢出
overlapping register windows 重叠寄存器窗口
packet switching 报文分组交换
page fault 页面失效
page replacement algorithm 页替换算法
paged segments 段页式管理
PCB(process control block) 进程控制块
peer entites 对等实体
perform 表演执行
period 时期周期
permit 许可准许
phase 阶段局面状态
physical data link network layer 物理层数据链路层网络层
pipeline 管道
platter track cluster 面磁道簇
predicate 谓语
preemption 有优先权的
prefix (Polish form) 前缀(波兰表达式)
preorder inorder postorder 前序中序后序
presentation application layer 表示层应用层
primary key attributes 主码属性
principle 原则方法
procedural coincidental 过程内聚偶然内聚
process 过程加工处理
proficient 精通
program debugging 程序排错
projection selection join 投影选择连接
proposition 主张建议陈述
protocal 协议
prototype 原型样板
prototyping method (model) 原型化周期(模型)
pseudo-code 伪码(又称程序设计语言PDL)
punctuation 标点
purpose 目的意图
quality 质量品质
queue 队列
ready blocked running 就绪阻塞(等待) 运行
real page number 实页数
real programs 实程序
redirected 重定向
redundency 冗余
reference integrity rule 引用完整性规则
referred to as 把.....当作
regarde 关于
register(registry) 寄存器登记注册挂号
regularly 定期的常规的
relation 关系
relay 中继
reliability 可信赖的
repeater 中继器
replacement 替换
represent 代表象征
request indication response confirm 请求指示响应确认
resource 资源
respon 回答响应
RISC(reduced instruction set computer) 精简指令集计算机
robustness 健壮性
router 路由器
scheme 计划图表
sector head cylinder 扇区磁头柱面
selection sort 选择排序
semaphores 信号
sequence 序列顺序
Shanon 香农
share locks 共享锁(简记为S 锁)
short path critical path 最短路径关键路径
signal 信号
signal-to-noise ratio 信噪比B/N
similar 相似的
SISD SIMD MISD MIMD * 指令流* 数据流
SMDS 交换多兆位数据服务
software development phase 软件开发阶段
software engineering 软件工程
software portability 软件可移植性
software requirements specification 软件需求说明书
solve 解决
sort 种类方式分类排序
spanning tree 跨越树(生成树)
specify 指定说明
speedup 加速比
SSTF(shortest-seek-time-first) 最短寻道时间优先(磁盘调度算法)
stack strategy non-stack strategy 堆栈型非堆栈型
starvation 饥饿匮乏
statement 陈述
storage 贮藏库
store procdures 存储过程
strategy 战略兵法计划
strict 严密的
styles 文体风格
subgroup 循环的
subset 子集子设备
superclass subclass abstract class 超类子类抽象类
suppose 假定
symbolic 象征的符号的
synthetic benchmark 复合基准程序
system testing 系统测试
Systolic 脉动阵列
table 表表格桌子
TDM(time division multiplexing) 时分多路复用
technology 工艺技术
terminal 终端
testing phase 测试阶段
theta select project theta join θ选择投影θ连接
time complexity 时间复杂度
timestamping 时标技术
Token Bus 令牌总线
Token Ring 令牌环
toy benchmark 简单基准程序
transaction 事务记录
transmite 传送
transport layer session layer 传输层会话层
traversal method 遍历方法
triggers store procedures 触发器存储过程
(ORACLE 系统)
underflow 下溢
unique 唯一的
unit system acceptance testing 单元测试系统测试确认测试
universe 宇宙全世界
update 更新
value [数]值
variable 变量
vertical 垂直的
vertice edge 顶点(结点) 边
via 经过
virtual memory system 虚拟存储系统
WAN(wide area network) 广域网
waterfall model 瀑布模型
white noise 白噪声
write-back(copy-back) 写回法
write-through(store-through) 写直达法
WWW(world wide web) 万维网

other 2 :

A
Active-matrix主动距陈
Adapter cards适配卡
Advanced application高级应用
Analytical graph分析图表
Analyze分析
Animations动画
Application software 应用软件
Arithmetic operations算术运算
Audio-output device音频输出设备
Access time存取时间
access存取
accuracy准确性
ad network cookies广告网络信息记录软件
Add-ons附软件
Address地址
Agents代理
Analog signals模拟信号
Applets程序
Asynchronous communications port异步通信端口
Attachment附件

B
Bar code条形码
Bar code reader条形码读卡器
Basic application基础程序
Binary coding schemes二进制译码方案
Binary system二进制系统
Bit比特
Browser浏览器
Bus line总线
Backup tape cartridge units备份磁带盒单元
Bandwidth带宽
Bluetooth蓝牙
Broadband宽带
Browser浏览器
Business-to-business企业对企业电子商务
Business-to-consumer企业对消费者
Bus总线

C
Cables连线
Cell单元箱
Chain printer链式打印机
Character and recognition device字符标识识别设备
Chart图表
Chassis支架
Chip芯片
Clarity清晰度
Closed architecture封闭式体系结构
Column列
Combination key结合键
computer competency计算机能力
connectivity连接,结点
Continuous-speech recognition system连续语言识别系统
Control unit操纵单元
Cordless or wireless mouse无线鼠标
Cable modems有线调制解调器
carpal tunnel syndrome腕骨神经综合症
CD-ROM可记录光盘
CD-RW可重写光盘
CD-R可记录压缩光盘
Channel信道
Chat group谈话群组
chlorofluorocarbons(CFCs) ]氯氟甲烷
Client客户端
Coaxial cable同轴电缆
cold site冷战
Commerce servers商业服务器
Communication channel信道
Communication systems信息系统
Compact disc rewritable
Compact disc光盘
computer abuse amendments act of 19941994计算机滥用法案
computer crime计算机犯罪
computer ethics计算机道德
computer fraud and abuse act of 1986计算机欺诈和滥用法案
computer matching and privacy protection act of 1988计算机查找和隐私保护法案
Computer network计算机网络
computer support specialist计算机支持专家
computer technician计算机技术人员
computer trainer计算机教师
Connection device连接设备
Connectivity连接
Consumer-to-consumer个人对个人
cookies-cutter programs信息记录截取程序
cookies信息记录程序 
cracker解密高手
cumulative trauma disorder积累性损伤错乱
Cybercash电子现金
Cyberspace计算机空间
cynic愤世嫉俗者

D
Database数据库
database files数据库文件
Database manager数据库管理
Data bus数据总线
Data projector数码放映机
Desktop system unit台式电脑系统单元
Destination file目标文件
Digital cameras数码照相机
Digital notebooks数字笔记本
Digital bideo camera数码摄影机
Discrete-speech recognition system不连续语言识别系统
Document文档
document files文档文件
Dot-matrix printer点矩阵式打印机
Dual-scan monitor双向扫描显示器
Dumb terminal非智能终端
data security数据安全
Data transmission specifications数据传输说明
database administrator数据库管理员
Dataplay数字播放器
Demodulation解调
denial of service attack拒绝服务攻击
Dial-up service拨号服务
Digital cash数字现金
Digital signals数字信号
Digital subscriber line数字用户线路
Digital versatile disc数字化通用磁盘
Digital video disc数字化视频光盘
Direct access直接存取
Directory search目录搜索
disaster recovery plan灾难恢复计划
Disk caching磁盘驱动器高速缓存
Diskette磁盘
Disk磁碟 
Distributed data processing system分部数据处理系统
Distributed processing分布处理
Domain code域代码
Downloading下载
DVD 数字化通用磁盘
DVD-R 可写DVD
DVD-RAM DVD随机存取器
DVD-ROM 只读DVD

E
e-book电子阅读
Expansion cards扩展卡
end user终端用户
e-cash电子现金
e-commerce电子商务
electronic cash电子现金
electronic commerce电子商务
electronic communications privacy act of1986电子通信隐私法案
encrypting加密术
energy star能源之星
Enterprise computing企业计算化
environment环境
Erasable optical disks可擦除式光盘
ergonomics人类工程学
ethics道德规范
External modem外置调制解调器
extranet企业外部网

F
Fax machine传真机
Field域
Find搜索
FireWire port port火线端口
Firmware固件
Flash RAM闪存
Flatbed scanner台式扫描器
Flat-panel monitor纯平显示器 
floppy disk软盘
Formatting toolbar格式化工具条
Formula公式
Function函数
fair credit reporting act of 1970公平信用报告法案
Fiber-optic cable光纤电缆
File compression文件压缩
File decompression文件解压缩
filter过滤
firewall防火墙
firewall防火墙
Fixed disk固定硬盘
Flash memory闪存
Flexible disk可折叠磁盘
Floppies磁盘
Floppy disk软盘
Floppy-disk cartridge磁盘盒
Formatting格式化
freedom of information act of 1970信息自由法案
frustrated受挫折
Full-duplex communication全双通通信

G
General-purpose application通用运用程序
Gigahertz千兆赫
Graphic tablet绘图板
green pc绿色个人计算机

H
handheld computer手提电脑
Hard copy硬拷贝
hard disk硬盘
hardware硬件
Help帮助
Host computer主机
Home page主页
Hyperlink超链接
hacker黑客
Half-duplex communication半双通通信 
Hard disk硬盘
Hard-disk cartridge硬盘盒
Hard-disk pack硬盘组
Head crash磁头碰撞
header标题
help desk specialist帮助办公专家
helper applications帮助软件
Hierarchical network层次型网络
history file历史文件
hits匹配记录
horizontal portal横向用户
hot site热战
Hybrid network混合网络
hyperlinks超连接

I
Image capturing device图像获取设备
information technology信息技术
Ink-jet printer墨水喷射印刷机
Integrated package综合性组件
Intelligent terminal智能终端设备
Intergrated circuit集成电路
Interface cards接口卡
Internal modem内部调制解调器
internet telephony网络电话
internet terminal互联网终端
Identification识别
i-drive网络硬盘驱动器
illusion of anonymity匿名幻想
index search索引搜索
information pushers信息推送器
initializing 初始化
instant messaging计时信息
internal hard disk内置硬盘
Internal modem内部调制解调器
Internet hard drive 网络硬盘驱动器
intranet企业内部网

J
joystick操纵杆

K
keyword search关键字搜索

L
laser printer激光打印机
Layout files版式文件
Light pen光笔 
Locate定位
Logical operations逻辑运算
Lands凸面
Line of sight communication视影通信
Low bandwidth低带宽
lurking潜伏

M
Main board主板
Mark sensing标志检测
Mechanical mouse机械鼠标
Memory内存
Menu菜单
Menu bar菜单条
Microprocessor微处理器
Microseconds微秒
Modem card调制解调器
Monitor显示器
Motherboard主板
Mouse 鼠标
Multifunctional device多功能设备
Magnetic tape reels磁带卷
Magnetic tape streamers磁带条
mailing list邮件列表
Medium band媒质带宽
metasearch engine整合搜索引擎
Microwave微波
Modem解调器
Modulation解调

N
Net PC网络计算机
Network adapter card网卡
Network personal computer网络个人电脑
Network terminal 网络终端
Notebook computer笔记本电脑
Notebook system unit笔记本系统单元
Numeric entry数字输入
na?ve天真的人
national information infrastructure protection act of1996国际信息保护法案
national service provider全国性服务供应商
Network architecture网络体系结构
Network bridge网桥
Network gateway网关
network manager网络管理员
newsgroup新闻组
no electronic theft act of1997无电子盗窃法
Node节点
Nonvolatile storage非易失性存储

O
Object embedding对象嵌入
Object linking目标链接
Open architecture开放式体系结构
Optical disk光盘
Optical mouse光电鼠标
Optical scanner光电扫描仪
Outline大纲
off-line browsers离线浏览器
Online storage联机存储

P
palmtop computer掌上电脑
Parallel ports并行端口
Passive-matrix被动矩阵
PC card个人计算机卡
Personal laser printer个人激光打印机
Personal video recorder card个人视频记录卡
Photo printer照片打印机
Pixel像素
Platform scanner平版式扫描仪
Plotter绘图仪
Plug and play即插即用
Plug-in boards插件卡
Pointer指示器
Pointing stick指示棍
Port端口
Portable scanner便携式扫描仪
Presentation files演示文稿
Presentation graphics电子文稿程序
Primary storage主存
Procedures规程
Processor处理机
Programming control lanugage程序控制语言
Packets数据包
Parallel data transmission平行数据传输
Peer-to-peer network system得等网络系统
person-person auction site个人对个人拍卖站点
physical security物理安全
Pits凹面
plug-in插件程序
Polling轮询
privacy隐私权
proactive主动地
programmer程序员
Protocols协议
provider供应商
proxy server代理服务
pull products推取程序
push products推送程序

R
RAM cache随机高速缓冲器
Range范围
Record记录
Relational database关系数据库
Replace替换
Resolution分辨率
Row行
Read-only只读
Reformatting重组
regional service provider区域性服务供应商
repetitive motion injury反复性动作损伤
reverse directory反向目录
right to financial privacy act of 1979财产隐私法案

S
Scanner扫描器
Search查找
Secondary storage device助存储设备
Semiconductor半导体
Serial ports串行端口
Server服务器
Shared laser printer共享激光打印机
Sheet表格
Silicon chip硅片
Slots插槽
Smart card智能卡
Soft copy软拷贝
Software suite软件协议
Sorting排序分类
Source file源文件
Special-purpose application专用文件
Spreadsheet电子数据表
Standard toolbar标准工具栏
Supercomputer巨型机
System cabine 系统箱
System clock时钟
System software系统软件
Satellite/air connection services卫星无线连接服务
search engines搜索引擎
search providers搜索供应者
search services 搜索服务器
Sectors扇区
security安全
Sending and receiving devices发送接收设备
Sequential access顺序存取
Serial data transmission单向通信
signature line签名档
snoopware监控软件
software copyright act of1980软件版权法案
software piracy软件盗版
Solid-state storage固态存储器
specialized search engine专用搜索引擎
spiders网页爬虫
spike尖峰电压
Star network星型网
Strategy方案
subject主题
subscription address预定地址
Superdisk超级磁盘
surfing网上冲浪
surge protector浪涌保护器
systems analyst系统分析师

T
Table二维表
Telephony电话学
Television boards电视扩展卡
Terminal 终端
Template模板
Text entry文本输入
Thermal printer 热印刷
Thin client瘦客
Toggle key触发键
Toolbar工具栏
Touch screen触摸屏
Trackball追踪球
TV tuner card电视调谐卡
Two-state system双状态系统
technical writer技术协作者
technostress重压技术
telnet远程登录
Time-sharing system分时系统
Topology拓扑结构
Tracks磁道
traditional cookies传统的信息记录程序
Twisted pair双绞线

U
Unicode统一字符标准
uploading上传
usenet世界性新闻组网络

V
Virtual memory虚拟内存
Video display screen视频显示屏
Voice recognition system声音识别系统
vertical portal纵向门户
video privacy protection act of 1988视频隐私权保护法案
virus checker病毒检测程序
virus病毒
Voiceband音频带宽
Volatile storage易失性存储
voltage surge冲击性电压

W
Wand reader 条形码读入
Web 网络
Web appliance 环球网设备
Web page网页
Web site address网络地址
Web terminal环球网终端
Webcam摄像头
What-if analysis假定分析
Wireless revolution无线革命
Word字长
Word processing文字处理
Word wrap自动换行
Worksheet file 工作表文件
web auctions网上拍卖
web broadcasters网络广播
web portals门户网站
web sites网站
web storefront creation packages网上商店创建包
web storefronts网上商店
web utilities网上应用程序
web-downloading utilities网页下载应用程序
webmaster web站点管理员
web万维网
Wireless modems无线调制解调器
wireless service provider无线服务供应商
world wide web万维网
worm蠕虫病毒
Write-protect notch写保护口

其他缩写
DVD digital bersatile 数字化通用光盘
IT ingormation technology信息技术 
CD compact disc 压缩盘
PDA personal digital assistant个人数字助理
RAM random access memory随机存储器
WWW World Wide Web 万维网
DBMS database management system数据库管理系统
HTML Hypertext Markup Language超文本标示语言
OLE object linking and embedding对象链接潜入
SQL structured query language结构化查询语言
URL uniform resouice locator统一资源定位器
AGP accelerated graphics port加速图形接口
ALU arithmetic-logic unit算术逻辑单元
CPU central processing unit中央处理器
CMOS complementary metal-oxide semiconductor互补金属氧化物半导体
CISC complex instruction set computer复杂指令集计算机
HPSB high performance serial bus高性能串行总线
ISA industry standard architecture工业标准结构体系
PCI peripheral component interconnect外部设备互连总线
PCMCIA Personal Memory Card International Association个人计算机存储卡国际协会
RAM random-access memory随机存储器
ROM read-only memory只读存储器
USB universal serial bus通用串行总线
CRT cathode-ray tube阴极射线管
HDTV high-definition television高清晰度电视
LCD liquid crystal display monitor液晶显示器
MICRmagnetic-ink character recognition磁墨水字符识别器
OCR optical-character recognition光电字符识别器
OMR optical-mark recognition光标阅读器
TFT thin film transistor monitor薄膜晶体管显示器

其他
Zip disk压缩磁盘
Domain name system(DNS)域名服务器
file transfer protocol(FTP)文件传送协议
hypertext markup language(HTML)超文本链接标识语言
Local area network(LAN)局域网
internet relay chat(IRC)互联网多线交谈
Metropolitan area network(MAN)城域网
Network operation system(NOS)网络操作系统
uniform resource locator(URL)统一资源定位器
Wide area network(WAN)广域网

 

 

 

 

参考

https://blog.csdn.net/abcdabcdqqq/article/details/78782324

https://blog.csdn.net/sinat_36458870/article/details/70172524

 

 

2018-07-20 15:07:19 qqqzmy 阅读数 2002
  • 神经元

    深刻理解深度学习原理 掌握深度神经网络的Python代码实现方法

    13人学习 白勇
    免费试看

NISP: Pruning Networks using Neuron Importance Score Propagation

利用神经元重要性分数传播对网络进行剪枝

这是CVPR2018的一篇文章,在在这里整理一下我的理解思路

论文链接:https://arxiv.org/abs/1711.05908

        为了减少深层卷积神经网络(CNNs)中的显着冗余,现有的方法只考虑单个层或两个连续层的统计量(比如说,剪枝一层以最小化下一层的重建误差),而忽略了深层网络中误差传播的影响。在作者看来,这种剪枝的方法只看局部,不看整体。所以作者认为,必须根据一个统一的目标,联合修剪整个神经元网络中的神经元:

        在分类前的倒数第二层中,最大限度地减小重要响应的重构误差,对经过修剪的网络进行再训练。

        具体步骤:我们应用特征排序技术来度量FRL中每个神经元的重要性,并将网络剪枝描述为一个二进制整数优化问题,并给出了该问题的一种封闭的解决方案,用于对早期层中的神经元进行剪枝。作者提出的神经网络重要性分数传播(NISP)算法,将最终响应的重要分数传播到网络中的每个神经元指导剪枝。

        这张图是作者提出的剪枝方法。最上面的一行是我们平时所见的网络结构,图像送入卷积网络进行处理,再将结果送入一个特征选择器。在网络结构中,作者把分类前的最后一层命名为“最终响应层”(绿色部分),最终响应层再接一个特征选择器,特征选择器部分使用的是Inf-FS的滤波方法。Inf-FS是利用矩阵幂级数的性质有效地计算了一个特征相对于所有其他特征的重要性,从而得到了最终响应层的神经元重要性,就如图中NISP框中的绿色部分,接下来利用作者提出的传播算法,将重要性分数逐层反推回去,得到整个网络所有层的重要性分数,再根据所得到的分数以及预先设定的每一层的剪枝率对原有的模型进行剪枝,得到剪枝后的模型,再送入数据对于模型进行微调。

神经元的定义如公式(1)。

 

3.2.2 Objective Function

作者的目标是,原始网络产生的响应,与剪枝网络产生的响应之间的差异应最小化

 

作者定义了一个子网络G,他是原来的网络f之中的一部分,定义如公式(2),它以一个嵌套函数的形式表达出来:

 

我们的目标是计算第l层的神经元剪枝指示,使得地l层剪枝对最终反应的重要性神经元的影响降到最低。

作者定义了一个关于l层神经元修剪指示器的优化目标,如公式(3):

 

公式(3)是对于所有样本的,公式(4)是对于单独一个样本。

F(x)是原来的层的权重参数,F()中的是二进制的数,如果该神经元重要则对应的位置为1,不重要则为0,通过和x进行元素积,进行剪枝,把不重要的权重值置为0,再和原先的权重值做差取绝对值,再和该层剪枝前的重要性分数做点乘求得

3.2.3 Solution

网络剪枝问题可以用二进制整数规划问题,我们要在方程中找到最优的神经元剪枝指示符。然而,直接优化方程很难得到有效的解析解。给出了该目标的一个上界,并证明了通过最小化上界可以得到一个次优解。有趣的是,基于这个次优解,我们找到了一个可行且有效的计算所有神经元重要性分数的公式。

 

神经元的函数中,作者假设激活函数是利普希茨连续条件(Lipschitz continuity),

 

这个假设很重要,他是后面作者求目标上边界的一个重要假设,后面的推导都是基于这个不等式的。

 

对于任意的x,y,存在一个常数项C,使得以下不等式成立,我们根据这个不等式可以得到公式5,结合前面我们所提到的嵌套函数G的表达形式,我们可以得到公式6

 

重复使用公式6进行迭代,我们可以可以得到公式7,公式7里面的大W代表的是几个层的权重矩阵的绝对值连乘,常数项C部分也是同理,用连乘表示并使用新的符号进行表示,

接下来使用,对公式7中的x,y进行替代,得到公式8:

 

接下来我们结合前面我们设立的当个样本的目标函数,利用公式8的不等式对其进行缩放,我们可以得到公式(9),考虑到多个样本,我们可以把公式(9)变换为公式(12)

 

公式13中对相加的顺序进行调整,可以得到公式14,在14中构造出了项,我们知道是有界的那么一定寻在一个常数Cx使得不等式成立:

 

我们定义,将常数项做一个合并,得到公式15:

 

根据公式15我们可以看出我们的目标函数是有上界的,我们再将其转换一下,等价为公式16中的最小化公式:

 

 

公式16中的解是原先我们定义的公式3目标函数的次优解,它仍然可以抓住神经元的重要性。

从公式16我们可以看出,如果在剪枝后的第l层的神经元还保留有个,当且仅当为是中最高的值之一,

前面我们定义了

 

它是第l层的神经元重要性分数的一个可行解,作者定义了网络的神经元重要性如下:

 

神经元重要性的一个重要特性是它可以沿着网络递归地计算(或传播)。这也是这篇论文中所提出的神经元重要性算法的最重要的一个特性

公式18给出了相邻2层的递归关系,在算法中相邻层可以根据该公式来计算:

 

我们从公式19中得出结论:神经元的重要性是与其直接相连的所有后续神经元的加权和:

 

3.3. Pruning Networks Using NISP

给定每一层的目标剪枝率,我们传播重要性分数,根据其重要性分数计算剪枝指标,删除剪枝指示值为0的神经元。

 

重要的传播和分层剪枝在一个单一的后向传递中可以同时进行,修剪的神经元的重要性不会传播到任何低一层的层次。对于完全连接的层,我们修剪每个单神经元。对于卷积层,我们将全部通道的神经元一起剪枝。通道的重要性分数计算为本Channel 2中所有神经元的重要分数之和。通道的重要性分数计算为该通道内所有神经元的重要分数之和。

 

 

  1. Experiments

作者在目前各种流行的CNN网络上做比较实验,首先比较随机剪枝和从零开始训练基线,以证明该方法的有效性。然后,我们比较了另外两个基线,基于量值的剪枝和逐层剪枝,以突出特征排序和神经元重要性分数传播的贡献。

 

 

 

 

 

 

 

2019-12-06 02:31:05 weixin_40400177 阅读数 11917
  • 神经元

    深刻理解深度学习原理 掌握深度神经网络的Python代码实现方法

    13人学习 白勇
    免费试看

2018

Title Conf Code Stars
Video-to-Video Synthesis NIPS code 5578
Deep Image Prior CVPR code 3736
StarGAN: Unified Generative Adversarial Networks for Multi-Domain Image-to-Image Translation CVPR code 3405
Joint 3D Face Reconstruction and Dense Alignment with Position Map Regression Network ECCV code 2434
Learning to See in the Dark CVPR code 2326
Glow: Generative Flow with Invertible 1x1 Convolutions NIPS code 2088
Squeeze-and-Excitation Networks CVPR code 1477
Efficient Neural Architecture Search via Parameters Sharing ICML code 1382
Multimodal Unsupervised Image-to-image Translation ECCV code 1296
Non-Local Neural Networks CVPR code 992
Can Spatiotemporal 3D CNNs Retrace the History of 2D CNNs and ImageNet? CVPR code 924
Single-Shot Refinement Neural Network for Object Detection CVPR code 875
Image Generation From Scene Graphs CVPR code 851
GANimation: Anatomically-aware Facial Animation from a Single Image ECCV code 772
Simple Baselines for Human Pose Estimation and Tracking ECCV code 752
Visualizing the Loss Landscape of Neural Nets NIPS code 724
Detect-and-Track: Efficient Pose Estimation in Videos CVPR code 650
Relation Networks for Object Detection CVPR code 635
Generative Image Inpainting With Contextual Attention CVPR code 609
PointCNN NIPS code 607
Look at Boundary: A Boundary-Aware Face Alignment Algorithm CVPR code 575
Pelee: A Real-Time Object Detection System on Mobile Devices NIPS code 548
Distractor-aware Siamese Networks for Visual Object Tracking ECCV code 545
Obfuscated Gradients Give a False Sense of Security: Circumventing Defenses to Adversarial Examples ICML code 535
Which Training Methods for GANs do actually Converge? ICML code 520
End-to-End Recovery of Human Shape and Pose CVPR code 502
Taskonomy: Disentangling Task Transfer Learning CVPR code 502
Cascaded Pyramid Network for Multi-Person Pose Estimation CVPR code 497
Neural 3D Mesh Renderer CVPR code 489
Zero-Shot Recognition via Semantic Embeddings and Knowledge Graphs CVPR code 489
In-Place Activated BatchNorm for Memory-Optimized Training of DNNs CVPR code 485
The Unreasonable Effectiveness of Deep Features as a Perceptual Metric CVPR code 447
Frustum PointNets for 3D Object Detection From RGB-D Data CVPR code 434
The Lovász-Softmax Loss: A Tractable Surrogate for the Optimization of the Intersection-Over-Union Measure in Neural Networks CVPR code 416
ICNet for Real-Time Semantic Segmentation on High-Resolution Images ECCV code 415
PWC-Net: CNNs for Optical Flow Using Pyramid, Warping, and Cost Volume CVPR code 398
Efficient Interactive Annotation of Segmentation Datasets With Polygon-RNN++ CVPR code 397
Gibson Env: Real-World Perception for Embodied Agents CVPR code 385
Acquisition of Localization Confidence for Accurate Object Detection ECCV code 384
Noise2Noise: Learning Image Restoration without Clean Data ICML code 370
GeoNet: Geometric Neural Network for Joint Depth and Surface Normal Estimation CVPR code 359
GeoNet: Unsupervised Learning of Dense Depth, Optical Flow and Camera Pose CVPR code 359
A Style-Aware Content Loss for Real-time HD Style Transfer ECCV code 349
Soccer on Your Tabletop CVPR code 338
Pyramid Stereo Matching Network CVPR code 335
Neural Baby Talk CVPR code 332
License Plate Detection and Recognition in Unconstrained Scenarios ECCV code 326
Supervision-by-Registration: An Unsupervised Approach to Improve the Precision of Facial Landmark Detectors CVPR code 326
Pixel2Mesh: Generating 3D Mesh Models from Single RGB Images ECCV code 323
Transparency by Design: Closing the Gap Between Performance and Interpretability in Visual Reasoning CVPR code 317
Fast End-to-End Trainable Guided Filter CVPR code 312
Deep Clustering for Unsupervised Learning of Visual Features ECCV code 302
Deep Photo Enhancer: Unpaired Learning for Image Enhancement From Photographs With GANs CVPR code 294
Neural Relational Inference for Interacting Systems ICML code 289
Adversarially Regularized Autoencoders ICML code 282
Learning to Adapt Structured Output Space for Semantic Segmentation CVPR code 280
Convolutional Neural Networks With Alternately Updated Clique CVPR code 272
Learning to Segment Every Thing CVPR code 269
Supervising Unsupervised Learning NIPS code 262
LiteFlowNet: A Lightweight Convolutional Neural Network for Optical Flow Estimation CVPR code 261
Bilinear Attention Networks NIPS code 258
ESPNet: Efficient Spatial Pyramid of Dilated Convolutions for Semantic Segmentation ECCV code 254
An intriguing failing of convolutional neural networks and the CoordConv solution NIPS code 249
End-to-End Learning of Motion Representation for Video Understanding CVPR code 238
Image Super-Resolution Using Very Deep Residual Channel Attention Networks ECCV code 234
Iterative Visual Reasoning Beyond Convolutions CVPR code 228
Semi-Parametric Image Synthesis CVPR code 226
Compressed Video Action Recognition CVPR code 225
Style Aggregated Network for Facial Landmark Detection CVPR code 223
Pose-Robust Face Recognition via Deep Residual Equivariant Mapping CVPR code 220
Multi-Content GAN for Few-Shot Font Style Transfer CVPR code 218
GraphRNN: Generating Realistic Graphs with Deep Auto-regressive Models ICML code 214
Referring Relationships CVPR code 210
MoCoGAN: Decomposing Motion and Content for Video Generation CVPR code 205
Latent Alignment and Variational Attention NIPS code 204
LayoutNet: Reconstructing the 3D Room Layout From a Single RGB Image CVPR code 202
Large-Scale Point Cloud Semantic Segmentation With Superpoint Graphs CVPR code 197
An End-to-End TextSpotter With Explicit Alignment and Attention CVPR code 195
DeblurGAN: Blind Motion Deblurring Using Conditional Adversarial Networks CVPR code 189
SPLATNet: Sparse Lattice Networks for Point Cloud Processing CVPR code 188
Attentive Generative Adversarial Network for Raindrop Removal From a Single Image CVPR code 186
Single View Stereo Matching CVPR code 182
MegaDepth: Learning Single-View Depth Prediction From Internet Photos CVPR code 181
ECO: Efficient Convolutional Network for Online Video Understanding ECCV code 180
Unsupervised Feature Learning via Non-Parametric Instance Discrimination CVPR code 180
ST-GAN: Spatial Transformer Generative Adversarial Networks for Image Compositing CVPR code 179
Video Based Reconstruction of 3D People Models CVPR code 179
Social GAN: Socially Acceptable Trajectories With Generative Adversarial Networks CVPR code 178
Learning Category-Specific Mesh Reconstruction from Image Collections ECCV code 176
Realistic Evaluation of Deep Semi-Supervised Learning Algorithms NIPS code 175
BSN: Boundary Sensitive Network for Temporal Action Proposal Generation ECCV code 175
Group Normalization ECCV code 175
Real-Time Seamless Single Shot 6D Object Pose Prediction CVPR code 174
MVSNet: Depth Inference for Unstructured Multi-view Stereo ECCV code 174
Neural Motifs: Scene Graph Parsing With Global Context CVPR code 171
Learning a Single Convolutional Super-Resolution Network for Multiple Degradations CVPR code 169
Optimizing Video Object Detection via a Scale-Time Lattice CVPR code 168
MultiPoseNet: Fast Multi-Person Pose Estimation using Pose Residual Network ECCV code 167
Unsupervised Cross-Dataset Person Re-Identification by Transfer Learning of Spatial-Temporal Patterns CVPR code 166
Weakly Supervised Instance Segmentation Using Class Peak Response CVPR code 166
PlaneNet: Piece-Wise Planar Reconstruction From a Single RGB Image CVPR code 164
Residual Dense Network for Image Super-Resolution CVPR code 163
Embodied Question Answering CVPR code 162
Evolved Policy Gradients NIPS code 160
Camera Style Adaptation for Person Re-Identification CVPR code 159
Weakly and Semi Supervised Human Body Part Parsing via Pose-Guided Knowledge Transfer CVPR code 159
Scale-Recurrent Network for Deep Image Deblurring CVPR code 159
Unsupervised Learning of Monocular Depth Estimation and Visual Odometry With Deep Feature Reconstruction CVPR code 158
Relational recurrent neural networks NIPS code 157
Densely Connected Pyramid Dehazing Network CVPR code 155
Image Inpainting for Irregular Holes Using Partial Convolutions ECCV code 153
SO-Net: Self-Organizing Network for Point Cloud Analysis CVPR code 152
Pix3D: Dataset and Methods for Single-Image 3D Shape Modeling CVPR code 152
ShuffleNet: An Extremely Efficient Convolutional Neural Network for Mobile Devices CVPR code 152
DenseASPP for Semantic Segmentation in Street Scenes CVPR code 151
Facelet-Bank for Fast Portrait Manipulation CVPR code 150
Self-Imitation Learning ICML code 145
Graph R-CNN for Scene Graph Generation ECCV code 144
A Closer Look at Spatiotemporal Convolutions for Action Recognition CVPR code 143
Cross-Domain Weakly-Supervised Object Detection Through Progressive Domain Adaptation CVPR code 143
Quantized Densely Connected U-Nets for Efficient Landmark Localization ECCV code 143
Recurrent Squeeze-and-Excitation Context Aggregation Net for Single Image Deraining ECCV code 142
Two-Stream Convolutional Networks for Dynamic Texture Synthesis CVPR code 141
Integral Human Pose Regression ECCV code 141
Adaptive Affinity Fields for Semantic Segmentation ECCV code 141
LSTM Pose Machines CVPR code 141
Structure Inference Net: Object Detection Using Scene-Level Context and Instance-Level Relationships CVPR code 140
Recovering Realistic Texture in Image Super-Resolution by Deep Spatial Feature Transform CVPR code 139
Image-Image Domain Adaptation With Preserved Self-Similarity and Domain-Dissimilarity for Person Re-Identification CVPR code 137
Learning to Compare: Relation Network for Few-Shot Learning CVPR code 135
CosFace: Large Margin Cosine Loss for Deep Face Recognition CVPR code 135
Deep Depth Completion of a Single RGB-D Image CVPR code 134
Deep Back-Projection Networks for Super-Resolution CVPR code 132
Context Embedding Networks CVPR code 131
Multi-Task Learning Using Uncertainty to Weigh Losses for Scene Geometry and Semantics CVPR code 131
Perturbative Neural Networks CVPR code 130
Style Tokens: Unsupervised Style Modeling, Control and Transfer in End-to-End Speech Synthesis ICML code 129
Fast and Accurate Online Video Object Segmentation via Tracking Parts CVPR code 129
Nonlinear 3D Face Morphable Model CVPR code 128
BodyNet: Volumetric Inference of 3D Human Body Shapes ECCV code 126
3D-CODED: 3D Correspondences by Deep Deformation ECCV code 125
DeepMVS: Learning Multi-View Stereopsis CVPR code 125
Hierarchical Imitation and Reinforcement Learning ICML code 124
Domain Adaptive Faster R-CNN for Object Detection in the Wild CVPR code 123
L4: Practical loss-based stepsize adaptation for deep learning NIPS code 123
A Generative Adversarial Approach for Zero-Shot Learning From Noisy Texts CVPR code 122
Recurrent Relational Networks NIPS code 121
Gated Path Planning Networks ICML code 121
PSANet: Point-wise Spatial Attention Network for Scene Parsing ECCV code 121
Rethinking Feature Distribution for Loss Functions in Image Classification CVPR code 120
Density-Aware Single Image De-Raining Using a Multi-Stream Dense Network CVPR code 118
FOTS: Fast Oriented Text Spotting With a Unified Network CVPR code 118
ELEGANT: Exchanging Latent Encodings with GAN for Transferring Multiple Face Attributes ECCV code 117
PU-Net: Point Cloud Upsampling Network CVPR code 117
PackNet: Adding Multiple Tasks to a Single Network by Iterative Pruning CVPR code 117
Long-term Tracking in the Wild: a Benchmark ECCV code 116
Factoring Shape, Pose, and Layout From the 2D Image of a 3D Scene CVPR code 114
Repulsion Loss: Detecting Pedestrians in a Crowd CVPR code 113
Unsupervised Attention-guided Image-to-Image Translation NIPS code 110
Attention-based Deep Multiple Instance Learning ICML code 109
Learning Blind Video Temporal Consistency ECCV code 109
Noisy Natural Gradient as Variational Inference ICML code 108
End-to-End Weakly-Supervised Semantic Alignment CVPR code 106
Decoupled Networks CVPR code 105
LiDAR-Video Driving Dataset: Learning Driving Policies Effectively CVPR code 104
MAttNet: Modular Attention Network for Referring Expression Comprehension CVPR code 104
LQ-Nets: Learned Quantization for Highly Accurate and Compact Deep Neural Networks ECCV code 103
FSRNet: End-to-End Learning Face Super-Resolution With Facial Priors CVPR code 100
Deep Mutual Learning CVPR code 100
Macro-Micro Adversarial Network for Human Parsing ECCV code 98
ScanComplete: Large-Scale Scene Completion and Semantic Segmentation for 3D Scans CVPR code 97
Learning Depth From Monocular Videos Using Direct Methods CVPR code 97
VITON: An Image-Based Virtual Try-On Network CVPR code 95
Cascade R-CNN: Delving Into High Quality Object Detection CVPR code 93
Learning Human-Object Interactions by Graph Parsing Neural Networks ECCV code 93
Future Frame Prediction for Anomaly Detection – A New Baseline CVPR code 92
Multi-view to Novel view: Synthesizing novel views with Self-Learned Confidence ECCV code 92
Tell Me Where to Look: Guided Attention Inference Network CVPR code 91
Neural Kinematic Networks for Unsupervised Motion Retargetting CVPR code 90
Learning SO(3) Equivariant Representations with Spherical CNNs ECCV code 89
One-Shot Unsupervised Cross Domain Translation NIPS code 89
Synthesizing Images of Humans in Unseen Poses CVPR code 88
Depth-aware CNN for RGB-D Segmentation ECCV code 88
Piggyback: Adapting a Single Network to Multiple Tasks by Learning to Mask Weights ECCV code 88
Knowledge Aided Consistency for Weakly Supervised Phrase Grounding CVPR code 87
CSRNet: Dilated Convolutional Neural Networks for Understanding the Highly Congested Scenes CVPR code 87
Neural Arithmetic Logic Units NIPS code 87
A PID Controller Approach for Stochastic Optimization of Deep Networks CVPR code 87
VITAL: VIsual Tracking via Adversarial Learning CVPR code 86
Learning Spatial-Temporal Regularized Correlation Filters for Visual Tracking CVPR code 86
Recurrent Pixel Embedding for Instance Grouping CVPR code 85
SGPN: Similarity Group Proposal Network for 3D Point Cloud Instance Segmentation CVPR code 84
Multi-Scale Location-Aware Kernel Representation for Object Detection CVPR code 84
Repeatability Is Not Enough: Learning Affine Regions via Discriminability ECCV code 84
“Zero-Shot” Super-Resolution Using Deep Internal Learning CVPR code 84
DF-Net: Unsupervised Joint Learning of Depth and Flow using Cross-Task Consistency ECCV code 82
Multi-View Consistency as Supervisory Signal for Learning Shape and Pose Prediction CVPR code 80
Factorizable Net: An Efficient Subgraph-based Framework for Scene Graph Generation ECCV code 78
Generalizing A Person Retrieval Model Hetero- and Homogeneously ECCV code 78
Crafting a Toolchain for Image Restoration by Deep Reinforcement Learning CVPR code 77
Pairwise Confusion for Fine-Grained Visual Classification ECCV code 77
Learning to Reweight Examples for Robust Deep Learning ICML code 76
Improving Generalization via Scalable Neighborhood Component Analysis ECCV code 76
SparseMAP: Differentiable Sparse Structured Inference ICML code 75
PDE-Net: Learning PDEs from Data ICML code 75
Pose-Normalized Image Generation for Person Re-identification ECCV code 75
Disentangled Person Image Generation CVPR code 75
Learning to Navigate for Fine-grained Classification ECCV code 74
Superpixel Sampling Networks ECCV code 74
Shift-Net: Image Inpainting via Deep Feature Rearrangement ECCV code 74
3DMV: Joint 3D-Multi-View Prediction for 3D Semantic Scene Segmentation ECCV code 74
Ordinal Depth Supervision for 3D Human Pose Estimation CVPR code 74
Path-Level Network Transformation for Efficient Architecture Search ICML code 73
Diverse Image-to-Image Translation via Disentangled Representations ECCV code 72
Visual Feature Attribution Using Wasserstein GANs CVPR code 72
Real-World Anomaly Detection in Surveillance Videos CVPR code 72
Self-Supervised Adversarial Hashing Networks for Cross-Modal Retrieval CVPR code 72
Holistic 3D Scene Parsing and Reconstruction from a Single RGB Image ECCV code 72
Learning to Find Good Correspondences CVPR code 72
Learning Less Is More - 6D Camera Localization via 3D Surface Regression CVPR code 72
Object Level Visual Reasoning in Videos ECCV code 71
Weakly-Supervised Semantic Segmentation Network With Deep Seeded Region Growing CVPR code 71
Avatar-Net: Multi-Scale Zero-Shot Style Transfer by Feature Decoration CVPR code 71
Fast and Accurate Single Image Super-Resolution via Information Distillation Network CVPR code 71
Regularizing RNNs for Caption Generation by Reconstructing the Past With the Present CVPR code 70
Multi-Shot Pedestrian Re-Identification via Sequential Decision Making CVPR code 70
PointNetVLAD: Deep Point Cloud Based Retrieval for Large-Scale Place Recognition CVPR code 69
Progressive Neural Architecture Search ECCV code 68
Generative Neural Machine Translation NIPS code 68
Learning Latent Super-Events to Detect Multiple Activities in Videos CVPR code 67
Generate to Adapt: Aligning Domains Using Generative Adversarial Networks CVPR code 67
Adversarial Feature Augmentation for Unsupervised Domain Adaptation CVPR code 67
Learning Attentions: Residual Attentional Siamese Network for High Performance Online Visual Tracking CVPR code 67
Pointwise Convolutional Neural Networks CVPR code 67
Optimizing the Latent Space of Generative Networks ICML code 66
Part-Aligned Bilinear Representations for Person Re-Identification ECCV code 64
Geometry-Aware Learning of Maps for Camera Localization CVPR code 63
Fighting Fake News: Image Splice Detection via Learned Self-Consistency ECCV code 62
Isolating Sources of Disentanglement in Variational Autoencoders NIPS code 62
Neural Program Synthesis from Diverse Demonstration Videos ICML code 62
Learning Rigidity in Dynamic Scenes with a Moving Camera for 3D Motion Field Estimation ECCV code 61
Rotation-Sensitive Regression for Oriented Scene Text Detection CVPR code 61
Human Semantic Parsing for Person Re-Identification CVPR code 61
Unsupervised Discovery of Object Landmarks as Structural Representations CVPR code 61
IQA: Visual Question Answering in Interactive Environments CVPR code 60
Hierarchical Long-term Video Prediction without Supervision ICML code 60
Unsupervised Domain Adaptation for 3D Keypoint Estimation via View Consistency ECCV code 60
Exploit the Unknown Gradually: One-Shot Video-Based Person Re-Identification by Stepwise Learning CVPR code 59
Neural Style Transfer via Meta Networks CVPR code 59
Frame-Recurrent Video Super-Resolution CVPR code 58
PlaneMatch: Patch Coplanarity Prediction for Robust RGB-D Reconstruction ECCV code 57
CBAM: Convolutional Block Attention Module ECCV code 57
Decorrelated Batch Normalization CVPR code 57
Learning Conditioned Graph Structures for Interpretable Visual Question Answering NIPS code 57
Hierarchical Bilinear Pooling for Fine-Grained Visual Recognition ECCV code 57
Leveraging Unlabeled Data for Crowd Counting by Learning to Rank CVPR code 56
Deep Marching Cubes: Learning Explicit Surface Representations CVPR code 56
Learning From Synthetic Data: Addressing Domain Shift for Semantic Segmentation CVPR code 56
LF-Net: Learning Local Features from Images NIPS code 55
Semi-supervised Adversarial Learning to Generate Photorealistic Face Images of New Identities from 3D Morphable Model ECCV code 55
Discriminability Objective for Training Descriptive Captions CVPR code 54
BlockDrop: Dynamic Inference Paths in Residual Networks CVPR code 54
Conditional Probability Models for Deep Image Compression CVPR code 54
Jointly Optimize Data Augmentation and Network Training: Adversarial Data Augmentation in Human Pose Estimation CVPR code 54
Learning towards Minimum Hyperspherical Energy NIPS code 54
DeepVS: A Deep Learning Based Video Saliency Prediction Approach ECCV code 53
Learning Efficient Single-stage Pedestrian Detectors by Asymptotic Localization Fitting ECCV code 52
Learning Pixel-Level Semantic Affinity With Image-Level Supervision for Weakly Supervised Semantic Segmentation CVPR code 52
Wasserstein Introspective Neural Networks CVPR code 51
SketchyGAN: Towards Diverse and Realistic Sketch to Image Synthesis CVPR code 51
Self-produced Guidance for Weakly-supervised Object Localization ECCV code 51
Measuring abstract reasoning in neural networks ICML code 51
A Unified Feature Disentangler for Multi-Domain Image Translation and Manipulation NIPS code 51
RayNet: Learning Volumetric 3D Reconstruction With Ray Potentials CVPR code 51
Coloring with Words: Guiding Image Colorization Through Text-based Palette Generation ECCV code 50
Efficient end-to-end learning for quantizable representations ICML code 50
Visual Question Generation as Dual Task of Visual Question Answering CVPR code 50
Fast and Scalable Bayesian Deep Learning by Weight-Perturbation in Adam ICML code 49
Surface Networks CVPR code 48
Deep k-Means: Re-Training and Parameter Sharing with Harder Cluster Assignments for Compressing Deep Convolutions ICML code 48
Stacked Cross Attention for Image-Text Matching ECCV code 48
Actor and Observer: Joint Modeling of First and Third-Person Videos CVPR code 48
Super SloMo: High Quality Estimation of Multiple Intermediate Frames for Video Interpolation CVPR code 47
Learning-based Video Motion Magnification ECCV code 47
Pose Partition Networks for Multi-Person Pose Estimation ECCV code 47
Neural Autoregressive Flows ICML code 47
Weakly- and Semi-Supervised Panoptic Segmentation ECCV code 46
Video Re-localization ECCV code 46
Real-time ‘Actor-Critic’ Tracking ECCV code 46
Black-box Adversarial Attacks with Limited Queries and Information ICML code 46
Hyperbolic Entailment Cones for Learning Hierarchical Embeddings ICML code 46
Structured Attention Guided Convolutional Neural Fields for Monocular Depth Estimation CVPR code 46
Differentiable Compositional Kernel Learning for Gaussian Processes ICML code 45
Visualizing and Understanding Atari Agents ICML code 45
Image Manipulation with Perceptual Discriminators ECCV code 45
Learning Intrinsic Image Decomposition From Watching the World CVPR code 45
Overcoming Catastrophic Forgetting with Hard Attention to the Task ICML code 44
Learning Pose Specific Representations by Predicting Different Views CVPR code 44
Zero-Shot Object Detection ECCV code 43
Mean Field Multi-Agent Reinforcement Learning ICML code 43
Partial Adversarial Domain Adaptation ECCV code 43
Mutual Learning to Adapt for Joint Human Parsing and Pose Estimation ECCV code 43
Robust Classification With Convolutional Prototype Learning CVPR code 43
SimplE Embedding for Link Prediction in Knowledge Graphs NIPS code 42
PredRNN++: Towards A Resolution of the Deep-in-Time Dilemma in Spatiotemporal Predictive Learning ICML code 42
Learning to Blend Photos ECCV code 42
Mask-Guided Contrastive Attention Model for Person Re-Identification CVPR code 41
Link Prediction Based on Graph Neural Networks NIPS code 41
Generalisation in humans and deep neural networks NIPS code 41
Towards Binary-Valued Gates for Robust LSTM Training ICML code 41
Multi-scale Residual Network for Image Super-Resolution ECCV code 41
Fully Motion-Aware Network for Video Object Detection ECCV code 41
Interpretable Convolutional Neural Networks CVPR code 40
Generative Adversarial Perturbations CVPR code 40
The Sound of Pixels ECCV code 40
Towards Faster Training of Global Covariance Pooling Networks by Iterative Matrix Square Root Normalization CVPR code 40
Choose Your Neuron: Incorporating Domain Knowledge through Neuron-Importance ECCV code 40
Multi-View Silhouette and Depth Decomposition for High Resolution 3D Object Representation NIPS code 40
Learning Warped Guidance for Blind Face Restoration ECCV code 39
Adversarial Complementary Learning for Weakly Supervised Object Localization CVPR code 39
Learning Semantic Representations for Unsupervised Domain Adaptation ICML code 39
Neural Architecture Search with Bayesian Optimisation and Optimal Transport NIPS code 39
Mutual Information Neural Estimation ICML code 39
NetGAN: Generating Graphs via Random Walks ICML code 39
Learning to Evaluate Image Captioning CVPR code 38
Hyperbolic Neural Networks NIPS code 37
Unsupervised Geometry-Aware Representation for 3D Human Pose Estimation ECCV code 37
Adversarially Learned One-Class Classifier for Novelty Detection CVPR code 37
Disentangling by Factorising ICML code 37
Extracting Automata from Recurrent Neural Networks Using Queries and Counterexamples ICML code 37
Tangent Convolutions for Dense Prediction in 3D CVPR code 37
Few-Shot Image Recognition by Predicting Parameters From Activations CVPR code 37
Real-Time Monocular Depth Estimation Using Synthetic Data With Domain Adaptation via Image Style Transfer CVPR code 37
Generalizing to Unseen Domains via Adversarial Data Augmentation NIPS code 36
SeGAN: Segmenting and Generating the Invisible CVPR code 36
Graphical Generative Adversarial Networks NIPS code 36
PieAPP: Perceptual Image-Error Assessment Through Pairwise Preference CVPR code 36
Gated Fusion Network for Single Image Dehazing CVPR code 35
Neural Code Comprehension: A Learnable Representation of Code Semantics NIPS code 35
Eye In-Painting With Exemplar Generative Adversarial Networks CVPR code 35
Deep One-Class Classification ICML code 34
Deep Regression Tracking with Shrinkage Loss ECCV code 34
Deflecting Adversarial Attacks With Pixel Deflection CVPR code 34
Learning Visual Question Answering by Bootstrapping Hard Attention ECCV code 33
Human-Centric Indoor Scene Synthesis Using Stochastic Grammar CVPR code 33
Improved Fusion of Visual and Language Representations by Dense Symmetric Co-Attention for Visual Question Answering CVPR code 33
CleanNet: Transfer Learning for Scalable Image Classifier Training With Label Noise CVPR code 33
Speaker-Follower Models for Vision-and-Language Navigation NIPS code 33
Improving Shape Deformation in Unsupervised Image-to-Image Translation ECCV code 33
Learning Single-View 3D Reconstruction with Limited Pose Supervision ECCV code 33
3D Steerable CNNs: Learning Rotationally Equivariant Features in Volumetric Data NIPS code 33
Adversarial Logit Pairing NIPS code 32
Attention in Convolutional LSTM for Gesture Recognition NIPS code 32
Graph-Cut RANSAC CVPR code 32
Neural Guided Constraint Logic Programming for Program Synthesis NIPS code 32
Learning Dynamic Memory Networks for Object Tracking ECCV code 32
GeoDesc: Learning Local Descriptors by Integrating Geometry Constraints ECCV code 32
A Simple Unified Framework for Detecting Out-of-Distribution Samples and Adversarial Attacks NIPS code 32
Flow-Grounded Spatial-Temporal Video Prediction from Still Images ECCV code 32
Bidirectional Feature Pyramid Network with Recurrent Attention Residual Modules for Shadow Detection ECCV code 32
On the Robustness of Semantic Segmentation Models to Adversarial Attacks CVPR code 31
Large Scale Fine-Grained Categorization and Domain-Specific Transfer Learning CVPR code 31
SketchyScene: Richly-Annotated Scene Sketches ECCV code 31
Deep Randomized Ensembles for Metric Learning ECCV code 30
Deep High Dynamic Range Imaging with Large Foreground Motions ECCV code 30
Revisiting Video Saliency: A Large-Scale Benchmark and a New Model CVPR code 30
Blazingly Fast Video Object Segmentation With Pixel-Wise Metric Learning CVPR code 30
Deep Model-Based 6D Pose Refinement in RGB ECCV code 30
TOM-Net: Learning Transparent Object Matting From a Single Image CVPR code 30
Quaternion Convolutional Neural Networks ECCV code 30
Densely Connected Attention Propagation for Reading Comprehension NIPS code 30
A Trilateral Weighted Sparse Coding Scheme for Real-World Image Denoising ECCV code 30
Self-Consistent Trajectory Autoencoder: Hierarchical Reinforcement Learning with Trajectory Embeddings ICML code 29
Video Rain Streak Removal by Multiscale Convolutional Sparse Coding CVPR code 29
Recurrent Scene Parsing With Perspective Understanding in the Loop CVPR code 29
Single Shot Scene Text Retrieval ECCV code 29
Toward Characteristic-Preserving Image-based Virtual Try-On Network ECCV code 29
Explainable Neural Computation via Stack Neural Module Networks ECCV code 29
Exploring Disentangled Feature Representation Beyond Face Identification CVPR code 29
Controllable Video Generation With Sparse Trajectories CVPR code 28
Layer-structured 3D Scene Inference via View Synthesis ECCV code 28
Encoder-Decoder with Atrous Separable Convolution for Semantic Image Segmentation ECCV code 28
PiCANet: Learning Pixel-Wise Contextual Attention for Saliency Detection CVPR code 28
Learning Rich Features for Image Manipulation Detection CVPR code 27
Fast Video Object Segmentation by Reference-Guided Mask Propagation CVPR code 27
3DFeat-Net: Weakly Supervised Local 3D Features for Point Cloud Registration ECCV code 27
Who Let the Dogs Out? Modeling Dog Behavior From Visual Data CVPR code 27
EC-Net: an Edge-aware Point set Consolidation Network ECCV code 27
Interpretable Intuitive Physics Model ECCV code 27
Learning a Discriminative Feature Network for Semantic Segmentation CVPR code 26
Partial Transfer Learning With Selective Adversarial Networks CVPR code 26
Cross-Modal Deep Variational Hand Pose Estimation CVPR code 26
Between-Class Learning for Image Classification CVPR code 26
AON: Towards Arbitrarily-Oriented Text Recognition CVPR code 26
Conditional Image-to-Image Translation CVPR code 25
Learning Convolutional Networks for Content-Weighted Image Compression CVPR code 25
Diversity Regularized Spatiotemporal Attention for Video-Based Person Re-Identification CVPR code 25
Dynamic Multimodal Instance Segmentation Guided by Natural Language Queries ECCV code 25
CBMV: A Coalesced Bidirectional Matching Volume for Disparity Estimation CVPR code 25
Deep Texture Manifold for Ground Terrain Recognition CVPR code 25
Audio-Visual Event Localization in Unconstrained Videos ECCV code 25
First Order Generative Adversarial Networks ICML code 25
Visual Coreference Resolution in Visual Dialog using Neural Module Networks ECCV code 25
SYQ: Learning Symmetric Quantization for Efficient Deep Neural Networks CVPR code 24
Deep Reinforcement Learning of Marked Temporal Point Processes NIPS code 24
Explicit Inductive Bias for Transfer Learning with Convolutional Networks ICML code 24
LEGO: Learning Edge With Geometry All at Once by Watching Videos CVPR code 24
Verisimilar Image Synthesis for Accurate Detection and Recognition of Texts in Scenes ECCV code 24
Multi-Agent Diverse Generative Adversarial Networks CVPR code 23
Face Aging With Identity-Preserved Conditional Generative Adversarial Networks CVPR code 23
Learning to Separate Object Sounds by Watching Unlabeled Video ECCV code 23
Exploiting the Potential of Standard Convolutional Autoencoders for Image Restoration by Evolutionary Search ICML code 23
To Trust Or Not To Trust A Classifier NIPS code 23
Im2Flow: Motion Hallucination From Static Images for Action Recognition CVPR code 22
ISTA-Net: Interpretable Optimization-Inspired Deep Network for Image Compressive Sensing CVPR code 22
Hallucinated-IQA: No-Reference Image Quality Assessment via Adversarial Learning CVPR code 22
Anonymous Walk Embeddings ICML code 22
Learning to Multitask NIPS code 22
CondenseNet: An Efficient DenseNet Using Learned Group Convolutions CVPR code 22
HashGAN: Deep Learning to Hash With Pair Conditional Wasserstein GAN CVPR code 22
Hierarchical Relational Networks for Group Activity Recognition and Retrieval ECCV code 22
Collaborative and Adversarial Network for Unsupervised Domain Adaptation CVPR code 22
Geometry-Aware Scene Text Detection With Instance Transformation Network CVPR code 22
Learning to Promote Saliency Detectors CVPR code 21
CSGNet: Neural Shape Parser for Constructive Solid Geometry CVPR code 21
Local Spectral Graph Convolution for Point Set Feature Learning ECCV code 21
HiDDeN: Hiding Data with Deep Networks ECCV code 21
GraphBit: Bitwise Interaction Mining via Deep Reinforcement Learning CVPR code 20
Stacked Conditional Generative Adversarial Networks for Jointly Learning Shadow Detection and Shadow Removal CVPR code 20
Fully-Convolutional Point Networks for Large-Scale Point Clouds ECCV code 20
Learning Superpixels With Segmentation-Aware Affinity Loss CVPR code 20
Zero-Shot Visual Recognition Using Semantics-Preserving Adversarial Embedding Networks CVPR code 20
Crowd Counting With Deep Negative Correlation Learning CVPR code 20
Dimensionality-Driven Learning with Noisy Labels ICML code 20
Objects that Sound ECCV code 20
Deep Expander Networks: Efficient Deep Networks from Graph Theory ECCV code 19
Low-Shot Learning With Large-Scale Diffusion CVPR code 19
Low-Shot Learning With Imprinted Weights CVPR code 19
Cross-Domain Self-Supervised Multi-Task Feature Learning Using Synthetic Imagery CVPR code 19
Learning Descriptor Networks for 3D Shape Synthesis and Analysis CVPR code 19
Disentangling Factors of Variation with Cycle-Consistent Variational Auto-Encoders ECCV code 19
CTAP: Complementary Temporal Action Proposal Generation ECCV code 18
DVAE#: Discrete Variational Autoencoders with Relaxed Boltzmann Priors NIPS code 18
Conditional Image-Text Embedding Networks ECCV code 18
EPINET: A Fully-Convolutional Neural Network Using Epipolar Geometry for Depth From Light Field Images CVPR code 18
Glimpse Clouds: Human Activity Recognition From Unstructured Feature Points CVPR code 18
Bayesian Optimization of Combinatorial Structures ICML code 18
FeaStNet: Feature-Steered Graph Convolutions for 3D Shape Analysis CVPR code 18
Learning Type-Aware Embeddings for Fashion Compatibility ECCV code 17
Sliced Wasserstein Distance for Learning Gaussian Mixture Models CVPR code 17
Revisiting Deep Intrinsic Image Decompositions CVPR code 17
A Spectral Approach to Gradient Estimation for Implicit Distributions ICML code 17
Hierarchical Novelty Detection for Visual Object Recognition CVPR code 17
Total Capture: A 3D Deformation Model for Tracking Faces, Hands, and Bodies CVPR code 17
Learning Generative ConvNets via Multi-Grid Modeling and Sampling CVPR code 17
Learning 3D Shape Completion From Laser Scan Data With Weak Supervision CVPR code 17
Triplet Loss in Siamese Network for Object Tracking ECCV code 17
Adversarial Attack on Graph Structured Data ICML code 17
Arbitrary Style Transfer With Deep Feature Reshuffle CVPR code 17
Visual Question Reasoning on General Dependency Tree CVPR code 17
Predicting Gaze in Egocentric Video by Learning Task-dependent Attention Transition ECCV code 16
Lipschitz-Margin Training: Scalable Certification of Perturbation Invariance for Deep Neural Networks NIPS code 16
Coded Sparse Matrix Multiplication ICML code 16
Weakly-Supervised Action Segmentation With Iterative Soft Boundary Assignment CVPR code 16
Recovering 3D Planes from a Single Image via Convolutional Neural Networks ECCV code 16
SegStereo: Exploiting Semantic Information for Disparity Estimation ECCV code 16
Functional Gradient Boosting based on Residual Network Perception ICML code 16
NAG: Network for Adversary Generation CVPR code 16
Generative Probabilistic Novelty Detection with Adversarial Autoencoders NIPS code 16
Hashing as Tie-Aware Learning to Rank CVPR code 15
Pose Proposal Networks ECCV code 15
Convolutional Sequence to Sequence Model for Human Dynamics CVPR code 15
Joint Pose and Expression Modeling for Facial Expression Recognition CVPR code 15
Grounding Referring Expressions in Images by Variational Context CVPR code 15
Rethinking the Form of Latent States in Image Captioning ECCV code 15
Open Set Domain Adaptation by Backpropagation ECCV code 15
Neural Sign Language Translation CVPR code 15
SpiderCNN: Deep Learning on Point Sets with Parameterized Convolutional Filters ECCV code 15
Efficient Neural Audio Synthesis ICML code 15
Deep Learning Under Privileged Information Using Heteroscedastic Dropout CVPR code 14
Image Transformer ICML code 14
Learning to Understand Image Blur CVPR code 14
Learning and Using the Arrow of Time CVPR code 14
Action Sets: Weakly Supervised Action Segmentation Without Ordering Constraints CVPR code 14
Learning to Forecast and Refine Residual Motion for Image-to-Video Generation ECCV code 14
Multi-Scale Weighted Nuclear Norm Image Restoration CVPR code 14
Synthesizing Robust Adversarial Examples ICML code 13
Fine-Grained Visual Categorization using Meta-Learning Optimization with Sample Selection of Auxiliary Data ECCV code 13
Assessing Generative Models via Precision and Recall NIPS code 13
Deep Diffeomorphic Transformer Networks CVPR code 13
Learning by Asking Questions CVPR code 13
Towards Human-Machine Cooperation: Self-Supervised Sample Mining for Object Detection CVPR code 13
Variational Autoencoders for Deforming 3D Mesh Models CVPR code 13
Min-Entropy Latent Model for Weakly Supervised Object Detection CVPR code 13
Bottom-Up and Top-Down Attention for Image Captioning and Visual Question Answering CVPR code 13
Gradient-Based Meta-Learning with Learned Layerwise Metric and Subspace ICML code 13
Learning a Discriminative Filter Bank Within a CNN for Fine-Grained Recognition CVPR code 13
Finding Influential Training Samples for Gradient Boosted Decision Trees ICML code 13
Gesture Recognition: Focus on the Hands CVPR code 12
Cross-View Image Synthesis Using Conditional GANs CVPR code 12
Joint Optimization Framework for Learning With Noisy Labels CVPR code 12
Future Person Localization in First-Person Videos CVPR code 12
AutoLoc: Weakly-supervised Temporal Action Localization in Untrimmed Videos ECCV code 12
Learning Transferable Architectures for Scalable Image Recognition CVPR code 12
Clipped Action Policy Gradient ICML code 12
Mix and Match Networks: Encoder-Decoder Alignment for Zero-Pair Image Translation CVPR code 12
Decouple Learning for Parameterized Image Operators ECCV code 12
Generalized Earley Parser: Bridging Symbolic Grammars and Sequence Data for Future Prediction ICML code 12
Adaptive Skip Intervals: Temporal Abstraction for Recurrent Dynamical Models NIPS code 12
AMNet: Memorability Estimation With Attention CVPR code 12
Adversarial Time-to-Event Modeling ICML code 12
Reversible Recurrent Neural Networks NIPS code 12
Human Pose Estimation With Parsing Induced Learner CVPR code 11
ShapeStacks: Learning Vision-Based Physical Intuition for Generalised Object Stacking ECCV code 11
A Joint Sequence Fusion Model for Video Question Answering and Retrieval ECCV code 11
Learning Face Age Progression: A Pyramid Architecture of GANs CVPR code 11
Robust Physical-World Attacks on Deep Learning Visual Classification CVPR code 11
High-Quality Prediction Intervals for Deep Learning: A Distribution-Free, Ensembled Approach ICML code 11
Meta-Learning by Adjusting Priors Based on Extended PAC-Bayes Theory ICML code 11
Multimodal Explanations: Justifying Decisions and Pointing to the Evidence CVPR code 11
Accelerating Natural Gradient with Higher-Order Invariance ICML code 11
Hierarchical Multi-Label Classification Networks ICML code 11
Convolutional Image Captioning CVPR code 11
Boosting Domain Adaptation by Discovering Latent Domains CVPR code 11
Logo Synthesis and Manipulation With Clustered Generative Adversarial Networks CVPR code 10
PacGAN: The power of two samples in generative adversarial networks NIPS code 10
Attention Clusters: Purely Attention Based Local Feature Integration for Video Classification CVPR code 10
End-to-End Incremental Learning ECCV code 10
Multi-Oriented Scene Text Detection via Corner Localization and Region Segmentation CVPR code 10
On GANs and GMMs NIPS code 10
Salient Object Detection Driven by Fixation Prediction CVPR code 9
Semantic Video Segmentation by Gated Recurrent Flow Propagation CVPR code 9
Constraint-Aware Deep Neural Network Compression ECCV code 9
Statistically-motivated Second-order Pooling ECCV code 9
Excitation Backprop for RNNs CVPR code 9
Analyzing Uncertainty in Neural Machine Translation ICML code 9
Learning Dynamics of Linear Denoising Autoencoders ICML code 9
Saliency Detection in 360° Videos ECCV code 9
Density Adaptive Point Set Registration CVPR code 9
Decoupled Parallel Backpropagation with Convergence Guarantee ICML code 9
Classification from Pairwise Similarity and Unlabeled Data ICML code 9
oi-VAE: Output Interpretable VAEs for Nonlinear Group Factor Analysis ICML code 9
Modeling Sparse Deviations for Compressed Sensing using Generative Models ICML code 9
Pixels, Voxels, and Views: A Study of Shape Representations for Single View 3D Object Shape Prediction CVPR code 9
Towards Open-Set Identity Preserving Face Synthesis CVPR code 9
Five-Point Fundamental Matrix Estimation for Uncalibrated Cameras CVPR code 8
BourGAN: Generative Networks with Metric Embeddings NIPS code 8
Fast Information-theoretic Bayesian Optimisation ICML code 8
Deep Variational Reinforcement Learning for POMDPs ICML code 8
Specular-to-Diffuse Translation for Multi-View Reconstruction ECCV code 8
Dynamic Conditional Networks for Few-Shot Learning ECCV code 8
Learning Facial Action Units From Web Images With Scalable Weakly Supervised Clustering CVPR code 8
High-Resolution Image Synthesis and Semantic Manipulation With Conditional GANs CVPR code 8
Deep Defense: Training DNNs with Improved Adversarial Robustness NIPS code 8
Learning K-way D-dimensional Discrete Codes for Compact Embedding Representations ICML code 8
Light Structure from Pin Motion: Simple and Accurate Point Light Calibration for Physics-based Modeling ECCV code 7
Non-metric Similarity Graphs for Maximum Inner Product Search NIPS code 7
Towards Realistic Predictors ECCV code 7
Deep Non-Blind Deconvolution via Generalized Low-Rank Approximation NIPS code 7
Don’t Just Assume Look and Answer: Overcoming Priors for Visual Question Answering CVPR code 7
Learning Dual Convolutional Neural Networks for Low-Level Vision CVPR code 7
The Mirage of Action-Dependent Baselines in Reinforcement Learning ICML code 7
DVQA: Understanding Data Visualizations via Question Answering CVPR code 7
A Two-Step Disentanglement Method CVPR code 7
Detecting and Correcting for Label Shift with Black Box Predictors ICML code 7
Conditional Prior Networks for Optical Flow ECCV code 7
Generative Adversarial Learning Towards Fast Weakly Supervised Detection CVPR code 7
Adversarial Learning with Local Coordinate Coding ICML code 7
Stochastic Downsampling for Cost-Adjustable Inference and Improved Regularization in Convolutional Networks CVPR code 7
AttnGAN: Fine-Grained Text to Image Generation With Attentional Generative Adversarial Networks CVPR code 7
Learning to Explain: An Information-Theoretic Perspective on Model Interpretation ICML code 7
Banach Wasserstein GAN NIPS code 7
Gradually Updated Neural Networks for Large-Scale Image Recognition ICML code 7
Learning Steady-States of Iterative Algorithms over Graphs ICML code 7
Progressive Attention Guided Recurrent Network for Salient Object Detection CVPR code 7
Zoom and Learn: Generalizing Deep Stereo Matching to Novel Domains CVPR code 6
Unsupervised holistic image generation from key local patches ECCV code 6
Inner Space Preserving Generative Pose Machine ECCV code 6
Bilevel Programming for Hyperparameter Optimization and Meta-Learning ICML code 6
Optical Flow Guided Feature: A Fast and Robust Motion Representation for Video Action Recognition CVPR code 6
Breaking the Activation Function Bottleneck through Adaptive Parameterization NIPS code 6
Ultra Large-Scale Feature Selection using Count-Sketches ICML code 6
Dynamic Scene Deblurring Using Spatially Variant Recurrent Neural Networks CVPR code 6
Orthogonally Decoupled Variational Gaussian Processes NIPS code 6
Batch Bayesian Optimization via Multi-objective Acquisition Ensemble for Automated Analog Circuit Design ICML code 6
A Modulation Module for Multi-task Learning with Applications in Image Retrieval ECCV code 6
A Memory Network Approach for Story-Based Temporal Summarization of 360° Videos CVPR code 6
Towards Effective Low-Bitwidth Convolutional Neural Networks CVPR code 5
Disentangling Factors of Variation by Mixing Them CVPR code 5
Weakly-supervised Video Summarization using Variational Encoder-Decoder and Web Prior ECCV code 5
Learning Longer-term Dependencies in RNNs with Auxiliary Losses ICML code 5
Contour Knowledge Transfer for Salient Object Detection ECCV code 5
HybridNet: Classification and Reconstruction Cooperation for Semi-Supervised Learning ECCV code 5
Sidekick Policy Learning for Active Visual Exploration ECCV code 5
Learning to Localize Sound Source in Visual Scenes CVPR code 5
Neural Architecture Optimization NIPS code 5
COLA: Decentralized Linear Learning NIPS code 5
Diverse and Coherent Paragraph Generation from Images ECCV code 5
DRACO: Byzantine-resilient Distributed Training via Redundant Gradients ICML code 5
Inter and Intra Topic Structure Learning with Word Embeddings ICML code 5
Estimating the Success of Unsupervised Image to Image Translation ECCV code 5
Dynamic-Structured Semantic Propagation Network CVPR code 5
The Description Length of Deep Learning models NIPS code 5
Stereo Vision-based Semantic 3D Object and Ego-motion Tracking for Autonomous Driving ECCV code 5
Blind Justice: Fairness with Encrypted Sensitive Attributes ICML code 5
Transfer Learning via Learning to Transfer ICML code 5
Deepcode: Feedback Codes via Deep Learning NIPS code 4
Configurable Markov Decision Processes ICML code 4
A Framework for Evaluating 6-DOF Object Trackers ECCV code 4
Differentially Private Database Release via Kernel Mean Embeddings ICML code 4
Recognizing Human Actions as the Evolution of Pose Estimation Maps CVPR code 4
Connecting Pixels to Privacy and Utility: Automatic Redaction of Private Information in Images CVPR code 4
DeLS-3D: Deep Localization and Segmentation With a 3D Semantic Map CVPR code 4
Geolocation Estimation of Photos using a Hierarchical Model and Scene Classification ECCV code 4
Tracking Emerges by Colorizing Videos ECCV code 4
Diverse Conditional Image Generation by Stochastic Regression with Latent Drop-Out Codes ECCV code 4
Inference Suboptimality in Variational Autoencoders ICML code 4
Black Box FDR ICML code 4
Feedback-Prop: Convolutional Neural Network Inference Under Partial Evidence CVPR code 4
Quadrature-based features for kernel approximation NIPS code 4
Joint Representation and Truncated Inference Learning for Correlation Filter based Tracking ECCV code 4
Transferable Adversarial Perturbations ECCV code 4
Single Image Water Hazard Detection using FCN with Reflection Attention Units ECCV code 4
Multimodal Generative Models for Scalable Weakly-Supervised Learning NIPS code 4
Importance Weighted Transfer of Samples in Reinforcement Learning ICML code 3
Feature Generating Networks for Zero-Shot Learning CVPR code 3
DICOD: Distributed Convolutional Coordinate Descent for Convolutional Sparse Coding ICML code 3
CapProNet: Deep Feature Learning via Orthogonal Projections onto Capsule Subspaces NIPS code 3
Bidirectional Retrieval Made Simple CVPR code 3
Multilingual Anchoring: Interactive Topic Modeling and Alignment Across Languages NIPS code 3
A Hybrid l1-l0 Layer Decomposition Model for Tone Mapping CVPR code 3
Spatially-Adaptive Filter Units for Deep Neural Networks CVPR code 3
Learning to Branch ICML code 3
Explanations based on the Missing: Towards Contrastive Explanations with Pertinent Negatives NIPS code 3
Lifelong Learning via Progressive Distillation and Retrospection ECCV code 3
CLEAR: Cumulative LEARning for One-Shot One-Class Image Recognition CVPR code 3
Not to Cry Wolf: Distantly Supervised Multitask Learning in Critical Care ICML code 3
Learning Answer Embeddings for Visual Question Answering CVPR code 3
Information Constraints on Auto-Encoding Variational Bayes NIPS code 3
Parallel Bayesian Network Structure Learning ICML code 3
Ring Loss: Convex Feature Normalization for Face Recognition CVPR code 3
Teaching Categories to Human Learners With Visual Explanations CVPR code 3
Stabilizing Gradients for Deep Neural Networks via Efficient SVD Parameterization ICML code 3
Deep Burst Denoising ECCV code 3
Convergent Tree Backup and Retrace with Function Approximation ICML code 3
Gaze Prediction in Dynamic 360° Immersive Videos CVPR code 3
Statistical Recurrent Models on Manifold valued Data NIPS code 3
End-to-End Flow Correlation Tracking With Spatial-Temporal Attention CVPR code 3
2018-04-11 22:21:49 XYlittlework 阅读数 25662
  • 神经元

    深刻理解深度学习原理 掌握深度神经网络的Python代码实现方法

    13人学习 白勇
    免费试看

· 转载请注明出处网址~

· 交流讨论、合作咨询请添加微信:yx_imagination

------------------------------------------------分割线-----------------------------------------------

 

本文讲解计算机如何处理图像进行分类的,这里我们以CNN(卷积神经网络)对汪汪图片进行分类为例!

1:问题空间

 

                     

图像分类是对输入图像的操作,最终输出一组最好地描述了图像内容的分类(如猫、狗等)或分类的概率。对人类来说,识别是打出生便开始学习的技能之一,对成人来说更是信手拈来,毫不费力。我们只需一眼便能快速识别我们所处的环境以及环绕在我们身边的物体。当我们看到一张图片或是环看四周的时候,无需刻意观察,多数时候也能立即描述出场景特征并标记出每一个对象。快速识别不同模式、根据早前知识进行归纳、以及适应不同的图像环境一直都是人类的专属技能,机器尚未享有。

2:输入与输出

当计算机看到一张图像(输入一张图像)时,它看的是一大堆像素值。根据图片的分辨率和尺寸,它将看到一个 32 x 32 x 3 的数组(3 指代的是 RGB 值)。为了讲清楚这一点,假设我们有一张 JPG 格式的 480 x 480 大小的彩色图片,那么它对应的数组就有 480 x 480 x 3 个元素。其中每个数字的值从 0 到 255 不等,其描述了对应那一点的像素灰度。当我们人类对图像进行分类时,这些数字毫无用处,可它们却是计算机可获得的唯一输入。其中的思想是:当你提供给计算机这一数组后,它将输出描述该图像属于某一特定分类的概率的数字(比如:80% 是猫、15% 是狗、5% 是鸟)。

3:我们想要计算机做什么

 

现在我们知道了问题所在以及输入与输出,就该考虑如何处理了。我们想要计算机能够区分开所有提供给它的图片,以及搞清楚猫猫狗狗各自的特有特征。这也是我们人类的大脑中不自觉进行着的过程。当我们看到一幅狗的图片时,如果有诸如爪子或四条腿之类的明显特征,我们便能将它归类为狗。同样地,计算机也可以通过寻找诸如边缘和曲线之类的低级特点来分类图片,继而通过一系列卷积层级建构出更为抽象的概念。这是 CNN(卷积神经网络)工作方式的大体概述,下面是具体细节。

4:生物学联系

 

首先介绍些背景。当你第一次听到卷积神经网络这一术语,可能会联想到神经科学或生物学,那就对了。可以这样说。CNN 的确是从视觉皮层的生物学上获得启发的。视觉皮层有小部分细胞对特定部分的视觉区域敏感。Hubel 和 Wiesel 于 1962 年进行的一项有趣的试验详细说明了这一观点,他们验证出大脑中的一些个体神经细胞只有在特定方向的边缘存在时才能做出反应(即放电)。例如,一些神经元只对垂直边缘兴奋,另一些对水平或对角边缘兴奋。Hubel 和 Wisesl 发现所有这些神经元都以柱状结构的形式进行排列,而且一起工作才能产生视觉感知。这种一个系统中的特定组件有特定任务的观点(视觉皮层的神经元细胞寻找特定特征)在机器中同样适用,这就是 CNN 的基础。

5:结构

 

回到细节上来。更为详细的 CNN 工作概述指的是你挑一张图像,让它历经一系列卷积层、非线性层、池化(下采样(downsampling))层和完全连接层,最终得到输出。正如之前所说,输出可以是最好地描述了图像内容的一个单独分类或一组分类的概率。如今,难点在于理解其中每一层的工作方法。我们先来看最重要的部分。

6.1:第一层——数学部分

 

CNN 的第一层通常是卷积层(Convolutional Layer)。首先需要了解卷积层的输入内容是什么。如上所述,输入内容为一个 32 x 32 x 3 的像素值数组。现在,解释卷积层的最佳方法是想象有一束手电筒光正从图像的左上角照过。假设手电筒光可以覆盖 5 x 5 的区域,想象一下手电筒光照过输入图像的所有区域。在机器学习术语中,这束手电筒被叫做过滤器(filter,有时候也被称为神经元(neuron)或核(kernel)),被照过的区域被称为感受野(receptive field)。过滤器同样也是一个数组(其中的数字被称作权重或参数)。重点在于过滤器的深度必须与输入内容的深度相同(这样才能确保可以进行数学运算),因此过滤器大小为 5 x 5 x 3。现在,以过滤器所处在的第一个位置为例,即图像的左上角。当筛选值在图像上滑动(卷积运算)时,过滤器中的值会与图像中的原始像素值相乘(又称为计算点积)。这些乘积被加在一起(从数学上来说,一共会有 75 个乘积)。现在你得到了一个数字。切记,该数字只是表示过滤器位于图片左上角的情况。我们在输入内容上的每一位置重复该过程。(下一步将是将过滤器右移 1 单元,接着再右移 1 单元,以此类推。)输入内容上的每一特定位置都会产生一个数字。过滤器滑过所有位置后将得到一个 28 x 28 x 1 的数组,我们称之为激活映射(activation map)或特征映射(feature map)。之所以得到一个 28 x 28 的数组的原因在于,在一张 32 x 32 的输入图像上,5 x 5 的过滤器能够覆盖到 784 个不同的位置。这 784 个位置可映射为一个 28 x 28 的数组。

当我们使用两个而不是一个 5 x 5 x 3 的过滤器时,输出总量将会变成 28 x 28 x 2。采用的过滤器越多,空间维度( spatial dimensions)保留得也就越好。数学上而言,这就是卷积层上发生的事情。

6.2:第一层——高层次点的角度

不过,从高层次角度而言卷积是如何工作的?

每个过滤器可以被看成是特征标识符( feature identifiers)。这里的特征指的是例如直边缘、原色、曲线之类的东西。想一想所有图像都共有的一些最简单的特征。假设第一组过滤器是 7 x 7 x 3 的曲线检测器。(在这一节,为了易于分析,暂且忽略该过滤器的深度为 3 个单元,只考虑过滤器和图像的顶层层面。)作为曲线过滤器,它将有一个像素结构,在曲线形状旁时会产生更高的数值(切记,我们所讨论的过滤器不过是一组数值!)图中,左图表示过滤器的像素表示,右图表示曲线检测器的过滤器的可视化,对比两图可以看到数值和形状的对应。

回到数学角度来看这一过程。当我们将过滤器置于输入内容的左上角时,它将计算过滤器和这一区域像素值之间的点积。拿一张需要分类的照片为例,将过滤器放在它的左上角。

切记,我们要做的是将过滤器与图像的原始像素值相乘。

上图中,左边的图表示感受野的可视化,右图表示感受野的像素表示*过滤器的像素表示。

简单来说,如果输入图像上某个形状看起来很像过滤器表示的曲线,那么所有点积加在一起将会得出一个很大的值!让我们看看移动过滤器时会发生什么。

 

这个值小了很多!这是因为图像的这一部分和曲线检测器过滤器不存在对应。记住,这个卷积层的输出是一个激活映射(activation map)。因此,在这个带有一个过滤器卷积的例子里(当筛选值为曲线检测器),激活映射将会显示出图像里最像曲线的区域。在该例子中,28 x 28 x 1 的激活映射的左上角的值为 6600。高数值意味着很有可能是输入内容中的曲线激活了过滤器。激活地图右上角的值将会是 0,因为输入内容中没有任何东西能激活过滤器(更简单地说,原始图片中的这一区域没有任何曲线)。这仅仅是一组检测右弯曲线的过滤器。还有其它检测左弯曲线或直线边缘的过滤器。过滤器越多,激活映射的深度越大,我们对输入内容的了解也就越多。

我在本小节中描绘的过滤器(filter)只是为了描述卷积中的数学过程。在下图中你可以看到训练后的网络中第一个卷积层的过滤器的实际可视化。尽管如此,主要观点仍旧不变。当在输入内容中寻找特定特征时,第一层上的过滤器在输入图像上进行卷积运算和「激活」(即计算高数值)。

7:网络中的更深处

在传统卷积神经网络架构中,卷积层之间还有其它类型的层。我强烈建议有兴趣的人阅读和它们有关的材料,并理解相应的功能和作用;但总的来说,它们提供的非线性和维度保留有助于提高网络的稳健性(robustness)并控制过拟合。一个典型的 CNN 结构看起来是这样的:

即:输入-卷积-ReLU-卷积-ReLU-池化-ReLU-卷积-ReLU-池化-全连接

 

我们稍后再来讨论关键的最后一层,先回顾一下学到了哪些。我们讨论了过滤器是如何在第一个卷积层检测特征的。它们检测边缘和曲线一类的低级特征。正如想象的那样,为了预测出图片内容的分类,网络需要识别更高级的特征,例如手、爪子与耳朵的区别。第一个卷积层的输出将会是一个 28 x 28 x 3 的数组(假设我们采用三个 5 x 5 x 3 的过滤器)。当我们进入另一卷积层时,第一个卷积层的输出便是第二个卷积层的输入。解释这一点有些困难。第一层的输入是原始图像,而第二卷积层的输入正是第一层输出的激活映射。也就是说,这一层的输入大体描绘了低级特征在原始图片中的位置。在此基础上再采用一组过滤器(让它通过第 2 个卷积层),输出将是表示了更高级的特征的激活映射。这类特征可以是半圆(曲线和直线的组合)或四边形(几条直线的组合)。随着进入网络越深和经过更多卷积层后,你将得到更为复杂特征的激活映射。在网络的最后,可能会有一些过滤器会在看到手写笔迹或粉红物体等时激活。有趣的是,越深入网络,过滤器的感受野越大,意味着它们能够处理更大范围的原始输入内容(或者说它们可以对更大区域的像素空间产生反应)。

8:完全连接层

 

检测高级特征之后,网络最后的完全连接层就更是锦上添花了。简单地说,这一层处理输入内容(该输入可能是卷积层、ReLU 层或是池化层的输出)后会输出一个 N 维向量,N 是该程序必须选择的分类数量。例如,如果你想得到一个数字分类程序,如果有 10 个数字,N 就等于 10。这个 N 维向量中的每一数字都代表某一特定类别的概率。例如,如果某一数字分类程序的结果矢量是 [0 .1 .1 .75 0 0 0 0 0 .05],则代表该图片有 10% 的概率是 1、10% 的概率是 2、75% 的概率是 3、还有 5% 的概率是 9(注:还有其他表现输出的方式,这里只展示了 softmax 的方法)。完全连接层观察上一层的输出(其表示了更高级特征的激活映射)并确定这些特征与哪一分类最为吻合。例如,如果该程序预测某一图像的内容为狗,那么激活映射中的高数值便会代表一些爪子或四条腿之类的高级特征。同样地,如果程序测定某一图片的内容为鸟,激活映射中的高数值便会代表诸如翅膀或鸟喙之类的高级特征。大体上来说,完全连接层观察高级特征和哪一分类最为吻合和拥有怎样的特定权重,因此当计算出权重与先前层之间的点积后,你将得到不同分类的正确概率。

9:训练

 

下面是神经网络中的一个我尚未提及但却最为重要的部分。阅读过程中你可能会提出许多问题。第一卷积层中的滤波器是如何知道寻找边缘与曲线的?完全连接层怎么知道观察哪些激活图?每一层级的滤波器如何知道需要哪些值?计算机通过一个名为反向传播的训练过程来调整过滤器值(或权重)。

在探讨反向传播之前,我们首先必须回顾一下神经网络工作起来需要什么。在我们刚出生的时候,大脑一无所知。我们不晓得猫啊狗啊鸟啊都是些什么东西。与之类似的是 CNN 刚开始的时候,权重或过滤器值都是随机的。滤波器不知道要去寻找边缘和曲线。更高层的过滤器值也不知道要去寻找爪子和鸟喙。不过随着年岁的增长,父母和老师向我们介绍各式各样的图片并且一一作出标记。CNN 经历的便是一个介绍图片与分类标记的训练过程。在深入探讨之前,先设定一个训练集,在这里有上千张狗、猫、鸟的图片,每一张都依照内容被标记。下面回到反向传播的问题上来。

反向传播可分为四部分,分别是前向传导、损失函数、后向传导,以及权重更新。在前向传导中,选择一张 32×32×3 的数组训练图像并让它通过整个网络。在第一个训练样例上,由于所有的权重或者过滤器值都是随机初始化的,输出可能会是 [.1 .1 .1 .1 .1 .1 .1 .1 .1 .1],即一个不偏向任何数字的输出。一个有着这样权重的网络无法寻找低级特征,或者说是不能做出任何合理的分类。接下来是反向传播的损失函数部分。切记我们现在使用的是既有图像又有标记的训练数据。假设输入的第一张训练图片为 3,标签将会是 [0 0 0 1 0 0 0 0 0 0]。损失函数有许多种定义方法,常见的一种是 MSE (均方误差)。

 

假设变量 L 等同该数值。正如所料,前两张训练图片的损失将会极高。现在,我们直观地想一下。我们想要预测标记(卷积网络的输出)与训练标记相同(意味着网络预测正确)。为了做到这一点,我们想要将损失数量最小化。将其视为微积分优化问题的话,也就是说我们想要找出是哪部分输入(例子中的权重)直接导致了网络的损失(或错误)。

 

这是一个 dL/dW 的数学等式,W 是特定层级的权重。我们接下来要做的是在网络中进行后向传导,测定出是哪部分权重导致了最大的损失,寻找调整方法并减少损失。一旦计算出该导数,将进行最后一步也就是权重更新。所有的过滤器的权重将会更新,以便它们顺着梯度方向改变。

学习速率是一个由程序员决定的参数。高学习速率意味着权重更新的动作更大,因此可能该模式将花费更少的时间收敛到最优权重。然而,学习速率过高会导致跳动过大,不够准确以致于达不到最优点。

总的来说,前向传导、损失函数、后向传导、以及参数更新被称为一个学习周期。对每一训练图片,程序将重复固定数目的周期过程。一旦完成了最后训练样本上的参数更新,网络有望得到足够好的训练,以便层级中的权重得到正确调整。

10:测试

最后,为了检验 CNN 能否工作,我们准备不同的另一组图片与标记集(不能在训练和测试中使用相同的!)并让它们通过这个 CNN。我们将输出与实际情况(ground truth )相比较,看看网络是否有效!

11:CNN中的步幅和填充

 

好了,现在来看一下我们的卷积神经网络。还记得过滤器、感受野和卷积吗?很好。现在,要改变每一层的行为,有两个主要参数是我们可以调整的。选择了过滤器的尺寸以后,我们还需要选择步幅(stride)和填充(padding)。

步幅控制着过滤器围绕输入内容进行卷积计算的方式。在第一部分我们举的例子中,过滤器通过每次移动一个单元的方式对输入内容进行卷积。过滤器移动的距离就是步幅。在那个例子中,步幅被默认设置为1。步幅的设置通常要确保输出内容是一个整数而非分数。让我们看一个例子。想象一个 7 x 7 的输入图像,一个 3 x 3 过滤器(简单起见不考虑第三个维度),步幅为 1。这是一种惯常的情况。

还是老一套,对吧?看你能不能试着猜出如果步幅增加到 2,输出内容会怎么样。

 

所以,正如你能想到的,感受野移动了两个单元,输出内容同样也会减小。注意,如果试图把我们的步幅设置成 3,那我们就会难以调节间距并确保感受野与输入图像匹配。正常情况下,程序员如果想让接受域重叠得更少并且想要更小的空间维度(spatial dimensions)时,他们会增加步幅。

现在让我们看一下填充(padding)。在此之前,想象一个场景:当你把 5 x 5 x 3 的过滤器用在 32 x 32 x 3 的输入上时,会发生什么?输出的大小会是 28 x 28 x 3。注意,这里空间维度减小了。如果我们继续用卷积层,尺寸减小的速度就会超过我们的期望。在网络的早期层中,我们想要尽可能多地保留原始输入内容的信息,这样我们就能提取出那些低层的特征。比如说我们想要应用同样的卷积层,但又想让输出量维持为 32 x 32 x 3 。为做到这点,我们可以对这个层应用大小为 2 的零填充(zero padding)。零填充在输入内容的边界周围补充零。如果我们用两个零填充,就会得到一个 36 x 36 x 3 的输入卷。

如果我们在输入内容的周围应用两次零填充,那么输入量就为 32×32×3。然后,当我们应用带有 3 个 5×5×3 的过滤器,以 1 的步幅进行处理时,我们也可以得到一个 32×32×3 的输出。

如果你的步幅为 1,而且把零填充设置为

K 是过滤器尺寸,那么输入和输出内容就总能保持一致的空间维度。

计算任意给定卷积层的输出的大小的公式是

其中 O 是输出尺寸,K 是过滤器尺寸,P 是填充,S 是步幅。

12:选择超参数

 

我们怎么知道要用多少层、多少卷积层、过滤器尺寸是多少、以及步幅和填充值多大呢?这些问题很重要,但又没有一个所有研究人员都在使用的固定标准。这是因为神经网络很大程度上取决于你的数据类型。图像的大小、复杂度、图像处理任务的类型以及其他更多特征的不同都会造成数据的不同。对于你的数据集,想出如何选择超参数的一个方法是找到能创造出图像在合适尺度上抽象的正确组合。

13:ReLU(修正线性单元)层

 

在每个卷积层之后,通常会立即应用一个非线性层(或激活层)。其目的是给一个在卷积层中刚经过线性计算操作(只是数组元素依次(element wise)相乘与求和)的系统引入非线性特征。过去,人们用的是像双曲正切和 S 型函数这样的非线性方程,但研究者发现 ReLU 层效果好得多,因为神经网络能够在准确度不发生明显改变的情况下把训练速度提高很多(由于计算效率增加)。它同样能帮助减轻梯度消失的问题——由于梯度以指数方式在层中消失,导致网络较底层的训练速度非常慢。ReLU 层对输入内容的所有值都应用了函数 f(x) = max(0, x)。用基本术语来说,这一层把所有的负激活(negative activation)都变为零。这一层会增加模型乃至整个神经网络的非线性特征,而且不会影响卷积层的感受野。

14:池化层

 

在几个 ReLU 层之后,程序员也许会选择用一个池化层(pooling layer)。它同时也被叫做下采样(downsampling)层。在这个类别中,也有几种可供选择的层,最受欢迎的就是最大池化( max-pooling)。它基本上采用了一个过滤器(通常是 2x2 的)和一个同样长度的步幅。然后把它应用到输入内容上,输出过滤器卷积计算的每个子区域中的最大数字。

池化层还有其他选择,比如平均池化(average pooling)和 L2-norm 池化 。这一层背后的直观推理是:一旦我们知道了原始输入(这里会有一个高激活值)中一个特定的特征,它与其它特征的相对位置就比它的绝对位置更重要。可想而知,这一层大幅减小了输入卷的空间维度(长度和宽度改变了,但深度没变)。这到达了两个主要目的。第一个是权重参数的数目减少到了75%,因此降低了计算成本。第二是它可以控制过拟合(overfitting)。这个术语是指一个模型与训练样本太过匹配了,以至于用于验证和检测组时无法产生出好的结果。出现过拟合的表现是一个模型在训练集能达到 100% 或 99% 的准确度,而在测试数据上却只有50%。

15:Dropout层

 

如今,Dropout 层在神经网络有了非常明确的功能。上一节,我们讨论了经过训练后的过拟合问题:训练之后,神经网络的权重与训练样本太过匹配以至于在处理新样本的时候表现平平。Dropout 的概念在本质上非常简单。Dropout 层将「丢弃(drop out)」该层中一个随机的激活参数集,即在前向通过(forward pass)中将这些激活参数集设置为 0。简单如斯。既然如此,这些简单而且似乎不必要且有些反常的过程的好处是什么?在某种程度上,这种机制强制网络变得更加冗余。这里的意思是:该网络将能够为特定的样本提供合适的分类或输出,即使一些激活参数被丢弃。此机制将保证神经网络不会对训练样本「过于匹配」,这将帮助缓解过拟合问题。另外,Dropout 层只能在训练中使用,而不能用于测试过程,这是很重要的一点

16:网络层中的网络

 

网络层中的网络指的是一个使用了 1 x 1 尺寸的过滤器的卷积层。现在,匆匆一瞥,你或许会好奇为何这种感受野大于它们所映射空间的网络层竟然会有帮助。然而,我们必须谨记 1x1 的卷积层跨越了特定深度,所以我们可以设想一个1 x 1 x N 的卷积层,此处 N 代表该层应用的过滤器数量。该层有效地使用 N 维数组元素依次相乘的乘法,此时 N 代表的是该层的输入的深度。

17:分类、定位、检测、分割

本系列第一部分使用的案例中,我们观察了图像分类任务。这个过程是:获取输入图片,输出一套分类的类数(class number)。然而当我们执行类似目标定位的任务时,我们要做的不只是生成一个类标签,而是生成一个描述图片中物体suo所在位置的边界框。

 

我们也有目标检测的任务,这需要图片上所有目标的定位任务都已完成。因此,你将获得多个边界框和多个类标签。最终,我们将执行目标分割的任务:我们需要输出类标签的同时输出图片中每个目标的轮廓,如下图。

18:CNN之迁移学习

 

如今,深度学习领域一个常见的误解在于没有谷歌那样的巨量数据,你将没有希望创建一个有效的深度学习模型。尽管数据是创建网络中至关重要的部分,迁移学习的思路将帮助我们降低数据需求。迁移学习指的是利用预训练模型(神经网络的权重和参数都已经被其他人利用更大规模的数据集训练好了)并用自己的数据集将模型「微调」的过程。这种思路中预训练模型扮演着特征提取器的角色。你将移除网络的最后一层并用你自有的分类器置换(取决于你的问题空间)。然后冻结其他所有层的权重并正常训练该网络(冻结这些层意味着在梯度下降/最优化过程中保持权值不变)。

让我们探讨一下为什么做这项工作。比如说我们正在讨论的这个预训练模型是在 ImageNet (一个包含一千多个分类,一千四百万张图像的数据集)上训练的 。当我们思考神经网络的较低层时,我们知道它们将检测类似曲线和边缘这样的特征。现在,除非你有一个极为独特的问题空间和数据集,你的神经网络也会检测曲线和边缘这些特征。相比通过随机初始化权重训练整个网络,我们可以利用预训练模型的权重(并冻结)聚焦于更重要的层(更高层)进行训练。如果你的数据集不同于 ImageNet 这样的数据集,你必须训练更多的层级而只冻结一些低层的网络。

19:数据增强

 

现在我们对卷积网络中数据的重要性可能已经感到有些麻木了,所以我们来谈下如何利用一些简单的转换方法将你现有的数据集变得更大。正如我们之前所提及的,当计算机将图片当作输入时,它将用一个包含一列像素值的数组描述这幅图。若是图片左移一个像素。对你和我来说,这种变化是微不可察的。然而对计算机而已,这种变化非常显著:这幅图的类别和标签保持不变,数组却变化了。这种改变训练数据的数组表征而保持标签不变的方法被称作数据增强技术。这是一种人工扩展数据集的方法。人们经常使用的增强方法包括灰度变化、水平翻转、垂直翻转、随机编组、色值跳变、翻译、旋转等其他多种方法。通过利用这些训练数据的转换方法,你将获得两倍甚至三倍于原数据的训练样本。