2018-11-20 21:25:47 qq_25937723 阅读数 790
  • 数字成像系统

    数字成像系统暨Image signal processor原理培训,涵盖成像系统基础5讲:1. 数字成像系统介绍2. CMOS image sensor基础3. 镜头光学基础4. 颜色科学基础5. ISP 信号处理基础,以及ISP各模块:6.黑电平与线性化7.Green Imbalance8:9.坏点消除等21讲,3A技术以及图像质量评价与调校6讲

    7792 人正在学习 去看看 姜卓

毕业第一份工作,ISP图像工程师,希望与志同道合的朋友们一起学习!

这个岗位需要三方面能力,算法能力、硬件知识和编程能力。

基础:图像处理算法;图像传感器相关知识;Linux系统下C语言编程。

书籍推荐:

1.冈萨雷斯《数字图像处理》第三版

2.张峥《数字图像处理与机器视觉》

3.王庆有《图像传感器应用技术》

4.刘文耀《光电图像处理》

5.鸟哥的Linux私房菜

后续的博客基本会是对这些书籍学习的笔记与自己的理解。

 

2019-02-19 17:32:00 weixin_33782386 阅读数 176
  • 数字成像系统

    数字成像系统暨Image signal processor原理培训,涵盖成像系统基础5讲:1. 数字成像系统介绍2. CMOS image sensor基础3. 镜头光学基础4. 颜色科学基础5. ISP 信号处理基础,以及ISP各模块:6.黑电平与线性化7.Green Imbalance8:9.坏点消除等21讲,3A技术以及图像质量评价与调校6讲

    7792 人正在学习 去看看 姜卓

人眼是性能优良的成像系统,数字成像系统就是模仿人眼,将自然界的中光信号转换成电信号,

然后将模拟电信号转换成数字信号的过程。camera就是典型数字成像系统,典型的成像系统如下图:

 image 

camera是典型数字成像系统,要对camera有深入的了解,大概需要掌握以下几方面的知识:

  • 光学
  • 颜色科学
  • CMOS/CCD image sensor
  • ISP 数字图像处理

转载于:https://www.cnblogs.com/vijing/p/10402510.html

2019-08-01 14:41:35 m0_37324740 阅读数 394
  • 数字成像系统

    数字成像系统暨Image signal processor原理培训,涵盖成像系统基础5讲:1. 数字成像系统介绍2. CMOS image sensor基础3. 镜头光学基础4. 颜色科学基础5. ISP 信号处理基础,以及ISP各模块:6.黑电平与线性化7.Green Imbalance8:9.坏点消除等21讲,3A技术以及图像质量评价与调校6讲

    7792 人正在学习 去看看 姜卓

1 什么是 ISP ?

        ISP 全称 Image Signal Processing,即图像信号处理。

        景物通过光学图像投射到 sensor 表面后,光电转换为模拟电信号,消除噪声后经过 A/D 转换后变为数字图像信号。由于原始的图像是 Bayer 图像,因此需要通过一定的技术转换成一张色彩正常的 RGB 通道的图像。这个过程涉及到以下的基本流程:

1.1 BLC 模块

        BLC (Black Level Correction)模块为了校正黑电平(图像数据为0时的信号电平)。因为 A/D 芯片无法输出电压值极小的信号,以及 sensor 电路本身存在暗电流(没有光照条件下依然有一定的输出电压)。  

1.2 Demosaic 插值模块

        该模块实现 Bayer 数据转换成 RGB 数据的功能,通过颜色插值后使得每个像素都具有三个通道数据。

1.3 White Balance 模块

        Bayer 经过插值后的 RGB 数据显示通常偏向绿色。Bayer 数据中,绿色像素占总像素的一半(因为人的眼睛对于绿色更加敏感,这也是 Bayer 格式设计的初衷),需要对偏色进行修正。白平衡操作可以在颜色插值后进行,也可以在黑电平操作后进行。

1.4 CCM 模块

        CCM (Color Correction Matrix) 模块通过矩阵运算,调节图像的饱和度,颜色校正等功能。

1.5 Gamma 模块

        模块主要用于调节图像的对比度和亮度,通过 Gamma 曲线进行映射,获得新的像素值。

1.6 CSC 模块

        该模块通过矩阵运算并叠加偏移量,实现 RGB 向 YUV 数据的转换。为什么要转换呢?因为 YUV 数据分离了图片不同的信息,且由于采样方式不一样,压缩了数据,便于存储。

1.7 Sharpen 模块

        锐化模块提高图像的清晰度,但是作用太强会放大噪声,同时会造成白边和锯齿等现象。

1.8 DN 模块

        降噪模块用于降低图像的躁点。

2 新人学习 ISP 流程的注意点

  • 需要一定的编程基础,至少懂得一门语言。在这个基础上需要熟练掌握一门脚本和编程语言。推荐 Matlab 进行仿真工作,用 C 语言或者 C++ 进行工程工作。
  • 对自身工作具有一定的兴趣
  • 在初次编程过程中可能会遇到的问题:
  1. 如何读取数据
  2. 图像数据的类型
  3. 图像数据的结构
  4. 如何进行矩阵运算
  5. 计算过程中溢出的数据如何截断
  6. 各个图像的算法原理是什么,如何改进,不同算法之间的区别是什么
  7. 图像如何显示
  8. 尤其掌握 C 语言的基本语法(主要掌握指针使用和内存分配问题)等等。

 

2020-02-18 11:13:55 lx123010 阅读数 78
  • 数字成像系统

    数字成像系统暨Image signal processor原理培训,涵盖成像系统基础5讲:1. 数字成像系统介绍2. CMOS image sensor基础3. 镜头光学基础4. 颜色科学基础5. ISP 信号处理基础,以及ISP各模块:6.黑电平与线性化7.Green Imbalance8:9.坏点消除等21讲,3A技术以及图像质量评价与调校6讲

    7792 人正在学习 去看看 姜卓

ISP 通过一系列数字图像处理算法完成对数字图像的效果处理。主要包括3A、坏点校正、去噪、强光抑制、背光补偿、色彩增强、镜头阴影校正等处理。ISP 包括逻辑部分以及运行在其上的firmware。

ISP 的控制结构如图1-1 所示,lens 将光信号投射到sensor 的感光区域后,sensor 经过光电转换,将Bayer 格式的原始图像送给ISP,ISP 经过算法处理,输出RGB 空间域的图像给后端的视频采集单元。在这个过程中,ISP 通过运行在其上的firmware 对ISP逻辑,lens 和sensor 进行相应控制,进而完成自动光圈、自动曝光、自动白平衡等功能。其中,firmware 的运转靠视频采集单元的中断驱动。PQ Tools 工具通过网口或者串口完成对ISP 的在线图像质量调节。

主要内部构成

如下图所示,ISP 内部包含 CPU、SUP IP、IF 等设备,事实上,可以认为 ISP 是一个 SOC,可以运行各种算法程序,实时处理图像信号。ISP 架构ISP 架构

  • CPU

    <p>CPU 即中央处理器,可以运行 AF、LSC 等各种图像处理算法,控制外围设备。现代的 ISP 内部的 CPU 一般都是 ARM Cortex-A 系列的,例如 Cortex-A5、Cortex-A7。</p>
    </li>
    <li>
    <p>SUB IP</p>
    
    <p>SUB IP 是各种功能模块的通称,对图像进行各自专业的处理。常见的 SUB IP 如 DIS、CSC、VRA 等。</p>
    </li>
    <li>
    <p>图像传输接口</p>
    
    <p>图像传输接口主要分两种,并口 ITU 和串口 CSI。CSI 是 MIPI CSI 的简称,鉴于 MIPI CSI 的诸多优点,在手机相机领域,已经广泛使用 MIPI-CSI 接口传输图像数据和各种自定义数据。外置 ISP 一般包含 MIPI-CSIS 和 MIPI-CSIM 两个接口。内置 ISP 一般只需要 MIPI-CSIS 接口。</p>
    </li>
    <li>
    <p>通用外围设备</p>
    
    <p>通用外围设备指 I2C、SPI、PWM、UART、WATCHDOG 等。ISP 中包含 I2C 控制器,用于读取 OTP 信息,控制 VCM 等。对于外置 ISP,ISP 本身还是 I2C 从设备。AP 可以通过 I2C 控制 ISP 的工作模式,获取其工作状态等。</p>
    </li>
    

主要功能特性

ISP 作为图像处理的核心器件,拥有十分重要的功能,下图展示了 ISP 处理图像数据的基本流程。

ISP 处理流程ISP 处理流程

下面针对 ISP 的主要功能特性进行下介绍。

  • DEMOSAIC

    <p>DEMOSAIC 是 ISP 的主要功能之一。SENSOR 的像素点上覆盖着 CFA,光线通过 CFA 后照射到像素上。CFA 由 R、G、B 三种颜色的遮光罩组成,每种遮光罩只允许一种颜色通过,因此每个像素输出的信号只包含 R、G、B 三者中的一种颜色信息。SENSOR 输出的这种数据就是 BAYER 数据,即通常所说的 RAW 数据。显而易见,RAW 数据所反映的颜色信息不是真实的颜色信息。DEMOSAIC 就是通过插值算法将将每个像素所代表的真实颜色计算出来。</p>
    </li>
    <li>
    <p>FOCUS</p>
    
    <p>根据光学知识,景物在传感器上成像最清晰时处于合焦平面上。通过更改 LENS 的位置,使得景物在传感器上清晰的成像,是 ISP FOCUS 功能所需要完成的任务。FOCUS 分为手动和自动两种模式。ISP 可以运行 CONTRAST AF、PDAF、LASER AF 等算法实现自动对焦。</p>
    </li>
    <li>
    <p>EXPOSURE</p>
    
    <p>曝光。EXPOSURE 主要影响图像的明暗程度。ISP 需要实现 AE 功能,通过控制曝光程度,使得图像亮度适宜。</p>
    </li>
    <li>
    <p>WB</p>
    
    <p>白平衡。白平衡与色温相关,用于衡量图像的色彩真实性和准确性。ISP需要实现 AWB 功能,力求在各种复杂场景下都能精确的还原物体本来的颜色。</p>
    </li>
    <li>
    <p>LSC</p>
    
    <p>用于消除图像周边和图片中心的不一致性,包含亮度和色度两方面。ISP 需要借助 OTP 中的校准数据完成 LSC 功能。</p>
    </li>
    <li>
    <p>GAMMA CORRECTION</p>
    
    <p>伽玛校正。传感器对光线的响应和人眼对光线的响应是不同的。伽玛校正就是使得图像看起来符合人眼的特性。</p>
    </li>
    <li>
    <p>CROP/RESIZE</p>
    
    <p>图像剪裁,即改变图像的尺寸。可用于输出不同分辨率的图像。</p>
    </li>
    <li>
    <p>VRA</p>
    
    <p>视觉识别。用于识别特定的景物,例如人脸识别,车牌识别。ISP 通过各种 VRA 算法,准确的识别特定的景物。</p>
    </li>
    <li>
    <p>DRC</p>
    
    <p>动态范围校正。动态范围即图像的明暗区间。DRC 可以使得暗处的景物不至于欠曝,而亮处的景物不至于过曝。ISP 需要支持 DRC 功能。</p>
    </li>
    <li>
    <p>CSC</p>
    
    <p>颜色空间转换。例如,ISP 会将 RGB 信号转化为 YUV 信号输出。</p>
    </li>
    <li>
    <p>IS</p>
    
    <p>图像稳定。IS 的主要作用是使得图像不要因为手持时轻微的抖动而模糊不清。IS 有很多种,例如 OIS、DIS、EIS。ISP 可以实现 DIS 和 EIS。</p>
    </li>
    

事实上,ISP 除了上面提到的主要功能外,还需要支持 DENOISE、CONTRAST、SATURATION、SHARPNESS 等调整功能。

控制方式

这里所说的控制方式是 AP 对 ISP 的操控方式。

  • I2C/SPI

    <p>这一般是外置 ISP 的做法。SPI 一般用于下载固件、I2C 一般用于寄存器控制。在内核的 ISP 驱动中,外置 ISP 一般是实现为 I2C 设备,然后封装成 V4L2-SUBDEV。</p>
    </li>
    <li>
    <p>MEM MAP</p>
    
    <p>这一般是内置 ISP 的做法。将 ISP 内部的寄存器地址空间映射到内核地址空间,</p>
    </li>
    <li>
    <p>MEM SHARE</p>
    
    <p>这也是内置 ISP 的做法。AP 这边分配内存,然后将内存地址传给 ISP,二者实际上共享同一块内存。因此 AP 对这段共享内存的操作会实时反馈到 ISP 端。</p>
    </li>
    

ISP 架构方案

上文多次提到外置 ISP 和内置 ISP,这实际上是 ISP 的架构方案。

外置 ISP 架构

外置 ISP 架构是指在 AP 外部单独布置 ISP 芯片用于图像信号处理。外置 ISP 的架构图一般如下所示:

外置 ISP 架构图外置 ISP 架构图

外置 ISP 架构的优点主要有:

  • 能够提供更优秀的图像质量

    <p>在激烈的市场竞争下,能够存活到现在的外置 ISP 生产厂商在此领域一般都有很深的造诣,积累了丰富的影像质量调试经验,能够提供比内置 ISP 更优秀的性能和效果。因此,选用优质的外置 ISP 能提供专业而且优秀的图像质量。</p>
    </li>
    <li>
    <p>能够支援更丰富的设计规划</p>
    
    <p>外置 ISP 的选型基本不受 AP 的影响,因此可以从各个优秀 ISP 芯片供应商的众多产品中甄选最合适的器件,从而设计出更多优秀的产品。</p>
    </li>
    <li>
    <p>能够实现产品的差异化</p>
    
    <p>内置 ISP 是封装在 AP 内部的,是和 AP 紧密的联系在一起,如果 AP 相同,那么 ISP 也就是一样的。因此基于同样 AP 生产出来的手机,其 ISP 的性能也是一样的,可供调教的条件也是固定的,这样就不利于实现产品的差异化。而如果选择外置 ISP,那么同一颗 AP,可以搭配不同型号的 ISP,这样可以实现产品的差异化,为给用户提供更丰富和优质的产品。</p>
    </li>
    

外置 ISP 架构的缺点主要有:

  • 成本价格高

    <p>外置 ISP 需要单独购买,其售价往往不菲,而且某些特殊功能还需要额外支付费用。使用外置 ISP,需要进行额外的原理图设计和 LAYOUT,需要使用额外的元器件。</p>
    </li>
    <li>
    <p>开发周期长</p>
    
    <p>外置 ISP 驱动的设计需要多费精力和时间。使用外置 ISP 时,AP 供应商提供的 ISP 驱动就无法使用,需要额外设计编写外置 ISP 驱动。另外,为了和 AP 进行完美的搭配,将效果最大化,也往往需要付出更多的调试精力。上文也提到,使用外置 ISP,需要进行额外的原理图设计和 LAYOUT,需要使用额外的元器件,这也是需要花费时间进行处理的。</p>
    </li>
    

内置 ISP 架构

内置 ISP 架构是指在 AP 内部嵌入了 ISP IP,直接使用 AP 内部的 ISP 进行图像信号处理。 内置 ISP 的架构图一般如下所示:

内置 ISP 架构图内置 ISP 架构图

内置 ISP 架构的优点主要有:

  • 能降低成本价格

    <p>内置 ISP 内嵌在 AP 内部,因此无需像外置 ISP 一样需要额外购买,且不占 PCB 空间,无需单独为其设计外围电路,这样就能节省 BOM,降低成本。鉴于大多数用户在选购手机时会将价格因素放在重要的位置,因此降低成本能有效的降低终端成品价格,有利于占领市场。</p>
    </li>
    <li>
    <p>能提高产品的上市速度</p>
    
    <p>内置 ISP 和 AP 紧密结合,无需进行原理图设计和 LAYOUT 设计,因此可以减小开发周期,加快产品上市的速度。</p>
    </li>
    <li>
    <p>能降低开发难度</p>
    
    <p>如果使用内置 ISP,那么 AP 供应商能在前期提供相关资料,驱动开发人员可以有充足的时间熟悉相关资料,而且不会存在软件版本适配问题,也不存在平台架构兼容性问题。但是,如果使用外置 ISP,那么 ISP 供应商往往都不能提供针对某个平台的代码/资料,而且一般都存在软件版本兼容问题,这就需要驱动开发人员付出额的经历和时间。</p>
    </li>
    

使用内置 ISP 当然也有相应的不足之处,具体见上文的分析,这里就不赘述了。

事实上,鉴于 ISP 的重要性,为了推广其 AP,提高其 AP 竞争力,现在 AP 内置的 ISP 也越来越强大,其性能足以满足手机市场的需求。再加上其一系列优点,现在使用内置 ISP 方案的手机越来越多。

结语

ISP 是相机系统中重要的组成部分,要了解相机系统,就不能不熟悉 ISP。本文从 ISP 内部构成、功能特性、操控方式等角度介绍了 ISP 的各方面知识。另外,本文还详细的分析了两种架构的 ISP 方案的优缺点,希望能有所裨益。

 

没有更多推荐了,返回首页