Android 画面显示流程分析 (1)

发表于 2年以前  | 总阅读数:2538 次

1 . 前言

本文尝试从硬件认识开始介绍 Android 的显示系统是如何更新画面的,希望能就 android 系统是如何更新画面的问题,给读者带来一个感性认知。文中将尝试解释从 App 画出一帧画面到这帧画面是如何到达屏幕并最终被人眼看到的整个过程,这其中会涉及硬件的一些基础知识以及 Android 系统下一些重要的软件基础组件。本文将先分别介绍画面显示过程中所涉及到的重要组件及其工作原理,然后从 Android app 渲染第一帧画面开始逐步串联起各个组件,期望最终对于 Android 系统下画面是如何显示出来的给读者一个宏观的认识。本文适合对 Android 显示系统有过一定了解的同学阅读。由于文章较长,这里会分成 10 个章节,共五篇博文来介绍。

由于本文是通过阅读各种文章及代码,总结出来的,难免有些地方理解得不对,欢迎大家批评指正。

2 . 显示硬件基础

无论软件的架构设计多么高端大气上档次,最终都离不开硬件的支持,软件的架构是建构在硬件的运行原理之上的,所以在讨论软件的各个设计之前我们有必要对显示硬件的原理做一个初步的了解。

2.1. 常见显示设备

LCD(Liquid Crystal Display) 俗称液晶。

液晶是一种材料,液晶这种材料具有一种特点:可以在电信号的驱动下液晶分子进行旋转,旋转时会影响透光性,

因此我们可以在整个液晶面板后面用白光照(称为背光),可以通过不同电信号让液晶分子进行选择性的透光,此时在液晶面板前面看到的就是各种各样不同的颜色,这就是 LCD 显示画面的原理。

有些显示器(譬如 LED 显示器、CRT 显示器)自己本身会发光称为主动发光,有些(LCD)本身不会发光只会透光,需要背光的协助才能看起来是发光的,称为被动发光。

其他一些主流的显示设备:

CRT:阴极摄像管显示器。以前的那种大屁股电视机就是 CRT 显示,它曾是应用最广泛的显示器之一,不过现在基本没有在使用这种技术了。

OLED:有机发光二极管又称为有机电激光显示 (Organic Light-Emitting Diode,OLED),OLED 显示技术具有自发光的特性,采用非常薄的有机材料涂层和玻璃基板,可以做得更轻更薄,可视角度更大,并且能够显著节省电能。目前未成为主流,但是很有市场潜力,将来很可能取代 LCD。

LED:主要用在户外大屏幕

2.2. LCD 的接口技术

VGA(Video Graphics Array) 即视频图形阵列,具有分辨率高、显示速率快、颜色丰富等优点。VGA 接口不但是 CRT 显示设备的标准接口,同样也是 LcD 液晶显示设备的标准接口,具有广泛的应用范围。相信很多朋友都不会陌生,因为这种接口是电脑显示器上最主要的接口,从块头巨大的 CRT 显示器时代开始,VGA 接口就被使用,并且一直沿用至今。

HDMI(High Definition Multimedia Interface) 高清多媒体接口,是一种全数字化视频和声音发送接口,可以发送未压缩的音频及视频信号。HDMI 可用于机顶盒,DVD 播放机、个人计算机、电视、游戏主机、综合扩大机、数字音响与电视机等设备。HDMI 可以同时发送音频和视频信号,由于音频和视频信号采用同一条线材,大大简化系统线路的安装难度。

DVI(Digital Visual Interface),即数字视频接口。它是 1998 年 9 月,在 Intel 开发者论坛上成立的,由 Silicon Image、Intel(英特尔)、Compaq(康柏)、IBM(国际商业机器公司)、HP(惠普)、NEC(日本电气股份有限公司)、Fujitsu (富士通) 等公司共同组成的 DDWG(Digital Display Working Group,数字显示工作组)推出的接口标准

LVDS(Low Voltage Differential Signaling,即低电压差分信号)接口又称 RS-644 总线接口,是 20 世纪 90 年代才提出的一种数据传输和接口技术。LVDS 接口是美国 NS 美国国家半导体公司为克服以 TTL 电平方式传输宽带高码率数据时功耗大,电磁干扰大等缺点而研制的一种数字视频信号传输方式。由于其采用低压和低电流驱动方式,因此,实现了低噪声和低功耗。LVDS 技术具有低功耗、低误码率、低串扰和低辐射等特点,其传输介质可以是铜质的 PCB 连线,也可以是平衡电缆。LVDS 在对信号完整性、低抖动及共模特性要求较高的系统中得到了越来越广泛的应用,常见于液晶电视中。

MIPI(Mobile Industry Processor Interface) 是 2003 年由 ARM, Nokia, ST ,TI 等公司成立的一个联盟,目的是把手机内部的接口如摄像头、显示屏接口、射频 / 基带接口等标准化,从而减少手机设计的复杂程度和增加设计灵活性。MIPI 联盟下面有不同的 WorkGroup,分别定义了一系列的手机内部接口标准,比如摄像头接口 CSI、显示接口 DSI、射频接口 DigRF、麦克风 / 喇叭接口 SLIMbus 等。统一接口标准的好处是手机厂商根据需要可以从市面上灵活选择不同的芯片和模组,更改设计和功能时更加快捷方便。

目前手机屏幕和 SOC 间多使用 MIPI 接口来传输屏幕数据,其实物如下图所示,图中的条状芯片就是负责更新显示屏的显示内容的芯片 DDIC, 它一边通过 mipi 协议和 SOC 通信,一边把获取到的显示数据写入到显示存储器 GRAM 内, 屏幕 (Panel) 通过不停扫描 GRAM 来不停更新液晶显示点的颜色,实现画面的更新。

屏幕坐标系

显示屏幕采用如下图所示的二维坐标系,以屏幕左上角为原点,X 方向向右,Y 轴方向向下,屏幕上的显示单元(像素)以行列式整齐排列,如下图所示,如下图示中以六边形块来代表一个像素点,如无例外说明,本文中所有图示都将以该六边形块来代表屏幕上的一个像素点。

在一个典型的 Android 显示系统中,一般包括 SOC、DDIC、Panel 三个部分, SOC 负责绘画与多图层的合成,把合成好的数据通过硬件接口按某种协议传输给 DDIC,然后 DDIC 负责把 buffer 里的数据呈现到 Panel 上。如下图所示为高通平台上的画面更新简单示意图,首先 CPU 或 GPU 负责绘画,画出的多个 layer 交由 MDP 进行合成,合成的数据通过 mipi 协议和 DSI 总线传输给 DDIC, DDIC 将数据存到 GRAM 内(非 video 屏), Panel 不断 scanGRAM 来显示内容。

那么对于 DDIC 来讲它的职责就是按 mipi 协议和 SOC 交互,获取到从 SOC 合成好的一帧画面的数据,然后将数据写入 GRAM, 对 GRAM 的写入要符合一定的时序。

2.3. LCD 时序

这个写入时序要首先从过去的 CRT 显示器原理说起。CRT 的电子枪按照从上到下一行行扫描,扫描完成后显示器就呈现一帧画面,随后电子枪回到初始位置继续下一次扫描。为了把显示器的显示过程和系统的视频控制器进行同步,显示器(或者其他硬件)会用硬件时钟产生一系列的定时信号。当电子枪换到新的一行,准备进行扫描时,显示器会发出一个水平同步信号(horizonal synchronization),简称 HSync;而当一帧画面绘制完成后,电子枪回复到原位,准备画下一帧前,显示器会发出一个垂直同步信号(vertical synchronization),简称 VSync。显示器通常以固定频率进行刷新,这个刷新率就是 VSync 信号产生的频率。尽管现在的设备大都是液晶显示屏了,但原理仍然没有变。

CLK:像素时钟,像素数据只有在时钟上升或下降沿时才有效ENB:是数据使能信号,当它为高时,CLK 信号到达时输出有效数据。HBP:行同步信号的前肩,水平同步信号的上升沿到 ENABLE 的上升沿的间隔。HSW:水平同步信号的低电平 (非有效电平) 持续时间HFP:行同步信号的后肩,ENABLE 的下降沿到水平同步信号的下升沿的间隔 如下图所示

图中从 HSYNC 的下降沿开始,等待两个 CLK 产生一个上升沿,在等待一个 HBP 时间后开始传输一行的像素数据,像素数据只有在像素时钟和上升沿或下降沿时才会写入(这里我们只讨论原理,并不是某个特定平台的具体实现,所以 HSW 所对应的时钟数字并不是以图中所示为准,具体产品中都会有调整和变化),经过 N 个像素时钟后成功将一行像素数据写入 D1-Dn

类似地,在两帧画面之间也存在一些间隔:

VSW: VSYNC 信号下降沿到上升沿间的时间VBP: 帧同步信号的前肩VFP: 帧同步信号的后肩VPROCH: 被称为消隐区,它是指 VSW+VBP+VFP , 这个时间段内 Panel 不更新像素点的颜色

在一个 Vsync 周期内是由多个 Hsync 周期组成的,其个数就是屏幕在 Y 方向的像素点个数,也就是屏幕上有多少行像素点, 每个 Hsync 周期内传输一行内所有像素点的数据。通常屏厂给的 spec 文档还会给出类似下面这样的图,但都是表达一个意思,数据是以行为单位写入的,Hsync 是协调行和行之间的同步信号,多个行依次写入构成一帧数据,帧和帧数据之间由 Vsync 信号来同步协调。

当多帧画面依次输出到屏幕的时候我们就可以看到运动的画面了,通常这个速度到达每秒 60 帧时人眼就已经感觉画面很流畅了。下图演示了在 vsync 和 hsync 同步下两帧画面间的切换时序,以及消隐区 (VPorch) 在其中的位置关系。在消隐区结束(或开始)时 DDIC 会向 SOC 发出一个中断信号,这个信号称为 TE 信号, SOC 这边就是通过该中断信号来判断上一帧数据是否已被 DDIC 读走,进而决定是否可以将 buffer 写入下一帧数据。

2.4. LCD 上的画面更新流程

让我们以下面这张图来说明从 SOC 到到 DDIC 再到 Panel 的画面更新过程,首先 SOC 准备画面 A, DDIC 上一帧画面更新完毕进入消隐区,同时向 SOC 侧发送 TE 信号,SOC 收到 TE 信号后,A 画面的数据开始通过 DSI 总线向 DDIC 传输(DSI Write), 当消隐区时间结束时开始这一帧数据从数据变为像素点颜色的过程 (Disp Scan), Disp Scan 是以行为单位将 GRAM 内一行的数据内容通过改变电流电压等方式改变 Panel 上像素点的颜色。进而实现一行画面的更新,按下来 Disp Scan 将以一定速度逐行读取 GRAM 的内容,而于此同时 DSI Write 也还在进行中,由于 DSI Write 较 Disp Scan 早了一个 Vporch 的时间,所以 Disp Scan 扫描到的数据都是 A 画面的数据。那么人眼会看到画面 “逐渐” 出现到显示屏上,当 A 画面的所有行都经 Disp Scan 到达屏幕后,下一个 Vporch 开始,DDIC 再次向 SOC 发出 TE 信号, 下帧 B 画面的数据开始经过 DSI 总线传输到 DDIC, 如此循环往复可以将连续的 A, B, C 画面更新到屏幕上。

这里我们思考一个问题:就像上图中所绘一样总会存在一段时间 GRAM 内的数据会出现一部分是新画面的数据,一部分是旧画面的数据,那么从上帝视角看 GRAM 里的画面是 “撕裂” 的,那 Disp Scan 会不会把这个 “撕裂” 的画面显示到 Panel 上呢?用户有没有可能看到一个 “撕裂” 的画面呢?

答案是有可能会。

为讨论方便我们这里先把 DSI write 记作写, 把 Disp Scan 记作读, 正常情况下,我们会将读速度调到和写速度差不多,由于写是在进入 vporch 时就开始了,而读的动作是离开 vproch 时,所以在读和写的这场 “百米跑” 竞赛中总是写跑在前面,这样保证读始终读到的是同一帧画面的数据,这个过程如下面图 1 所示。

由于读和写的速度受到环境或各种电气因素影响并不是一成不变的,在实际运行过程中会有波动,当读和写两条线离的较近时由于速度波动的存在会出现两条线交叉的情况,如图 2 所示,那么这时读会先后读到前后两帧的数据,出现花屏现象。

有时我们为了避免由于速率波动引起花屏问题,会放大 vporch 的时间让读和写尽量拉开距离,这样可以减少花屏现象出现的概率,这里的原理如图 3 所示

继续思考下一问题:从上面的分析可以看出 Panel 上的像素数据是一行行更新下来的,那人眼为什么没有看到更新了一半的画面呢?

这个问题我并不知道答案,这可能涉及到人眼的生物学构造,人眼对事物的成像原理等复杂的原理,总之是在这个时间尺度内人眼看不到。

接下来我们从另一角度来研究一下这个问题,我们把视角切换到上帝视角,假如存在上帝之眼的话,他应该能看到这个更新了一半的画面,我们尝试用高速摄影机来模拟 “上帝之眼”。

首先我们先准备一些测试代码, 我们写一个测试用 apk, 下面这段代码是向 Android 框架注册一个 Choreographer 的监听,Choreographer 是 Android 提供的一个获取 vsync 信号的通道。当下图中 doFrame 被调用到时我们这里可以暂时粗略理解为是上面所讨论的 TE 信号, 这里收到 Vsync 信号后通过 Pthread 的 Condition 通知到另一线程。这用于模拟一个 vsync 的消息泵。

Choreographer.getInstance().postFrameCallback(new Choreographer.FrameCallback() {
    @Override
    public void doFrame(long frameTimeNanos) {//当vsync信号来时会调用到这里
            Global.lock.lock();
            try {
                Global.syncCondition.signal();//通知另一条线程更新画面
            } catch (Exception e) {
                e.printStackTrace();
            } finally {
                Global.lock.unlock();
            }
            Choreographer.getInstance().removeFrameCallback(this);
            Choreographer.getInstance().postFrameCallback(this);
    }
});

下面代码中每收到一个 vsync 信号都会去画一帧画面,同时给帧编号编号加 1(相当于给每一帧一个编号),如果当前的编号为奇数则画绿色,如果为偶数则画蓝色,那么画面应该是蓝绿交替出现:

public class MySurfaceView extends SurfaceView implements SurfaceHolder.Callback, Runnable {
    .......

    @Override
    public void run() {
        while(true) {
            Global.lock.lock();
            try {
                Global.syncCondition.await();//在这里等待vsync到来的通知消息
            } catch (InterruptedException e) {
                e.printStackTrace();
            } finally {
                Global.lock.unlock();
            }
            draw();//画蓝色或绿色
        }
    }
    ........
    private void draw() {

        Canvas mCanvas = null;
        try {
            mCanvas = mSurfaceHolder.lockCanvas();
            if(autoNum %2 == 0) {
                mPaint.setColor(Color.BLUE);//如果为双数则画面画成蓝色
            } else {
                mPaint.setColor(Color.GREEN);//如果为单数则画面画成绿色
            }
            mCanvas.drawRect(0, 0, getRight(), getBottom(), mPaint);
        } catch (Exception e) {
            e.printStackTrace();
        } finally {
            if (mCanvas != null) {
                mSurfaceHolder.unlockCanvasAndPost(mCanvas);
            }
        }
        autoNum++;//数字加1
    }

}

下面是高速摄影机看到的画面变化情况,从下图中可以看出来,画面从绿变蓝的过程中总是能看到先是上面部分变蓝色,接下来才会看到全部变蓝,由蓝变绿也是同样的现象,先是图像上面变成绿色接下来全部变绿色,在 “上帝之眼” 看来画面的变化是有前后两个画面各占一部分的情况的,这情况是上面是新画面下面是旧画面,但人眼是看不出来这种画面。

下面的图中发现画面是颜色渐变的,这是因为通过高速摄影机使画面再次感光形成的影像,由于物理世界中光线是有衍射及曝光时长因素的,所以最终在高速摄影机留下的图中是颜色渐变的。

2.5. 本章小结

在本章节中,我们了解到了一些显示硬件的一些组成要件,以及屏幕是如何按时序更新画面的,以及在画面更新过程中屏和 SOC 间的一些互动是如何完成的。那么接下来我们再来了解下 SOC 内部是如何把画面送过来的。

参考资料

[1]Android 画面显示流程分析 (1): https://www.jianshu.com/p/df46e4b39428

[2]Android 画面显示流程分析 (2): https://www.jianshu.com/p/f96ab6646ae3

[3]Android 画面显示流程分析 (3): https://www.jianshu.com/p/3c61375cc15b

[4]Android 画面显示流程分析 (4): https://www.jianshu.com/p/7a18666a43ce

[5]Android 画面显示流程分析 (5): https://www.jianshu.com/p/dcaf1eeddeb1

本文由哈喽比特于2年以前收录,如有侵权请联系我们。
文章来源:https://mp.weixin.qq.com/s/h3R7IKdBqcbuDO4CuYaQ7g

 相关推荐

刘强东夫妇:“移民美国”传言被驳斥

京东创始人刘强东和其妻子章泽天最近成为了互联网舆论关注的焦点。有关他们“移民美国”和在美国购买豪宅的传言在互联网上广泛传播。然而,京东官方通过微博发言人发布的消息澄清了这些传言,称这些言论纯属虚假信息和蓄意捏造。

发布于:10月以前  |  808次阅读  |  详细内容 »

博主曝三大运营商,将集体采购百万台华为Mate60系列

日前,据博主“@超能数码君老周”爆料,国内三大运营商中国移动、中国电信和中国联通预计将集体采购百万台规模的华为Mate60系列手机。

发布于:10月以前  |  770次阅读  |  详细内容 »

ASML CEO警告:出口管制不是可行做法,不要“逼迫中国大陆创新”

据报道,荷兰半导体设备公司ASML正看到美国对华遏制政策的负面影响。阿斯麦(ASML)CEO彼得·温宁克在一档电视节目中分享了他对中国大陆问题以及该公司面临的出口管制和保护主义的看法。彼得曾在多个场合表达了他对出口管制以及中荷经济关系的担忧。

发布于:10月以前  |  756次阅读  |  详细内容 »

抖音中长视频App青桃更名抖音精选,字节再发力对抗B站

今年早些时候,抖音悄然上线了一款名为“青桃”的 App,Slogan 为“看见你的热爱”,根据应用介绍可知,“青桃”是一个属于年轻人的兴趣知识视频平台,由抖音官方出品的中长视频关联版本,整体风格有些类似B站。

发布于:10月以前  |  648次阅读  |  详细内容 »

威马CDO:中国每百户家庭仅17户有车

日前,威马汽车首席数据官梅松林转发了一份“世界各国地区拥车率排行榜”,同时,他发文表示:中国汽车普及率低于非洲国家尼日利亚,每百户家庭仅17户有车。意大利世界排名第一,每十户中九户有车。

发布于:10月以前  |  589次阅读  |  详细内容 »

研究发现维生素 C 等抗氧化剂会刺激癌症生长和转移

近日,一项新的研究发现,维生素 C 和 E 等抗氧化剂会激活一种机制,刺激癌症肿瘤中新血管的生长,帮助它们生长和扩散。

发布于:10月以前  |  449次阅读  |  详细内容 »

苹果据称正引入3D打印技术,用以生产智能手表的钢质底盘

据媒体援引消息人士报道,苹果公司正在测试使用3D打印技术来生产其智能手表的钢质底盘。消息传出后,3D系统一度大涨超10%,不过截至周三收盘,该股涨幅回落至2%以内。

发布于:10月以前  |  446次阅读  |  详细内容 »

千万级抖音网红秀才账号被封禁

9月2日,坐拥千万粉丝的网红主播“秀才”账号被封禁,在社交媒体平台上引发热议。平台相关负责人表示,“秀才”账号违反平台相关规定,已封禁。据知情人士透露,秀才近期被举报存在违法行为,这可能是他被封禁的部分原因。据悉,“秀才”年龄39岁,是安徽省亳州市蒙城县人,抖音网红,粉丝数量超1200万。他曾被称为“中老年...

发布于:10月以前  |  445次阅读  |  详细内容 »

亚马逊股东起诉公司和贝索斯,称其在购买卫星发射服务时忽视了 SpaceX

9月3日消息,亚马逊的一些股东,包括持有该公司股票的一家养老基金,日前对亚马逊、其创始人贝索斯和其董事会提起诉讼,指控他们在为 Project Kuiper 卫星星座项目购买发射服务时“违反了信义义务”。

发布于:10月以前  |  444次阅读  |  详细内容 »

苹果上线AppsbyApple网站,以推广自家应用程序

据消息,为推广自家应用,苹果现推出了一个名为“Apps by Apple”的网站,展示了苹果为旗下产品(如 iPhone、iPad、Apple Watch、Mac 和 Apple TV)开发的各种应用程序。

发布于:10月以前  |  442次阅读  |  详细内容 »

特斯拉美国降价引发投资者不满:“这是短期麻醉剂”

特斯拉本周在美国大幅下调Model S和X售价,引发了该公司一些最坚定支持者的不满。知名特斯拉多头、未来基金(Future Fund)管理合伙人加里·布莱克发帖称,降价是一种“短期麻醉剂”,会让潜在客户等待进一步降价。

发布于:10月以前  |  441次阅读  |  详细内容 »

光刻机巨头阿斯麦:拿到许可,继续对华出口

据外媒9月2日报道,荷兰半导体设备制造商阿斯麦称,尽管荷兰政府颁布的半导体设备出口管制新规9月正式生效,但该公司已获得在2023年底以前向中国运送受限制芯片制造机器的许可。

发布于:10月以前  |  437次阅读  |  详细内容 »

马斯克与库克首次隔空合作:为苹果提供卫星服务

近日,根据美国证券交易委员会的文件显示,苹果卫星服务提供商 Globalstar 近期向马斯克旗下的 SpaceX 支付 6400 万美元(约 4.65 亿元人民币)。用于在 2023-2025 年期间,发射卫星,进一步扩展苹果 iPhone 系列的 SOS 卫星服务。

发布于:10月以前  |  430次阅读  |  详细内容 »

𝕏(推特)调整隐私政策,可拿用户发布的信息训练 AI 模型

据报道,马斯克旗下社交平台𝕏(推特)日前调整了隐私政策,允许 𝕏 使用用户发布的信息来训练其人工智能(AI)模型。新的隐私政策将于 9 月 29 日生效。新政策规定,𝕏可能会使用所收集到的平台信息和公开可用的信息,来帮助训练 𝕏 的机器学习或人工智能模型。

发布于:10月以前  |  428次阅读  |  详细内容 »

荣耀CEO谈华为手机回归:替老同事们高兴,对行业也是好事

9月2日,荣耀CEO赵明在采访中谈及华为手机回归时表示,替老同事们高兴,觉得手机行业,由于华为的回归,让竞争充满了更多的可能性和更多的魅力,对行业来说也是件好事。

发布于:10月以前  |  423次阅读  |  详细内容 »

AI操控无人机能力超越人类冠军

《自然》30日发表的一篇论文报道了一个名为Swift的人工智能(AI)系统,该系统驾驶无人机的能力可在真实世界中一对一冠军赛里战胜人类对手。

发布于:10月以前  |  423次阅读  |  详细内容 »

AI生成的蘑菇科普书存在可致命错误

近日,非营利组织纽约真菌学会(NYMS)发出警告,表示亚马逊为代表的电商平台上,充斥着各种AI生成的蘑菇觅食科普书籍,其中存在诸多错误。

发布于:10月以前  |  420次阅读  |  详细内容 »

社交媒体平台𝕏计划收集用户生物识别数据与工作教育经历

社交媒体平台𝕏(原推特)新隐私政策提到:“在您同意的情况下,我们可能出于安全、安保和身份识别目的收集和使用您的生物识别信息。”

发布于:10月以前  |  411次阅读  |  详细内容 »

国产扫地机器人热销欧洲,国产割草机器人抢占欧洲草坪

2023年德国柏林消费电子展上,各大企业都带来了最新的理念和产品,而高端化、本土化的中国产品正在不断吸引欧洲等国际市场的目光。

发布于:10月以前  |  406次阅读  |  详细内容 »

罗永浩吐槽iPhone15和14不会有区别,除了序列号变了

罗永浩日前在直播中吐槽苹果即将推出的 iPhone 新品,具体内容为:“以我对我‘子公司’的了解,我认为 iPhone 15 跟 iPhone 14 不会有什么区别的,除了序(列)号变了,这个‘不要脸’的东西,这个‘臭厨子’。

发布于:10月以前  |  398次阅读  |  详细内容 »
 相关文章
简化Android的UI开发 4年以前  |  520892次阅读
Android 深色模式适配原理分析 3年以前  |  29108次阅读
Android阴影实现的几种方案 1年以前  |  11309次阅读
Android 样式系统 | 主题背景覆盖 3年以前  |  9871次阅读
 目录