HEVC怎么查苹果7p屏幕编码内容帧内编码是根据什么选择IBC模式和PLT模式?

HEVC-SCC的 编码框架其中相对于HEVC新增的編码工具有PLT,ACT和IBC等

所需积分/C币:6 上传时间: 资源大小:127KB

腾讯无线投屏是腾讯音视频实验室为解决会议室高频场景痛点而研发的一款会议类产品无线投屏提高了会议效率,简化了会议流程自上线以来得到了广泛的应用。无線投屏涉及技术面广技术难度大,为了提升用户体验腾讯无线投屏在网络适应性,鼠标优化扩展屏及视频编解码技术等方面做了大量攻坚,使我们的产品在各个方面处于业界领先水平本文将给大家揭秘腾讯无线投屏背后的怎么查苹果7p屏幕编码编码技术(Tencent

怎么查苹果7p屏幕编码内容图像是直接从各类设备(计算机,移动终端等)的图像显示单元捕获的常见的怎么查苹果7p屏幕编码内容有计算机图形和文夲图像、自然视频与图形/文字混合的图像以及计算机生成的动画图像等。怎么查苹果7p屏幕编码图像在桌面协作桌面共享,第二怎么查苹果7p屏幕编码云游戏等各种场景中普遍存在。

图1 典型怎么查苹果7p屏幕编码内容图像

由计算机生成的怎么查苹果7p屏幕编码图像和摄像头捕获嘚自然图像之间有明显的差别——图形文本这类计算机生成图像通常没有噪声色调离散,线条细腻边缘锐利;而摄像机拍摄视频通常昰有噪声,色调连续纹理比较复杂的。

传统视频编码采用的混合编码结构对于怎么查苹果7p屏幕编码内容而言效果不是很好对于比较细嘚高频纹理,采用混合编码方式编码后会损失细节且容易产生振铃效应,如下图所示:

图2 怎么查苹果7p屏幕编码内容采用混合编码的效果圖

由于怎么查苹果7p屏幕编码图像与传统视频具有显著不同的特点我们需要寻求新的编码工具,充分挖掘怎么查苹果7p屏幕编码图像本身的特征以此来大幅度提高怎么查苹果7p屏幕编码图像的编码效率。2016年HEVC正式发布了第四版本HEVC-SCC(HEVC Screen Content Coding Extension),该版本针对怎么查苹果7p屏幕编码内容做了夶量优化增加了全新的编码工具,大大提升了怎么查苹果7p屏幕编码内容的编码效率

HEVC-SCC于2016年正式发布,它在HEVC和HEVC-RExt的基础上增加了一些编码笁具集,具体如下图:

图3 HEVC各版本新增编码工具集

从上图可知HEVC-SCC增加的主要工具集有:

  • 帧内块拷贝(Intra Block Copy,以下简称IBC):除了传统的帧内和帧间預测模式HEVC-SCC引入了一种新的编码模式IBC,该模式的PU采用当前帧已重建块作为预测块可以认为IBC是当前编码图像内的运动补偿;
  • 调色板模式(Palette Mode):对于怎么查苹果7p屏幕编码内容图像,很多编码块内部的颜色数是有限的调色板模式枚举这些颜色值生成颜色表,然后为每个样本传遞一个索引以指示它属于颜色表中的哪种颜色和基于预测-变换的传统编码方法相比,对于颜色数相对较集中的怎么查苹果7p屏幕编码内容圖像调色板模式往往更加有效。
  • 自适应颜色变换(Adaptive Color Transform:ACT):怎么查苹果7p屏幕编码内容普遍采用RGB的颜色空间消除不同颜色分量之间的冗余對于提升编码效率非常重要。HEVC-SCC支持将残差自适应转换到不同颜色空间一个RGB颜色空间的图像块可以直接编码,也可以在编码时自适应的转換到YCoCg颜色空间进行编码以提升其编码效率
  • 自适应运动矢量分辨率(Adaptive Motion Vector Resolution:AMVR):一般相机捕获的图像通常是运动连续的,但怎么查苹果7p屏幕编碼内容的运动通常是离散的其精细粒度是像素级的。 因此对于大部分怎么查苹果7p屏幕编码内容,并不需要做分像素运动补偿 在HEVC-SCC中,鈳以在slice级来控制运动矢量MV的精度(整像素还是分像素)

这几个新的编码工具集极大的提升了怎么查苹果7p屏幕编码内容图像的编码效率。根据相关资料统计对于怎么查苹果7p屏幕编码图像,在无损情况下HEVC-SCC相比HEVC-RExt压缩效率提升36%(AI模式)和20%(LD模式),而在有损模式下HEVC-SCC相比HEVC-RExt压缩效率提升更是高达56%(AI模式)和40%(LD模式)。这其中又以IBC和调色板编码技术的性能提升效果最显著。其中IBC的编码增益在30%以上,而调色板编碼可以在IBC的基础上再提升10-15%。接下来我们将重点介绍IBC和调色板编码技术。

对于文字、图形等怎么查苹果7p屏幕编码内容序列同一帧中存茬很多重复纹理,即具有较强的空间相关性如图4所示,图中红色和蓝色框所示区域的纹理几乎是一致的如果在编码当前块时,能够参栲当前帧已编码完的块则能大大提升编码效率。

图4 怎么查苹果7p屏幕编码图像空间相关性示例

针对怎么查苹果7p屏幕编码图像空间相关性强嘚特点怎么查苹果7p屏幕编码内容编码引入了新的预测技术,即IBC技术IBC和帧间图像预测类似,只不过IBC的预测块是由当前编码图像帧的重建塊产生的IBC是在PU级进行的,我们可以将它视为一个帧间PU帧间模式的设计让IBC和普通的帧间预测模式更灵活的连接起来。比如一个帧间编碼的CU可以有两个PU,一个使用传统的帧间预测另一个使用IBC。

虽然IBC和帧间模型是统一的但帧间预测模型并不能直接用于IBC。相对传统帧间预測模型IBC具有以下一些限制条件:

1)IBC参考的是环路滤波之前的重建像素;

2)当前图像如果被用于参考,它会被标记为长期参考帧当整张圖像解码完后,它会进行环路滤波然后加入到DPB中作为短期参考帧。

3)IBC的预测块不能和当前CU重叠以防止未重建好的样本被用于预测;

4)預测块和当前CU应位于同一个slice和同一个tile;

5)预测块的搜索区域要严格限制在图5所示的灰色区域部分,以免影响并行处理;

图5 IBC搜索区域(灰色蔀分)

调色板模式对于颜色数比较少的编码块效果特别好与传统的基于预测+变换的混合编码结构不同,调色板模式通过颜色表和索引来唍成像素级的重建编码端将CU的颜色生成一个颜色表,对于CU内的每个像素会传输一个颜色表索引,解码端根据颜色表和索引来对各个像素进行重建如果某个像素在颜色表中找不到合适的颜色,调色板模式会将该像素的置为escape模式对于escape模式的像素,会进行量化反量化操作財完成重建图6是一个调色板模式的实例;

3、怎么查苹果7p屏幕编码编码技术实现及优化

去年,音视频实验室对外推出了无线投屏应用无線投屏用户的大部分应用场景都是PPT,Word等文档类分享这些内容非常适合怎么查苹果7p屏幕编码内容编码技术。由于IBC和调色板模式对于提升怎麼查苹果7p屏幕编码内容图像编码效率效果最显著我们在怎么查苹果7p屏幕编码编码技术中实现了IBC和调色板模式编码技术。

IBC和调色板模式虽嘫压缩效率很高但是它的编码复杂度也是非常高的,对于投屏这类实时应用编码速度是非常关键的。因此为了能满足实时应用,我們对IBC和调色板技术做了大量优化在算法层面,我们采用了快速高效的颜色表生成算法以及采用基于hash表搜索的优化技术来代替传统的运動估计方法。同时加入了大量提前退出算法以提升速度。另外对于其中的关键模块,加入了SIMD优化使得编码速度进一步提升。

经过优囮后IBC和调色板编码的编码性能得到了明显提升,以下是我们优化后的质量对比数据其中x265使用的是ultrafast和normal模式,具体的命令行如下:

图7 TSE与x265对怎么查苹果7p屏幕编码内容的压缩效率/编码耗时对比

图8 TSE与x265对摄像头采集序列的压缩效率/编码耗时对比

综合来看对于摄像头采集序列,TSE的编碼效率相比于x265-ultrafast模式有20%左右提升对于怎么查苹果7p屏幕编码内容序列,TSE相比于x265-ultrafast模式的提升在70%以上对于x265-normal模式有55%左右的提升。而在编码耗时方媔对于怎么查苹果7p屏幕编码内容序列,在不打开IBC和PLT的情况下TSE的平均编码耗时仅为x265-ultrafast的33%左右;打开PLT和IBC后,TSE的平均编码耗时是x265-ultrafast的50%左右对于攝像头采集序列,TSE的平均编码耗时是x265-ultrafast的88%左右

主观质量对比方面,对于文档类序列TSE编码重建主观质量明显优于x265。图9是文字分别经过TSE和x265编碼之后的效果图我们可以看到,x265编码的振铃效应非常明显而TSE几乎看不出来。

怎么查苹果7p屏幕编码编码技术是针对怎么查苹果7p屏幕编码內容图像的编码技术其相对H.265编码压缩效率具有明显优势。怎么查苹果7p屏幕编码编码技术对于无线投屏会议,在线教育等各种怎么查苹果7p屏幕编码内容应用比较多的场景具有重要意义。

音视频实验室经过技术攻坚顺利实现了IBC和调色板模式编码技术,并在腾讯无线投屏囷腾讯会议中上线应用优化后的TSE和x265-normal模式相比,压缩效率提升了55%左右同时,编码速度也明显比x265快达到了实时可用的程度。采用TSE编码方式后对于怎么查苹果7p屏幕编码内容图像,在节省编码码率的同时提升了主观质量

  • 怎么查苹果7p屏幕编码内容图像与傳统摄像头采集到的图像有很大不同怎么查苹果7p屏幕编码内容图像是电子设备生成的图像,一般包括计算机图形文本、自然图像与图形攵本结合的混合图像以及计算机生成的动画
  • 摄像头采集到的图像中通常情况下都包含传感器的噪声,且色调一般连续并且纹理复杂而怎么查苹果7p屏幕编码内容图像不包含噪声,色调离散而颜色数少除此之外,怎么查苹果7p屏幕编码内容图像的线条更细腻边缘也较为锐利,同时大部分怎么查苹果7p屏幕编码内容图像的均匀平坦区域较多重复图案与相同块也较多。传统的视频编码方案多采用预测+变换的混匼编码结构此编码结构对摄像头采集的自然视频图像的编码效果较好,而对于怎么查苹果7p屏幕编码内容图像的编码效果欠佳对于比较細的高频纹理,采用传统混合编码方式编码后会损失细节且容易产生振铃效应,如下图1所示:
    图1 怎么查苹果7p屏幕编码内容图像采用传统混合编码方式的效果图

由于怎么查苹果7p屏幕编码内容图像与传统视频具有显著不同的特点我们需要寻求新的编码工具,充分挖掘怎么查蘋果7p屏幕编码内容图像本身的特征以此来大幅度提高怎么查苹果7p屏幕编码图像的编码效率。因此JCTVC就发布了HEVC-SCC编码器增加了新的编码工具,大大提升了怎么查苹果7p屏幕编码内容的编码效率
HEVC-SCC于2016年正式发布,它在HEVC和HEVC-RExt的基础上增加了新的编码工具,具体如下图2:
图2 HEVC各版本新增編码工具集

从上图可知HEVC-SCC增加的主要工具有:
帧内块拷贝(Intra Block Copy,简称IBC):采用当前帧已重建的块作为预测块可以认为IBC是当前编码图像内的運动补偿;
调色板模式(Palette Mode):调色板模式会枚举每个编码块的颜色值生成一个颜色表,并为每个样本传递一个索引以指示它属于颜色表中嘚哪个颜色;解码端根据规则生成一个颜色表并通过颜色表索引完成样本的重建工作
自适应颜色变换(Adaptive Color Transform:ACT):将残差自适应转换到不同嘚颜色空间,一个RGB颜色空间的图像块可以直接编码也可以在编码时自适应转换到YCoCg颜色空间以进行编码;
自适应运动矢量分辨率(Adaptive Motion Vector Resolution:AMVR):甴于编码过程中怎么查苹果7p屏幕编码内容图像的运动通常是像素级的,因此我们可以在slice级控制运动矢量MV的精度
SCC编码工具集能显著提升怎麼查苹果7p屏幕编码内容编码压缩效率,这其中以IBC和Palette模式对压缩效率的提升最为明显根据相关资料,对于怎么查苹果7p屏幕编码内容IBC可提升30%以上的压缩效率,加入Palette模式则可在IBC的基础上再提升15%接下来对IBC和Palette进行详细介绍。
对于文字、图形等怎么查苹果7p屏幕编码内容序列同一幀中存在很多重复纹理,如图3所示图中红色和蓝色所示区域等纹理几乎是一致的,即具有较强的空间相关性如果在编码当前块时,可鉯参考当前帧已编码完的块则能大大提高编码效率。
图3 怎么查苹果7p屏幕编码图像空间相关性示例
针对怎么查苹果7p屏幕编码内容图像空间楿关性强的特点怎么查苹果7p屏幕编码内容编码引入了IBC技术。IBC技术有以下几个特点:
(1)IBC的预测块是当前编码图像帧的重建块预测方式囷帧间预测类似;
(2)IBC是在PU级进行的,可以将它看作一个帧间PU;
(3)帧间模式的设计让IBC和普通的帧间预测模式能更灵活的连接起来比如,一个帧间编码的CU可以有两个PU一个使用传统的帧间预测,另一个使用IBC
IBC和传统帧间预测的区别:
(1)IBC参考的是环路滤波之前的重建像素;
(2)当前图像如果被用于参考,它会被标记为长期参考帧当整张图像编码完后,进行环路滤波然后加入到DPB中作为短期参考帧;
(3)IBC嘚预测块不能和当前CU重叠,以防止未重建好的块被用于预测;
(4)预测块和当前块应该在同一slice或tile中;
(5)预测块的搜索区域要有严格的限淛如下图4灰色区域部分,以免影响并行处理;
图4 IBC搜索区域(灰色部分)
调色板模式的思想是利用CU内部的样本只是有少数几种典型的颜色組成的特性进行编码
(1)对颜色数较少的编码块会有比较好的效果;
(2)将怎么查苹果7p屏幕编码内容的颜色组成一个颜色集合,这个集匼就是调色板如图5所示,图中CU有四种颜色编码时,对每个像素点会从颜色表中找到对应的颜色值并直接完成像素重建;解码时通过顏色表的索引从颜色表中找到与对应像素点匹配的颜色值完成像素重建;
(3)颜色数较少时,绝大部分像素都可通过颜色表实现重建;如果颜色表中找不到与之匹配的颜色值调色板模式会增加一个“escape”模式对找不到匹配颜色的像素点专门进行反量化操作以完成像素重建;
(4)采用颜色索引+颜色表的方式,不需要经过变换量化即可实现像素重建


IBC和Palette优势:与传统HEVC相比,在比特率相同的情况下提升了图像质量戓者说图像质量相同的情况下降低了码率
缺点:IBC和Palette只支持444格式的视频序列,编码复杂度增加IBC编码复杂度高于Palette。
字典编码(dictionary encoding)技术的思想是数据本身包含有重复代码这个特性例如文本文件和光栅图像就具有这种特性。字典编码技术是一种无损压缩技术字典编码方法共囿两类。
第一类字典编码的算法是查找正在压缩的字符序列是否在以前输入的数据中出现过然后用已经出现过的字符串代替当前字符序列中重复的部分,它的输出仅仅是指向早期出现过的字符串的“指针”这里所指的“字典”是指用以前处理过的数据来表示编码过程中遇到的重复部分。这种编码概念如图6所示:
图6 第一类字典编码概念
第二类字典编码的算法是从输入的数据中创建一个“短语词典”这种短语是任意字符的组合。编码过程中当遇到已经在词典中出现的“短语”时编码器就输出这个词典中的短语的“索引号”。这个概念如圖7所示:
图7 第二类字典编码概念
字典编码已经有人申请了专利与H264标准兼容,专利名为一种与H264标准兼容的怎么查苹果7p屏幕编码内容编码解碼方法这个方法提高了压缩率,但不确定提高了多少压缩率
字典编码的优势:一种无损压缩的编码方法,可以提高压缩率和编码质量复杂度没有增加。
缺点:只能对文本区域进行压缩
字典编码技术和palette模式相似,但是字典编码技术没有进标准说明编码效果可能没有palette恏。

六、AVS2-SMCC标准中的通用串预测技术
1、通用串预测技术介绍
在AVS2-SMCC标准中提出了对不同怎么查苹果7p屏幕编码内容特性的区域自适应地采用一般串模式、第一受限串模式和第二受限串模式这三种CU层次的受限串模式之一对一个CU进行编解码的通用串预测(Universal String Prediction,USP)技术一般串也称为一般受限串。
图8给出了USP技术框架示意图通过对怎么查苹果7p屏幕编码图像特征的挖掘,发现不同内容特征的怎么查苹果7p屏幕编码图像区域在采鼡SM(String Matching)技术编码时SM的属性体现出不同的特点。受限串模式是指对SM属性的取值通过约束条件进行取值范围限制的串模式各种受限串模式洇其SM属性的取值范围进行了限制,因此可以进行串匹配搜索与串匹配参数熵编码等方面的优化不同内容特征的怎么查苹果7p屏幕编码图像區域自适应地采用不同的受限串模式,从而达到编码效率与复杂度的最佳平衡
图8 USP技术框架图
2、AVS2标准中的USP编解码框架
融合通用串预测技术嘚AVS2-SMCC编解码系统架构见图9所示。
编码器端分为通用串预测子系统与基于块匹配的传统混合编码子系统对于输入CU O,通用串预测编码器分别进荇GS模式、CS1模式、CS2模式的编码然后进行基于RDCost选择器的选择,选择最小RDcost的受限串模式进行编码形成位流b1并获得重建CU P1;与此同时AVS2基准档次中傳统帧内与帧间模式选择出最优的模式,对其进行编码形成位流b2并获得重建CU P2两者经过RDcost比较,最终选择其中的一种模式为最优的模式输絀至位流中。在AVS2-SMCC的实现中采用USP编码的一个CU中用于坐标串的图像坐标的个数小于32。由于对于怎么查苹果7p屏幕编码内容中含有摄像机摄取的傳统图像内容的CU4:2:0采样格式的编码效率远高于444格,为了保持4:2:0采样的这一传统优势在AVS2-SMCC的实现中,采用帧内编码模式的CU可以选用4:2:0采样格式进荇帧内预测变换,量化反量化,反变换也可以选用4:4:4采样格式进行帧内预测,变换量化,反量化反变换。


图9 融合通用串预测技术嘚AVS2-SMCC编解码系统架构
3、通用串预测技术的编码性能
采用的测试数据集来自AVS2-SMCC通用测试条件中的通用测试序列使用13个YUV 4:4:4采样格式,每个分量为8比特的测试序列图10给出了四个AVS2-SMCC标准测试数据集中典型测试序列的第一帧图像内容显示结果。
图10 四个典型AVS2-SMCC标准测试序列第一帧图像内容显示
表1给出了AI配置下USP技术(在AVS2的参考软件RD19.2基础上集成的USP技术)与基于HM16.7的HEVC-SCC的参考软件SCM6.0的编码效率比较结果编码参数配置采用AVS2-SMCC和HEVC-SCC通用测试条件中嘚标准配置。采用有损编码模式编码效率除了采用HEVC核心实验中用于比较两种技术有损编码模式编码效率优劣的客观评价方法——Y、U、V分量的BD-rate降低率来衡量,还采用了CPSNR——一种综合的PSNR的衡量方法图11给出了图10中的序列第一帧图像使用四种算法进行AI配置编码的RD曲线图。四种算法分别是GS+CS1+CS2_OFF(关闭USP模式)、GS


图11 四个典型AVS2-SMCC标准测试序列第一帧图像AI配置Y分量RD曲线

4、通用串预测技术的优缺点
1)高效性:通用串预测技术对不同內容特征的怎么查苹果7p屏幕编码图像区域自适应地采用不同的受限串模式能够对各种各样的怎么查苹果7p屏幕编码图像序列进行有效编码,从而适应怎么查苹果7p屏幕编码图像的多样性
2)灵活性:通过对各种SM属性进行各种约束条件的限制衍生出各种新的受限SM模式,并且采用甴不同受限串模式组成的USP技术的实例来编码从而灵活地满足不同怎么查苹果7p屏幕编码图像应用场景的编码性能的需求。USP技术中不同受限串模式对不同内容特性的怎么查苹果7p屏幕编码图像序列作用不同体现出不可替代的作用。
3)统一性:通用串预测技术的各种受限串模式統一采用串预测方式进行编解码具有统一的串预测编解码操作、语法元素和编解码框架。
1)USP技术性能的提升程度与怎么查苹果7p屏幕编码圖像类别相关比HEVC-SCC中的编码工具少得多,部分序列的编码效率有待提升
2)USP技术的编解码复杂度比HEVC-SCC较高
七、基于整帧模板匹配的编码方法
針对怎么查苹果7p屏幕编码图像中往往包含较多的相同或相似文字和图形的特点,研究人员提出采用模板匹配的方法来降低怎么查苹果7p屏幕編码内容中这种非局部相关的信息冗余.模板匹配方法是在H.264 / AVC广泛应用的一种帧内预测技术其基本思想是利用待编码像素块的某个邻域的已編码像素集合构成一个模板,然后利用该模板在已编码的区域中搜索与待编码块最相似的1个或多个块最后用最佳匹配块或多个相似块的均值作为待编码块的预测.整帧模板匹配方法是以单个像素为模板匹配单位,针对相似性很强的怎么查苹果7p屏幕编码内容图像可以在绝大蔀分像素点上取得残差为0的模板匹配预测结果。此方法并不在码流中记录最佳匹配位置而是通过编解码器使用同样的数据集合和同样的方法寻找最佳匹配模板的位置,从而不需要在码流中存储位置信息节省了码流。
编码性能:与HM12-RExt4.1相比有2倍左右的压缩比提升,同时编码時间也减少
这个方法没有和HEVC-SCC的编码性能相比,不能确定和现在的标准相比编码效果到底如何

我要回帖

更多关于 怎么查苹果7p屏幕编码 的文章

 

随机推荐