摘要：CABAC是H.264／AVC视频压缩标准中采用的一种熵编码机制，结合RDO模式选择技术，可以降低20％的码率。在RDO模式选择过程中，需要对编码块的每一种候选模式进行熵编码以获得编码位数，这在很大程度上增加了视频编码的计算复杂度。为了避免复杂的Lagrange耗费计算，本文第一次提出了一种CABAC熵编码机制下的变换域码率估计方法，基于量化变换系数和运动向量差对熵编码位数进行估计。在此基础上，本文将码率估计技术应用在RDO模式选择中，提出了基于码率估计的快速模式选择算法，减少了模式选择的计算时间。模拟结果显示，本文提出的CABAC熵编码机制下的变换域码率估计技术在对编码性能影响不大的情况下，减少了模式选择中51％的率失真耗费计算时间，采用全搜索运动估计算法时，节省33％的总编码时间。

关键词：cabac 熵编码 码率估计 rdo模式选择 lagrange耗费 

单位：国防科技大学计算机学院; 湖南长沙410073