第10章 率失真函数



《第10章 率失真函数》由会员分享,可在线阅读,更多相关《第10章 率失真函数(80页珍藏版)》请在文档大全上搜索。
1、第第10章章 率失真函数率失真函数第第10章章 率失真函数率失真函数第第10章章 率失真函数率失真函数10.1 保真度准则和测试信道保真度准则和测试信道1、失真度、失真度/失真函数失真函数)x , x(d)x ,x(dx x XxxX/jiji或间的非负函数或收到的消息源与等效信或发出的消息信源失真函数失真度ji1ji0)x ,x ( dji汉明失真度汉明失真度常用于离散信源常用于离散信源第第10章章 率失真函数率失真函数全部全部NN个失真度个失真度失真矩阵失真矩阵)x ,x ( d.)x ,x ( d)x ,x ( d.)x ,x ( d.)x ,x ( d)x ,x ( d)x ,x (
2、d.)x ,x ( d)x ,x ( dDNN2N1NN22212N12111汉明失真矩阵汉明失真矩阵0.11.1.011.10D第第10章章 率失真函数率失真函数平方误差失真函数平方误差失真函数常用于连续信源常用于连续信源2)x x()x , x(d第第10章章 率失真函数率失真函数2、平均失真度、平均失真度平均失真度平均失真度失真度失真度/失真函数的数学期望失真函数的数学期望N1iN1jjijiji)x ,x(d )x ,x(P)x ,x(d ED babax dxd)x , x(d)x , x(p)x , x(dED第第10章章 率失真函数率失真函数3、保真度准则、保真度准则保真度准则保
3、真度准则平均失真度不大于给定的允许失真平均失真度不大于给定的允许失真DDD 第第10章章 率失真函数率失真函数4、测试信道、测试信道满足保真度准则的所有数据处理信道满足保真度准则的所有数据处理信道DD: )X/X(P)X/X(PD离散信源的测试信道离散信源的测试信道)x/x (P.)x/x (P)x/x (P.)x/x (P.)x/x (P)x/x (P)x/x (P.)x/x (P)x/x (P)X/X(PNND2ND1NDN2D22D12DN1D21D11DD第第10章章 率失真函数率失真函数连续信源的测试信道连续信源的测试信道DD: )x/x (p)x/x (pD第第10章章 率失真函数
4、率失真函数10.2 离散信源的率失真函数离散信源的率失真函数率失真函数率失真函数信源给定时,测试信道传输的平均信源给定时,测试信道传输的平均互信息的最小值,用互信息的最小值,用R(D)表示表示)X;X( Imin)D(R)X/X(PD信源给定时,信源给定时, 对于测试信道转移概率对于测试信道转移概率 严格下凸严格下凸总能找到一种总能找到一种 ,使,使 在在保真度准则下达到最小保真度准则下达到最小)X;X( I)X;X( I)X/X(PD)X/X(PD第第10章章 率失真函数率失真函数测试信道的测试信道的N个约束条件个约束条件N, 2 , 1i1)x/x (PN1jijD保真度准则的约束条件保真
5、度准则的约束条件D)x ,x(d)x ,x(PDN1iN1jjiji限制下的条件极值和在D)x ,x(d)x ,x(PN, 2 , 1i1)x/x (P)X;X( IN1iN1jjijiN1jijD第第10章章 率失真函数率失真函数1)x/x (PD)x ,x(d)x/x (P)x(P S)X/X(H)X(H)x/x (P1)x/x (PD)x ,x(d)x/x (P)x(P S)X;X( I )x/x (PN1lklDkN1kN1llkklDkijDN1lklDkN1kN1llkklDkijD令第第10章章 率失真函数率失真函数 )x/x (Plog)x/x (P)x(P)x (Plog)x
6、 (P)x/x (PN1kklDN1lklDkN1lllijDN, 2 , 1jN, 2 , 1i01)x/x (PD)x ,x(d )x/x (P)x(P SN1lklDkN1kN1llkklDk第第10章章 率失真函数率失真函数)x(P )x/x (P)x(P)x/x (P)x/x (P)x (PiN1kkjDkijDijDj注意到elog)x(P)x (Plog)x(P)x/x (P)x (P)x (Plog)x (P)x (P)x (Plog)x (P)x/x (PijiijDjDlN1lljDlN1llijD第第10章章 率失真函数率失真函数elog)x(P)x/x (Plog)x(
7、P )x/x (Plog)x/x (P)x(P)x/x (PiijDiN1kklDN1lklDkijD)x ,x(d)x(SPD)x ,x(d)x/x (P)x(P S)x/x (PjiiN1kN1llkklDkijDiN1lklDkijD1)x/x (P)x/x (P第第10章章 率失真函数率失真函数N, 2 , 1jN, 2 , 1i0)x ,x(d )x(SP)x/x (Plog)x(P)x (Plog)x(PijiiijDijiN, 2 , 1jN, 2 , 1i0)x(P)x ,x(Sd)x (P)x/x (PlogiijijijD)x(Plogiii记第第10章章 率失真函数率失真
8、函数N, 2 , 1jN, 2 , 1i02log)x (P)x/x (Ploglog2log)x (P)x/x (Plog)x ,x(SdijijDi)x ,x(SdjijDjijiN, 2 , 1jN, 2 , 1i2 )x (P)x/x (P)x ,x(SdjiijDjiN, 2 , 1jN, 2 , 1i2)x (P)x/x (P)x ,x(SdijijDji第第10章章 率失真函数率失真函数对对j求和求和N, 2 , 1i2)x (P1N1j)x ,x(Sdjiji乘乘P(xi)对对i求和求和N, 2 , 1j12)x(PN1i)x ,x(SdiijiN, 2 , 1j2 )x (P
9、)x(P)x (PN1i)x ,x(SdjiijjiN, 2 , 1i/ 12)x (PiN1j)x ,x(Sdjji第第10章章 率失真函数率失真函数率失真函数及达到率失真函数的测试信道率失真函数及达到率失真函数的测试信道N, 2 , 1jS12)x(P) 1 (in1i)x ,x(Sdiiji的求含由N, 2 , 1i)x (PS/12)x (P)2(jin1j)x ,x(Sdjji的求含由N, 2 , 1jN, 2 , 1i2)x (P)x/x (PS) 3 ()x ,x(SdjiijDji的含N1ijijDN1jijDi)x (P)x/x (Plog)x/x (P)x(P)D(RS)
10、4(的含第第10章章 率失真函数率失真函数N1iiiN1iN1jjiijDiN1iN1jiijDij)x ,x(SdjiN1iN1jijDilog)x(PSD)x ,x(Sd)x/x (P)x(Plog)x/x (P)x(P)x (P2)x (Plog)x/x (P)x(PjiN1iN1jjiijDiS)x ,x(d)x/x (P)x(PDDS) 5 (求的由含N, 2 , 1jN, 2 , 1i)x/x (P)D(RS)6(ijD和的不含第第10章章 率失真函数率失真函数1、二进制信源的率失真函数、二进制信源的率失真函数2/1ppp)X(P)X(PX不失一般性,设二进制信源0110D失真矩阵
11、2 , 1jS12)x(P) 1 (i21i)x ,x(Sdiiji的求含由1) p1 (2p12 ) p1 (p2S1S21)21)(p1 (1)21 (p1S2S1第第10章章 率失真函数率失真函数)21)(p1 ()x (P2)x (P)21 ( p2)x (P)x (PSSSS2121SS2SS1212p)p1 ()x (P212)p1 (p)x (P2 , 1i)x (PS/ 12 )x (P) 2 (ji21j)x ,x(Sdjji的求含由第第10章章 率失真函数率失真函数SS2S12DS2S11D2)21 ( p2p) p1 ()x/x (P)21 ( p2) p1 (p)x/x