研究问题：在存在信道噪声的情况下，如何分配发送滤波器和接收滤波器特性使之获得最佳传输效果？
1.发送滤波器和接收滤波器的最佳分配

设发送滤波器和接收滤波器的传递函数分别为T(f)和R(f) ；信道的传递函数为，假设在通道内信道已被均衡，则

最佳化的概念：所谓最佳化就是要在有噪声条件下，发送滤波器和接收滤波器不仅满足式H(f)=T(f)R(f)的要求，又能使接收滤波器的输出有最大信噪比，以保证系统误码率最小，传输可靠性最高。
最佳化的条件：如考虑引入信道噪声是均值为零的高斯白噪声，则最佳化的条件简化为

即发送滤波器和接收滤波器的传递函数应相同，并各为所要求形成特性的平方根。
2.基带传输的误码性能分析
条件：在满足最佳发送和接收滤波器分配的条件下,即条件下基带传输的误码性能。
（1）二电平传输系统的误码率（双极性码）
设： 发“1”码时，接收端取样时刻的值为d ；发“0”码时，接收端取样时刻的值为-d。
判决电平值为0（门限电平）
取样时刻噪声样值为n，则
发“1”码时，当n<-d ，误判为“0”
发“0”码时，当n>d ，误判为“1”
系统误码率为

结论（当信道中的噪声是均值为零的高斯白噪声时）：

式中，为马库姆概率积分函数，Q(x)与x成反比；d为信号幅度；σ为噪声的均方根值（方差的开平方，代表噪声的大小）；d/σ 与信噪比（信号功率比噪声功率）成正比，即误码率成反比，即与信噪比成反比。
（2）多电平传输系统的误码率

式中：M 为电平数,P₅为信号功率，N为噪声平均功率。
讨论: 公式中若M=2，则为，可见，，即与信噪比成正比。
例：考虑一理想基带传输系统，若要求传输误码率不高于10^-4，试求二电平传输时和四电平传输时所要求的奈氏频带内的信噪比？并比较这两种传输方式。
解：



M=4较M=2可使比特率提高一倍，但要求信噪比提高了7.2dB。