喜讯:西数科技通过2023年度4项司法鉴定能力验证,涵盖司法鉴定领域电子数据、声纹、图像视频

西数科技淮安服务中心 4006184118;西数科技南京服务中心 13813824669 [ 咨询免费 检测免费 ]主营数据恢复,司法鉴定,质量鉴定,电子取证。

站内搜索

联系我们

  • 276570401
  • 025-83608636
  • 18651607829
当前位置:首页 > 西数新闻 > IT技术文章 IT技术文章
语音特征提取: 看懂梅尔语谱图(Mel-spectrogram)、梅尔倒频系数(MFCCs)的原理
1. 什么是梅尔语谱图和梅尔倒频系数?VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
机器学习的第一步都是要提取出相应的特征(feature),如果输入数据是图片,例如28*28的图片,那么只需要把每个像素(pixel)作为特征,对应的像素值大小(代表颜色的强度)作为特征值即可。那么在音频、语音信号处理领域,我们需要将信号转换成对应的语谱图(spectrogram),将语谱图上的数据作为信号的特征。语谱图的横轴x为时间,纵轴y为频率,(x,y)对应的数值代表在时间x时频率y的幅值。通常的语谱图其频率是线性分布的,但是人耳对频率的感受是对数的(logarithmic),即对低频段的变化敏感,对高频段的变化迟钝,所以线性分布的语谱图显然在特征提取上会出现“特征不够有用的情况”,因此梅尔语谱图应运而生。梅尔语谱图的纵轴频率和原频率经过如下公式互换:VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
其中f代表原本的频率,m代表转换后的梅尔频率,显然,当f很大时,m的变化趋于平缓。而梅尔倒频系数(MFCCs)是在得到梅尔语谱图之后进行余弦变换(DCT,一种类似于傅里叶变换的线性变换),然后取其中一部分系数即可。VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
2. 梅尔语谱图具体是如何获得的?VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
梅尔语谱图分为以下几个步骤。以一段音乐文件为例,详细展示每一步的原理和对应的Python实现。VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
2.1 获取音频信号VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
python可以用librosa库来读取音频文件,但是对于MP3文件,它会自动调用audio_read函数,所以如果是MP3文件,务必保证将ffmpeg.exe的路径添加到系统环境变量中,不然audio_read函数会出错。这里我们首先读取音频文件,并作出0-20秒的波形。现在的音乐文件采样率通常是44.1kHz。用y和sr分别表示信号和采样率。代码和图形如下:VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
import librosaVjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
import numpy as npVjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
import matplotlib.pyplot as pltVjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
from matplotlib import rcParamsVjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
import matplotlib.ticker as tickerVjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
 VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
#这是一个画图函数,方便后续作图VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
def personal_plot(x,y):VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
    plt.figure(dpi=200,figsize=(12,6))VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
    rcParams['font.family']='Comic Sans MS'VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
    plt.plot(x,y)VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
    plt.xlim(x[0],x[-1])VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
    plt.xlabel('time/s',fontsize=20)VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
    plt.ylabel('Amplitude',fontsize=20)VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
    plt.xticks(fontsize=16)VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
    plt.yticks(fontsize=16)VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
    plt.grid()VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
 VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
#注意如果文件名不加路径,则文件必须存在于python的工作目录中VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
y,sr = librosa.load('笑颜.mp3',sr=None)VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
 VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
#这里只获取0-20秒的部分,这里也可以在上一步的load函数中令duration=20来实现VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
tmax,tmin = 20,0VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
t = np.linspace(tmin,tmax,(tmax-tmin)*sr)VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
personal_plot(t,y[tmin*sr:tmax*sr])VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
2.2 信号预加重(pre-emphasis)VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
通常来讲语音/音频信号的高频分量强度较小,低频分量强度较大,信号预加重就是让信号通过一个高通滤波器,让信号的高低频分量的强度不至于相差太多。在时域中,对信号x[n]作如下操作:VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
α通常取一个很接近1的值,typical value为0.97或0.95. 从时域公式来看,可能有部分人不懂为啥这是一个高通滤波器,我们从z变换的角度看一下滤波器的transfer function:VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
可以看出滤波器有一个极点0,和一个零点α。当频率为0时,z=1, 放大系数为(1-α)。当频率渐渐增大,放大系数不断变大,当频率到pi时,放大系数为(1+α)。离散域中,[0,pi]对应连续域中的[0, fs/2](单位Hz)。其中fs为采样率,在我们这里是44.1kHz。因此当频率到22000Hz时,放大系数为(1+α)。下面用两段代码和对应的图像给出一个直观感受:VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
alpha = 0.97VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
emphasized_y = np.append(y[tmin*sr],y[tmin*sr+1:tmax*sr]-alpha*y[tmin*sr:tmax*sr-1])VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
n = int((tmax-tmin)*sr) #信号一共的sample数量VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
 VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
#未经过预加重的信号频谱VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
plt.figure(dpi=300,figsize=(7,4))VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
freq = sr/n*np.linspace(0,n/2,int(n/2)+1)VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
plt.plot(freq,np.absolute(np.fft.rfft(y[tmin*sr:tmax*sr],n)**2)/n)VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
plt.xlim(0,5000)VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
plt.xlabel('Frequency/Hz',fontsize=14)VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
 VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
#预加重之后的信号频谱VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
plt.figure(dpi=300,figsize=(7,4))VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
plt.plot(freq,np.absolute(np.fft.rfft(emphasized_y,n)**2)/n)VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
plt.xlim(0,5000)VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
plt.xlabel('Frequency/Hz',fontsize=14)VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
这两段代码里用了函数librosa.fft.rfft(y,n),rfft表示经过fft变换之后只取其中一半(因为另一半对应负频率,没有用处), y对应信号,n对应要做多少点的FFT。我们这里的信号有44.1k*20=882000个点,所以对应的FFT 也做882000点的FFT,每一个点所对应的实际频率是该点的索引值*fs/n,这是咋得出来的?因为第882000个点应该对应(约等于)fs(或者离散域中的2pi),所以前面的点根据线性关系一一对应即可。这里只展示0-5000Hz,可以看出,经过预加重之后的信号高频分量明显和低频分量的差距没那么大了。VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
这样预加重的好处有什么?原文提到了三点:(1)就是我们刚刚提到的平衡一下高频和低频 (2)避免FFT中的数值问题(也就是高频值太小出现在分母的时候可能会出问题) (3)或许可以提高SNR。VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
2.3 分帧(framing)VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
预处理完信号之后,要把原信号按时间分成若干个小块,一块就叫一帧(frame)。为啥要做这一步?因为原信号覆盖的时间太长,用它整个来做FFT,我们只能得到信号频率和强度的关系,而失去了时间信息。我们想要得到频率随时间变化的关系,所以将原信号分成若干帧,对每一帧作FFT(又称为短时FFT,因为我们只取了一小段时间),然后将得到的结果按照时间顺序拼接起来。这就是语谱图(spectrogram)的原理。VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
下面定义几个变量:VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
frame_size: 每一帧的长度。通常取20-40ms。太长会使时间上的分辨率(time resolution)较小,太小会加重运算成本。这里取25ms.VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
frame_length: 每一帧对应的sample数量。等于fs*frame_size。我们这里是44.1k*0.025=1102.VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
frame_stride: 相邻两帧的间隔。通常间隔必须小于每一帧的长度,即两帧之间要有重叠,否则我们可能会实去两帧边界附近的信息。做特征提取的时候,我们是绝不希望实去有用信息的。 这里取10ms,即有60%的重叠。VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
frame_step: 相邻两帧的sample数量。这里是441.VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
frame_num: 整个信号所需要的帧数。一般希望所需要的帧数是个整数值,所以这里要对信号补0(zero padding)让信号的长度正好能分成整数帧。VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
具体代码如下:VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
frame_size, frame_stride = 0.025,0.01VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
frame_length, frame_step = int(round(sr*frame_size)),int(round(sr*frame_stride))VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
signal_length = (tmax-tmin)*srVjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
frame_num = int(np.ceil((signal_length-frame_length)/frame_step))+1 #向上舍入VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
pad_frame = (frame_num-1)*frame_step+frame_length-signal_length #不足的部分补零VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
pad_y = np.append(emphasized_y,np.zeros(pad_frame))VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
signal_len = signal_length+pad_frameVjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
2.4 加窗(window)VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
分帧完毕之后,对每一帧加一个窗函数,以获得较好的旁瓣下降幅度。通常使用hamming window。VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
为啥要加窗?要注意,即使我们什么都不加,在分帧的这个过程中也相当于给信号加了矩形窗,学过离散滤波器设计的人应该知道,矩形窗的频谱有很大的旁瓣,时域中将窗函数和原函数相乘,相当于频域的卷积,矩形窗函数和原函数卷积之后,由于旁瓣很大,会造成原信号和加窗之后的对应部分的频谱相差很大,这就是频谱泄露。hamming window有较小的旁瓣,造成的spectral leakage也就较小。代码实现如下:首先定义indices变量,这个变量生成每帧所对应的sample的索引。np.tile函数可以使得array从行或者列扩展。然后定义frames,对应信号在每一帧的值。frames共有1999行,1102列,分别对应一共有1999帧和每一帧有1102个sample。将得到的frames和hamming window直接相乘即可,注意这里不是矩阵乘法。VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
indices = np.tile(np.arange(0, frame_length), (frame_num, 1)) + np.tile(VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
    np.arange(0, frame_num * frame_step, frame_step), (frame_length, 1)).TVjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
frames = pad_y[indices] #frame的每一行代表每一帧的sample值VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
frames *= np.hamming(frame_length) #加hamming window 注意这里不是矩阵乘法VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
2.5 获取功率谱VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
我们在2.4中已经获得了frames变量,其每一行对应每一帧,所以我们分别对每一行做FFT。由于每一行是1102个点的信号,所以可以选择1024点FFT(FFT点数比原信号点数少会降低频率分辨率frequency resolution,但这里相差很小,所以可以忽略)。将得到的FFT变换取其magnitude,并进行平方再除以对应的FFT点数,即可得到功率谱。到这一步我们其实已经得到了spectrogram, 只需要用plt.imshow画出其dB值对应的热力图即可,代码和结果如下:VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
NFFT = 1024 #frame_length=1102,所以用1024足够了VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
mag_frames = np.absolute(np.fft.rfft(frames,NFFT))VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
pow_frames = mag_frames**2/NFFTVjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
 VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
plt.figure(dpi=300,figsize=(12,6))VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
plt.imshow(20*np.log10(pow_frames[40:].T),cmap=plt.cm.jet,aspect='auto')VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
plt.yticks([0,128,256,384,512],np.array([0,128,256,384,512])*sr/NFFT)VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
2.6 梅尔滤波器组(Mel-filter banks)VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
较后一步是将梅尔滤波器运用到上一步得到的pow_frames上。所谓梅尔滤波器组是一个等高的三角滤波器组,每个滤波器的起始点在上一个滤波器的中点处。其对应的频率在梅尔尺度上是线性的,因此称之为梅尔滤波器组。每个滤波器对应的频率可以将较大频率(下图中是4000,我们这里是22.05k)用上文中提到的公式转换成梅尔频率,在梅尔尺度上线性分成若干个频段,再转换回实际频率尺度即可。实际操作时,将每个滤波器分别和功率谱pow_frames进行点乘,获得的结果即为该频带上的能量(energy)。这里我们的pow_frames是一个(1999,513)的矩阵(这里可能有人疑问513咋来的?我们刚刚做的不是1024点FFT吗?这里注意因为我们用了rfft,只用了非负的那一半频率,所以是1024/2+1个点),梅尔滤波器fbank是一个(mel_N, 513)的矩阵,其中mel_N代表对应的梅尔滤波器个数,这个值不能太大,因为这里我们一共只有513个点,如果mel_N取得太大,会导致前面几个滤波器的长度都是0 (因为低频的梅尔滤波器特别窄)。我们只要将这两个矩阵相乘pow_frames*fbank.T即可得到mel-spectrogram,结果是一个(1999, 40)的矩阵,每一行是一帧,每一列代表对应的梅尔频带的能量。具体梅尔滤波器的图例和计算公式以及对应代码如下:VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
其中m代表滤波器的序号,f(m-1)和f(m)、f(m+1)分别对应第m个滤波器的起始点、中间点和结束点。大家一定要注意的一点是,这里的f(m)对应的值不是频率值,而是对应的sample的索引!比如,我们这里较大频率是22050 Hz, 所以22050Hz对应的是第513个sample,即频率f所对应的值是f/fs*NFFT。VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
代码中有一段np.where(condition,a,b),这个函数的功能是检索b中的元素,当condition满足的时候,输出a否则,输出b中的原元素。这一步的操作是为了将其中的全部0值以一个很小的非负值代替,否则在计算dB的时候,log中出现0会出错。VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
#下面定义mel filterVjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
mel_N = 40 #滤波器数量,这个数字若要提高,则NFFT也要相应提高VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
mel_low, mel_high = 0, (2595*np.log10(1+(sr/2)/700))VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
mel_freq = np.linspace(mel_low,mel_high,mel_N+2)VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
hz_freq = (700 * (10**(mel_freq / 2595) - 1))VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
bins = np.floor((NFFT)*hz_freq/sr) #将频率转换成对应的sample位置VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
fbank = np.zeros((mel_N,int(NFFT/2+1))) #每一行储存一个梅尔滤波器的数据VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
for m in range(1, mel_N + 1):VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
    f_m_minus = int(bins[m - 1])   # leftVjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
    f_m = int(bins[m])             # centerVjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
    f_m_plus = int(bins[m + 1])    # rightVjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
 VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
    for k in range(f_m_minus, f_m):VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
        fbank[m - 1, k] = (k - bins[m - 1]) / (bins[m] - bins[m - 1])VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
    for k in range(f_m, f_m_plus):VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
        fbank[m - 1, k] = (bins[m + 1] - k) / (bins[m + 1] - bins[m])VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
filter_banks = np.matmul(pow_frames, fbank.T)VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
filter_banks = np.where(filter_banks == 0, np.finfo(float).eps, filter_banks)  # np.finfo(float)是较小正值VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
filter_banks = 20 * np.log10(filter_banks)  # dBVjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
#filter_banks -= np.mean(filter_banks,axis=1).reshape(-1,1)VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
plt.figure(dpi=300,figsize=(12,6))VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
plt.imshow(filter_banks[40:].T, cmap=plt.cm.jet,aspect='auto')VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
plt.yticks([0,10,20,30,39],[0,1200,3800,9900,22000])VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
较后,得到的mel-spectrogram如下:VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
2.7 Mel-spectogram featureVjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
机器学习的时候,每一个音频段即可用对应的mel-spectogram表示,每一帧对应的某个频段即为一个feature。因此我们一共获得了1999*40个feature和对应的值。实际操作中,每个音频要采用同样的长度,这样我们的feature数量才是相同的。通常还要进行归一化,即每一帧的每个元素要减去该帧的平均值,以保证每一帧的均值均为0.VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
3. MFCCs原理VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
得到了梅尔语谱图,想得到MFCCs就很简单了。首先,为啥要用MFCCs? 因为2中得到的梅尔谱系数是互相关的,在一些机器学习算法中可能会出问题,因为有些算法假设数据不存在互相关性。因此,可以用DCT变换来压缩梅尔谱,得到一组不相关的系数。DCT在图像压缩领域很常见,大家可以自己查阅相关资料其原理。在语音识别中,得到的梅尔倒频系数只保存前2-13个,剩下的不用,因为研究表明其他系数代表了系数中高阶的变化,在ASR中没啥用。VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
当然,更深层次的原因是MFCC是倒谱系数,所谓倒谱系数,就是对log之后的梅尔谱系数进行DCT变换,其实相当于将实际上是频域的信号当成时域信号强行进行频域变换,得到的是频域信号在伪频域的幅频相应,前2-13个系数代表的是包络,因为他们在伪频域上是低频信号,所以在前面,后面的系数是伪频域的高频信号,代表的是spectral details,在语音识别的时候,对我们帮助更大的是包络,因为包含了formants等信息。VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
4. 总结VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
总的来说,过去在HMM、GMM等模型用的比较火的时候,多将MFCC用于特征提取,因为当时的机器学习算法有相应的不足。如今较热门的是以神经网络为代表的深度学习算法,神经网络内部复杂,在训练的过程中可以在网络内部将互相关的问题弱化,也因此DCT变换显得有些多余,何况还会提高计算量,而且DCT作为一种线性变换,有可能会导致损失信号中一些非线性信息。因此,如今Mel-spectogram用的更多。VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
 VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
————————————————VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
版权声明:本文为CSDN博主「BeichenLiu.Polaris」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。VjX西数科技 - 专业数据恢复与质量鉴定服务 | 司法鉴定 | 硬盘及服务器数据恢复专家
原文链接:https://blog.csdn.net/weixin_50547200/article/details/117294164
上一篇:现代语音信号处理之语谱图(spectrogram)
下一篇:【法学汇】电子证据运用:如何“重建”案件事实
Copyright(C)2014 西数科技(江苏)有限公司 wdsos.com 备案号:苏ICP备09074223号 苏公网安备:32010202010982号
南京地址:江苏省南京市玄武区珠江路435号华海大厦6楼601室(同庆楼右侧上电梯) 
淮安地址:江苏省淮安市清江浦区枚皋路中兴软件园研发楼503室 
数据恢复:025-86883952  司法鉴定:13813824669 
|公众号|微博|论坛|百家号|