一种码率确定模型训练方法、码率确定方法及装置与流程
本申请涉及音视频技术领域,特别是涉及一种码率确定模型训练方法、码率确定方法及装置。
背景技术:
随着移动互联网的发展,在终端上使用音频成为了越来越多用户的需求,为了节省传输资源和存储资源,音频信号在传输及存储中需要被编码。音频编码技术可以分为无损编码,即终端可以通过解码器完美恢复原始音频信号;另一种编码方式为有损编码,即终端通过解码器解码后的音频信号被不同程度的压缩。
相关技术中,在对音频信号进行编码时,通常会指定一个码率,编码器可以按照指定码率进行编码,为了保证编码后的音频信号的质量,通常会指定一个高码率来对音频信号进行编码。
这样,在传输编码后的音频信号时,会需要较高的传输带宽;并且,在存储编码后的音频信号时,会需要较大的存储空间,进而导致了传输资源和存储资源的浪费。
技术实现要素:
为了解决相关技术中存在的因音频信号的编码码率高,而导致传输以及存储编码后的音频信号时,造成传输资源及存储资源浪费的技术问题,本公开提供了一种码率确定模型训练方法、码率确定方法及装置,本公开的技术方案如下:
根据本公开实施例的第一方面,提供了一种码率确定模型训练方法,所述方法包括:
获取音频样本数据集合,所述音频样本数据集合中包括不同类型的音频信号;
获取每个所述音频信号的特征信息和所述音频信号对应的目标编码码率,所述特征信息与所述音频信号的类型相关联,所述目标编码码率为所述音频信号满足目标音频质量时的最低编码码率;
将获取的所述特征信息输入待训练的码率确定模型中,得到所述待训练的码率确定模型输出的编码码率;
根据所述待训练的码率确定模型输出的编码码率和所述目标编码码率,获取所述待训练的码率确定模型的损失值;
根据所述损失值调整所述待训练的码率确定模型的模型参数,直至所述损失值低于预设阈值时,将所述待训练的码率确定模型作为训练好的码率确定模型。
可选的,获取所述音频信号对应的目标编码码率,包括:
根据预设码率对所述音频信号进行编码以得到编码后的音频信号;
根据所述音频信号和所述编码后的音频信号,计算所述编码后的音频信号的质量损失值;
当所述质量损失值小于质量损失阈值,且所述质量损失值为最小的质量损失值时,将所述预设码率确定为所述音频信号对应的目标编码码率。
可选的,所述当所述质量损失值小于质量损失阈值,且所述质量损失值为最小的质量损失值时,将所述预设码率确定为所述音频信号对应的目标编码码率,包括:
当所述质量损失值小于质量损失阈值时,减小所述预设码率,并根据减小后的预设码率对所述音频信号进行编码以得到编码后的音频信号,直到所述音频质量损失值大于所述质量损失阈值;
将前一个减小后的预设码率作为目标编码码率。
可选的,所述获取每个所述音频信号的特征信息,包括:
获取每个所述音频信号在时频域的振幅信息和相位信息,根据所述振幅信息和/或相位信息确定所述音频信号的特征信息。
可选的,所述获取每个所述音频信号的特征信息和所述音频信号对应的目标编码码率,包括:
获取每个所述音频信号的每一帧信号的特征信息和所述音频信号的每一帧信号对应的目标编码码率;
或,获取每个所述音频信号中的每一帧信号的特征信息,将各帧信号的特征信息的平均值作为所述音频信号的特征信息,且获取与所述音频信号的特征信息对应的目标编码码率。
根据本公开实施例的第二方面,提供了一种码率确定方法,所述方法包括:
获取待编码音频信号的特征信息;
将所述待编码音频信号的特征信息输入第一方面所述的码率确定模型,得到所述待编码音频信号对应的编码码率,以按照所述待编码音频信号对应的编码码率对所述待编码音频信号进行编码。
可选的,所述获取待编码音频信号的特征信息,包括:
获取所述待编码音频信号在时频域的振幅信息和相位信息,根据所述振幅信息和/或相位信息确定所述待编码音频信号的特征信息。
可选的,所述获取待编码音频信号的特征信息,包括:
获取待编码音频信号的每一帧信号的特征信息;
或,获取待编码音频信息中的每一帧信号的特征信息,将各帧信号的特征信号的平均值作为所述待编码音频信号的特征信息。
根据本公开实施例的第三方面,提供了一种码率确定模型训练装置,所述装置包括:
音频信号获取模块,被配置为执行获取音频样本数据集合,所述音频样本数据集合中包括不同类型的音频信号;
信息及码率获取模块,被配置为执行获取每个所述音频信号的特征信息和所述音频信号对应的目标编码码率,所述特征信息与所述音频信号的类型相关联,所述目标编码码率为所述音频信号满足目标音频质量时的最低编码码率;
编码码率获取模块,被配置为执行将获取的所述特征信息输入待训练的码率确定模型中,得到所述待训练的码率确定模型输出的编码码率;
损失值获取模块,被配置为执行根据所述待训练的码率确定模型输出的编码码率和所述目标编码码率,获取所述待训练的码率确定模型的损失值;
模型参数调整模块,被配置为执行根据所述损失值调整所述待训练的码率确定模型的模型参数,直至所述损失值低于预设阈值时,将所述待训练的码率确定模型作为训练好的码率确定模型。
可选的,所述信息及码率获取模块,包括:
音频信号编码单元,被配置为执行根据预设码率对所述音频信号进行编码以得到编码后的音频信号;
质量损失值计算单元,被配置为执行根据所述音频信号和所述编码后的音频信号,计算所述编码后的音频信号的质量损失值;
目标编码码率确定单元,被配置为执行当所述质量损失值小于质量损失阈值,且所述质量损失值为最小的质量损失值时,将所述预设码率确定为所述音频信号对应的目标编码码率。
可选的,所述目标编码码率确定单元,具体被配置为执行:
当所述质量损失值小于质量损失阈值时,减小所述预设码率,并根据减小后的预设码率对所述音频信号进行编码以得到编码后的音频信号,直到所述音频质量损失值大于所述质量损失阈值;
将前一个减小后的预设码率作为目标编码码率。
可选的,所述信息及码率获取模块,具体被配置为执行:
获取每个所述音频信号在时频域的振幅信息和相位信息,根据所述振幅信息和/或相位信息确定所述音频信号的特征信息。
可选的,所述信息及码率获取模块,具体被配置为执行:
获取每个所述音频信号的每一帧信号的特征信息和所述音频信号的每一帧信号对应的目标编码码率;
或,获取每个所述音频信号中的每一帧信号的特征信息,将各帧信号的特征信息的平均值作为所述音频信号的特征信息,且获取与所述音频信号的特征信息对应的目标编码码率。
根据本公开实施例的第四方面,提供了一种码率确定装置,所述装置包括:
特征信息获取模块,被配置为执行获取待编码音频信号的特征信息;
编码码率确定模块,被配置为执行将所述待编码音频信号的特征信息输入第三方面所述的码率确定模型,得到所述待编码音频信号对应的编码码率,以按照所述待编码音频信号对应的编码码率对所述待编码音频信号进行编码。
可选的,所述特征信息获取模块,具体被配置为执行:
获取所述待编码音频信号在时频域的振幅信息和相位信息,根据所述振幅信息和/或相位信息确定所述待编码音频信号的特征信息。
可选的,所述特征信息获取模块,具体被配置为执行:
获取待编码音频信号的每一帧信号的特征信息;
或,获取待编码音频信息中的每一帧信号的特征信息,将各帧信号的特征信号的平均值作为所述待编码音频信号的特征信息。
根据本公开实施例的第五方面,提供了一种电子设备,包括:
处理器;
用于存储所述处理器可执行指令的存储器;
其中,所述处理器被配置为执行所述指令,以实现第一方面所述的码率确定模型训练方法。
根据本公开实施例的第六方面,提供了一种电子设备,包括:
处理器;
用于存储所述处理器可执行指令的存储器;
其中,所述处理器被配置为执行所述指令,以实现如第二方面所述的码率确定方法。
根据本公开实施例的第七方面,提供了一种存储介质,当所述存储介质中的指令由电子设备的处理器执行时,使得所述电子设备能够执行如第一方面所述的码率确定模型训练方法。
根据本公开实施例的第八方面,提供了一种存储介质,当所述存储介质中的指令由电子设备的处理器执行时,使得所述电子设备能够执行第二方面所述的码率确定方法。
根据本公开实施例的第九方面,提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机实现第一方面所述的码率确定模型训练方法。
根据本公开实施例的第十方面,提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机实现第二方面所述的码率确定方法。
可见,通过本公开实施例提供的技术方案,码率确定模型的目标输出是目标编码码率,该目标编码码率为音频信号满足目标音频质量时的最低编码码率,这样,后续步骤中,在对待编码音频数据进行编码时,通过该码率确定模型可以得到合适大小的编码码率,并能够保证编码后的音频数据的音频质量。而不像相关技术那样,确定一个较高的编码码率,从而可以节省编码后的音频数据传输时的传输带宽,以及编码后的音频数据存储时的存储空间。
附图说明
图1是根据一示例性实施例示出的码率确定模型训练方法的流程图;
图2是根据一示例性实施例示出的码率确定模型训练过程的示意图
图3是根据一示例性实施例示出的获取音频信号对应的目标编码码率的流程图;
图4是根据一示例性实施例示出的获取音频信号对应的目标编码码率的过程的示意图;
图5是根据一示例性实施例示出的码率确定方法的流程图;
图6是根据一示例性实施例示出的码率确定模型训练装置的框图;
图7是根据一示例性实施例示出的码率确定装置的框图;
图8是根据一示例性实施例示出的一种电子设备的框图;
图9是根据一示例性实施例示出的另一种电子设备的框图;
图10是根据一示例性实施例示出的一种码率确定模型训练装置或者码率确定装置的框图;
图11是根据一示例性实施例示出的另一种码率确定模型训练装置或者码率确定装置的框图。
具体实施方式
为了使本领域普通人员更好地理解本公开的技术方案,下面将结合附图,对本公开实施例中的技术方案进行清楚、完整地描述。
需要说明的是,本公开的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本公开的实施例能够以除了在这里图示或描述的那些以外的顺序实施。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
为了解决相关技术中存在的因音频信号的编码码率高,而导致传输以及存储编码后的音频信号时,造成传输资源及存储资源浪费的技术问题,本公开提供了一种码率确定模型训练方法、码率确定方法及装置。
第一方面,将对本公开实施例提供的一种码率确定模型训练方法进行详细介绍。
如图1所示,本公开实施例提供的一种码率确定模型训练方法,可以包括如下步骤:
在步骤s11中,获取音频样本数据集合。
其中,音频样本数据集合中包括不同类型的音频信号。
具体的,在对码率确定模型进行训练时,需要采集大量的样本数据,即需要采集音频样本数据集合。并且,音频样本数据集合中可以包括不同类型的音频信号。
举例而言,音频样本数据集合中可以包括语音信号,音乐信号以及背景环境音信号等这些不同类型的音频信号,本公开实施例对音频样本数据集合中所包括的音频信号的类型不做具体限定。
在步骤s12中,获取每个音频信号的特征信息和音频信号对应的目标编码码率。
其中,音频信号的特征信息与音频信号的类型相关联,目标编码码率为音频信号满足目标音频质量时的最低编码码率。
具体的,在获取到音频样本数据集合后,可以获取音频样本数据集合中每个音频信号的特征信息和目标编码码率。
音频信号的特征信息与音频信号的类型相关联,对于不同类型的音频信号,其特征信息通常也不同。具体的,当音频信号的类型为语音信号时,音频信号的特征信息为语音信号的特征信息;当音频信号的类型为音乐信号时,音频信号的特征信息为音乐信号的特征信息;同样的,当音频信号的类型为背景环境音信号时,音频信号的特征信息为背景环境音信号的特征信息。其中,音频信号的特征信息可以是音频信号在时频域的振幅信息、相位信息等,本公开实施例对音频信号的特征信息不做具体限定。
并且,为了保证编码后的音频信号在满足指定的音频质量的情况下,能够尽量地节省编码后的音频信号传输时的传输带宽,以及编码后的音频信号存储时的存储空间,需要目标编码码率为音频信号满足目标音频质量时的最低编码码率。其中,目标音频质量可以为指定的音频质量,该指定的音频质量可以根据实际情况进行确定,例如,对于类型为背景环境音的音频信号而言,指定的音频质量可以较低;对于类型为音乐信号的音频信号而言,指定的音频质量可以较高。本公开实施例对目标音频质量的大小不做具体限定。
为了方案描述清楚,将在下面实施例对获取每个音频信号的特征信息和音频信号对应的目标编码码率的具体实施方式进行详细阐述。
在步骤s13中,将获取的特征信息输入待训练的码率确定模型中,得到待训练的码率确定模型输出的编码码率。
在获取到音频信号的特征信息和音频信号对应的目标编码码率之后,可以对码率确定模型进行训练。具体的,可以将获取到的音频信号的特征信息输入到待训练的码率确定模型,从待训练的码率确定模型中输出音频信号的编码码率。
在步骤s14中,根据待训练的码率确定模型输出的编码码率和目标编码码率,获取待训练的码率确定模型的损失值。
具体的,由于码率确定模型的目标输出为目标编码码率,因此,在得到待训练的码率确定模型输出的编码码率后,可以根据待训练的码率确定模型输出的编码码率和目标编码码率,来计算待训练的码率确定模型的损失值。
可以理解的是,待训练的码率确定模型的损失值可以用于表征从待训练的码率确定模型输出的编码码率与目标编码码率之间差值的大小。如果待训练的码率确定模型的损失值较大,那么,从待训练的码率确定模型输出的编码码率与目标编码码率之间差值较大;如果待训练的码率确定模型的损失值较小,那么,从待训练的码率确定模型输出的编码码率与目标编码码率之间差值较小。
在步骤s15中,根据损失值调整待训练的码率确定模型的模型参数,直至损失值低于预设阈值时,将待训练的码率确定模型作为训练好的码率确定模型。
具体的,如果待训练的码率确定模型的损失值较大,说明从待训练的码率确定模型输出的编码码率与目标编码码率之间差值较大,为了使得从待训练的码率确定模型输出的编码码率接近目标编码码率,可以调整待训练的码率确定模型的模型参数。
并且,在调整待训练的码率确定模型的模型参数后,可以再次将音频信号的特征信息输入到待训练的码率确定模型中,再次得到从待训练的码率确定模型输出的编码码率,并根据再次得到的从待训练的码率确定模型输出的编码码率和目标编码码率,计算待训练的码率确定模型的损失值。直至损失值小于预设阈值时,说明从待训练的码率确定模型输出的编码码率接近目标编码码率,此时,可以将待训练的码率确定模型作为训练好的码率确定模型。
需要说明的是,预设阈值可以根据实际情况进行确定,本公开实施例对预设阈值的大小不做具体限定。
可见,通过本公开实施例提供的技术方案,码率确定模型的目标输出是目标编码码率,该目标编码码率为音频信号满足目标音频质量时的最低编码码率,这样,后续步骤中,在对待编码音频数据进行编码时,通过该码率确定模型可以得到合适大小的编码码率,并能够保证编码后的音频数据的音频质量。而不像相关技术那样,确定一个较高的编码码率,从而可以节省编码后的音频数据传输时的传输带宽,以及编码后的音频数据存储时的存储空间。
并且,为了更加直观清楚地了解码率确定模型的训练过程,下面将结合具体实例对码率确定模型训练的过程进行阐述,如图2所示。
在训练码率确定模型时,获取音频信号;提取音频信号的特征,并基于综合分析估计音频信号的编码码率,即获取音频信号对应的目标编码码率,其中,该目标编码码率即为码率确定模型的目标输出。
然后基于所提取的特征和音频信号的编码码率对神经网络即待训练的码率确定模型进行训练。在训练神经网络的过程中,不断优化神经网络的参数,在神经网络的损失值小于预设阈值时,得到神经网络最优参数,此时,将训练好的神经网络确定为训练好的码率确定模型。
为了方案描述清楚,下面将对获取音频信号对应的目标编码码率的具体实施方式进行详细阐述。
在一种实施方式中,获取音频信号对应的目标编码码率,如图3所示,可以包括如下步骤:
在步骤s31中,根据预设码率对音频信号进行编码以得到编码后的音频信号。
具体的,在确定音频信号的目标编码码率时,可以按照预先确定的预设码率对音频信号进行编码,得到编码后的音频信号。其中,预设码率的数量可以有多个,具体的,这多个预设码率可以是预先确定的数值较大的初始编码码率,以及降低该初始编码码率所得的的编码码率。
需要说明的是,预设码率的大小可以根据实际情况进行设定,本公开实施例对预设码率的大小不做具体限定。
在步骤s32中,根据音频信号和编码后的音频信号,计算编码后的音频信号的质量损失值。
具体的,在得到编码后的音频信号后,可以得到编码后的音频信号的音频质量,并可以根据编码后的音频信号的音频质量和编码前的音频信号的信号质量,来确定编码后的音频信号的质量损失值。该质量损失值可以用于衡量编码后的音频信号与编码前的音频信号相比,音频质量的损失程度。
其中,计算编码后的音频信号的质量损失值的过程可以为:利用音频质量测评方法对编码后的音频信号的音频质量与编码前的音频信号的音频质量进行质量损失测评,得到编码后的音频信号的质量损失值。
并且,音频质量测评方法可以包括客观评测方法和主观评测方法。举例而言,客观评测方法可以为peaq(perceptualevaluationofaudioquality,音频质量感知评估)等;主观评测方法可以为mushra(multi-stimulustestwithhiddenreferenceandanchor,多激励隐藏参考基准测试方法)等。本公开实施例对音频质量测评方法不做具体限定。例如,peaq对编码后的音频信号的音频质量与编码前的音频信号的音频质量进行质量损失测评,所得的编码后的音频信号的质量损失值可以为0.1。
在步骤s33中,当质量损失值小于质量损失阈值,且质量损失值为最小的质量损失值时,将预设码率确定为音频信号对应的目标编码码率。
其中,质量损失阈值的大小可以为未编码的音频信号的音频质量与目标音频质量之间的差值。
具体的,如果利用一个预设码率对音频信号进行编码后,所得的编码后的音频信号的质量损失值小于质量损失阈值,且质量损失值为最小的质量损失值时,说明利用该预设码率对音频信号进行编码后,所得的编码后的音频信号的音频质量能够满足目标音频质量,且编码后的音频信号的音频质量刚好满足目标音频质量,也就是说,该预设码率为满足目标音频质量时的最低编码码率。因此,可以将该预设码率确定为音频信号对应的目标编码码率。
作为本公开实施例的一种实现方式,当质量损失值小于质量损失阈值,且质量损失值为最小的质量损失值时,将预设码率确定为音频信号对应的目标编码码率,可以包括如下步骤:
当质量损失值小于质量损失阈值时,减小预设码率,并根据减小后的预设码率对音频信号进行编码以得到编码后的音频信号,直到音频质量损失值大于所述质量损失阈值;
将前一个减小后的预设码率作为目标编码码率。
具体的,在确定音频信号的目标编码码率时,首先可以按照一个较大的预设码率即初始编码码率对音频信号进行编码。该初始编码码率可以为一个能够最大程度保证编码后的音频信号的音频质量的编码码率。
并且,在按照初始编码码率对音频信号进行编码后,可以将编码后的音频信号的质量损失值与质量损失阈值进行比对,如果编码后的音频信号的质量损失值小于质量损失阈值,说明编码后的音频信号的质量损失值较小,在满足目标音频质量的情况下,可以继续降低预设码率。并按照降低后的预设码率对音频信号再次编码,并将再次编码后的音频信号的质量损失值与质量损失阈值进行比对,如果再次编码后的音频信号的质量损失值仍小于质量损失阈值,则继续降低预设码率,直至编码后的音频信号的质量损失值大于质量损失阈值时,说明前一个减小后的预设码率为编码后的音频信号满足目标音频质量时的最低编码码率,因此,可以将前一个减小后的预设码率作为目标编码码率。
可见,通过本实现方式确定的目标编码码率为编码后的音频信号满足目标音频质量时的最低编码码率。
并且,为了更加直观清楚地了解获取音频信号的目标编码码率的过程,下面将结合具体实例对获取音频信号的目标编码码率的过程进行阐述,如图4所示。
第一,音频编码器按照初始码率对音频信号进行编码,并对编码后的音频信号进行质量损伤测评。
第二,判断质量损伤值是否高于阈值。如果判断结果为否,即质量损伤值低于阈值,则更新码率,即降低初始码率。
第三,音频编码器按照更新后的码率对音频信号进行编码,再次得到编码后的音频,并对编码后的音频信号进行质量损伤测评。
第四,再次判断质量损伤值是否高于阈值。如果判断结果为否,即质量损伤值低于阈值,则更新码率,即降低初始码率,音频编码器按照更新后的码率对音频信号进行编码。直至判断结果为是,即判断出质量损伤值高于阈值时,输出上一个满足阈值的码率,即输出损伤值低于阈值对应的码率,所输出的码率即为目标编码码率。
为了方案描述清楚,下面将对获取每个音频信号的特征信息的具体实施方式进行详细阐述。
在一种实施方式中,获取每个音频信号的特征信息,可以包括如下步骤:
获取每个音频信号在时频域的振幅信息和相位信息,根据振幅信息和/或相位信息确定音频信号的特征信息。
具体的,可以利用时频转换方法如短时傅里叶变换,将音频信号转换至时频域,得到复数信号s(n,k)。
s(n,k)=a(n,k)*eiθ(n,k)
其中,a(n,k)为振幅信息,θ(n,k)为相位信息。
并且,作为本公开实施例的一种实现方式,在得到振幅信息和相位信息后,可以直接将振幅信息作为音频信号的特征信息;或者,可以将相位信息作为音频信号的特征信息;或者,还可以将振幅信息和相位信息均作为音频信号的特征信息,这都是合理的。
作为本公开实施例的另一种实现方式,在得到振幅信息和相位信息后,可以通过对振幅信息和/或相位信息进行预设处理,得到音频信号的其他特征信息。其中,其他特征信息可以包括:mfcc(melfrequencycepstrumcoefficient,梅尔频率倒谱系数);梅尔频谱melspectrogram;谱对比度spectralcontrast等,本公开实施例对其他音频特征不做具体限定。此时,可以将振幅信息、相位信息以及其他特征信息中的任一种或者多种作为音频信号的特征信息,这都是合理的。
可见,通过本实施方式提供的技术方案,可以准确地出音频信号的特征信息。
为了方案描述清楚,下面将对获取每个音频信号的特征信息和音频信号对应的目标编码码率的具体实施方式进行详细阐述。
在一种实施方式中,获取每个音频信号的特征信息和音频信号对应的目标编码码率,可以包括如下步骤:
获取每个音频信号的每一帧信号的特征信息和音频信号的每一帧信号对应的目标编码码率。
在该实施方式中,在训练码率确定模型时,可以获取每个音频信号的每一帧信号的特征信息和对应的编码码率,也就是说,训练码率确定模型的训练数据较多,因此,训练所得的编码码率确定模型的准确度较高。
可见,通过本实施方式得技术方案,训练所得的编码码率确定模型的准确度较高。
在另一种实施方式中,获取每个音频信号的特征信息和音频信号对应的目标编码码率,可以包括如下步骤:
获取每个音频信号中的每一帧信号的特征信息,将各帧信号的特征信息的平均值作为音频信号的特征信息,且获取与音频信号的特征信息对应的目标编码码率。
在实际应用中,为了降低训练码率确定模型过程的计算量,可以对音频信号的特征信息进行降维。
举例而言,如果一个音频信号为连续30帧的音频信号,可以将该30帧的音频信号的特征信息取平均值,得到一帧长度的特征信息,并将这一帧长度的特征信息确定为音频信号的特征信息,此时,目标编码码率为该音频信号的特征信息对应的编码码率。
可见,通过本实施方式得技术方案,可以降低训练码率确定模型过程的计算量。
第二方面,将对本公开实施例提供的码率确定方法进行详细介绍。
如图5所示,本公开实施例提供的码率确定方法可以包括如下步骤:
在步骤s51中,获取待编码音频信号的特征信息。
具体的,在对音频信号进行传输或存储时,为了降低传输带宽或存储空间,需要对音频信号进行编码,这些待进行编码的音频信号可以称为待编码音频信号。
为了准确地得到待编码音频信号对应的编码码率,需要获取待编码音频信号的特征信息,以在后续步骤中,可以将待编码音频信号的特征信息输入第一方面所述的码率确定模型中,得到待编码音频信号对应的编码码率。
在一种实施方式中,获取待编码音频信号的特征信息,可以包括如下步骤:
获取待编码音频信号在时频域的振幅信息和相位信息,根据振幅信息和/或相位信息确定待编码音频信号的特征信息。
具体的,可以利用时频转换方法如短时傅里叶变换,将待编码音频信号转换至时频域,得到复数信号s(n,k)。
s(n,k)=a(n,k)*eiθ(n,k)
其中,a(n,k)为振幅信息,θ(n,k)为相位信息。
并且,作为本公开实施例的一种实现方式,在得到振幅信息和相位信息后,可以直接将振幅信息作为待编码音频信号的特征信息;或者,可以将相位信息作为待编码音频信号的特征信息;或者,还可以将振幅信息和相位信息均作为待编码音频信号的特征信息,这都是合理的。
作为本公开实施例的另一种实现方式,在得到振幅信息和相位信息后,可以通过对振幅信息和/或相位信息进行预设处理,得到待编码音频信号的其他特征信息。其中,其他特征信息可以包括:mfcc(melfrequencycepstrumcoefficient,梅尔频率倒谱系数);梅尔频谱melspectrogram;谱对比度spectralcontrast等,本公开实施例对其他音频特征不做具体限定。此时,可以将振幅信息、相位信息以及其他特征信息中的任一种或者多种作为待编码音频信号的特征信息,这都是合理的。
在步骤s52中,将待编码音频信号的特征信息输入第一方面所述的码率确定模型,得到待编码音频信号对应的编码码率,以按照待编码音频信号对应的编码码率对所述待编码音频信号进行编码。
在得到待编码音频信号的特征信息之后,可以将待编码音频信号的特征信息输入到第一方面训练所得到的码率确定模型中,得到待编码音频信号对应的编码码率。通过码率确定模型所得到的待编码音频信号对应的编码码率大小合适,且能够保证编码后的音频信号的音频质量,因此,通过待编码音频信号对应的编码码率对待编码音频信号进行编码,在保证音频质量的情况下,最大程度的优化编码码率,从而可以节省编码后的音频信号传输时的传输带宽,以及编码后的音频信号存储时的存储空间。
本公开实施例提供的技术方案,获取待编码音频信号的特征信息;将待编码音频信号的特征信息输入第一方面所述的码率确定模型,得到待编码音频信号对应的编码码率,以通过待编码音频信号对应的编码码率对待编码音频信号进行编码。由于通过码率确定模型所得到的待编码音频信号对应的编码码率大小合适,且能够保证编码后的音频信号的音频质量,因此,可以节省编码后的音频信号传输时的传输带宽,以及编码后的音频信号存储时的存储空间。
并且,在一种实施方式中,获取待编码音频信号的特征信息,可以包括如下步骤:
获取待编码音频信号的每一帧信号的特征信息。
在该实施方式中,可以获取待编码音频信号的每一帧信号的特征信息,这样,后续步骤中,通过将待编码音频信号的每一帧信号的特征信息输入到码率确定模型中,所得到的待编码音频信号对应的编码码率的准确度相对高一些。
在另一种实施方式中,获取待编码音频信号的特征信息,可以包括如下步骤:
获取待编码音频信息中的每一帧信号的特征信息,将各帧信号的特征信号的平均值作为待编码音频信号的特征信息。
在实际应用中,为了降低获取待编码音频信号的特征信息的工作量,可以对待编码音频信号的特征信息进行降维。
举例而言,如果一个待编码音频信号为连续30帧的音频信号,可以将该30帧的待编码音频信号的特征信息取平均值,得到一帧长度的特征信息,并将这一帧长度的特征信息确定为待编码音频信号的特征信息,这样,后续步骤中,通过将待编码音频信号的特征信息输入到码率确定模型中,也可以得到待编码音频信号对应的编码码率。
根据本公开实施例的第三方面,提供了一种码率确定模型训练装置,如图6所示,所述装置包括:
音频信号获取模块610,被配置为执行获取音频样本数据集合,所述音频样本数据集合中包括不同类型的音频信号;
信息及码率获取模块620,被配置为执行获取每个所述音频信号的特征信息和所述音频信号对应的目标编码码率,所述特征信息与所述音频信号的类型相关联,所述目标编码码率为所述音频信号满足目标音频质量时的最低编码码率;
编码码率获取模块630,被配置为执行将获取的所述特征信息输入待训练的码率确定模型中,得到所述待训练的码率确定模型输出的编码码率;
损失值获取模块640,被配置为执行根据所述待训练的码率确定模型输出的编码码率和所述目标编码码率,获取所述待训练的码率确定模型的损失值;
模型参数调整模块650,被配置为执行根据所述损失值调整所述待训练的码率确定模型的模型参数,直至所述损失值低于预设阈值时,将所述待训练的码率确定模型作为训练好的码率确定模型。
可见,通过本公开实施例提供的技术方案,码率确定模型的目标输出是目标编码码率,该目标编码码率为音频信号满足目标音频质量时的最低编码码率,这样,后续步骤中,在对待编码音频数据进行编码时,通过该码率确定模型可以得到合适大小的编码码率,并能够保证编码后的音频数据的音频质量。而不像相关技术那样,确定一个较高的编码码率,从而可以节省编码后的音频数据传输时的传输带宽,以及编码后的音频数据存储时的存储空间。
可选的,所述信息及码率获取模块,包括:
音频信号编码单元,被配置为执行根据预设码率对所述音频信号进行编码以得到编码后的音频信号;
质量损失值计算单元,被配置为执行根据所述音频信号和所述编码后的音频信号,计算所述编码后的音频信号的质量损失值;
目标编码码率确定单元,被配置为执行当所述质量损失值小于质量损失阈值,且所述质量损失值为最小的质量损失值时,将所述预设码率确定为所述音频信号对应的目标编码码率。
可选的,所述目标编码码率确定单元,具体被配置为执行:
当所述质量损失值小于质量损失阈值时,减小所述预设码率,并根据减小后的预设码率对所述音频信号进行编码以得到编码后的音频信号,直到所述音频质量损失值大于所述质量损失阈值;
将前一个减小后的预设码率作为目标编码码率。
可选的,所述信息及码率获取模块,具体被配置为执行:
获取每个所述音频信号在时频域的振幅信息和相位信息,根据所述振幅信息和/或相位信息确定所述音频信号的特征信息。
可选的,所述信息及码率获取模块,具体被配置为执行:
获取每个所述音频信号的每一帧信号的特征信息和所述音频信号的每一帧信号对应的目标编码码率;
或,获取每个所述音频信号中的每一帧信号的特征信息,将各帧信号的特征信息的平均值作为所述音频信号的特征信息,且获取与所述音频信号的特征信息对应的目标编码码率。
根据本公开实施例的第四方面,提供了一种码率确定装置,如图7所示,所述装置包括:
特征信息获取模块710,被配置为执行获取待编码音频信号的特征信息;
编码码率确定模块720,被配置为执行将所述待编码音频信号的特征信息输入第三方面所述的码率确定模型,得到所述待编码音频信号对应的编码码率,以按照所述待编码音频信号对应的编码码率对所述待编码音频信号进行编码。
本公开实施例提供的技术方案,获取待编码音频信号的特征信息;将待编码音频信号的特征信息输入第一方面所述的码率确定模型,得到待编码音频信号对应的编码码率,以通过待编码音频信号对应的编码码率对待编码音频信号进行编码。由于通过码率确定模型所得到的待编码音频信号对应的编码码率大小合适,且能够保证编码后的音频信号的音频质量,因此,可以节省编码后的音频信号传输时的传输带宽,以及编码后的音频信号存储时的存储空间。
可选的,所述特征信息获取模块,具体被配置为执行:
获取所述待编码音频信号在时频域的振幅信息和相位信息,根据所述振幅信息和/或相位信息确定所述待编码音频信号的特征信息。
可选的,所述特征信息获取模块,具体被配置为执行:
获取待编码音频信号的每一帧信号的特征信息;
或,获取待编码音频信息中的每一帧信号的特征信息,将各帧信号的特征信号的平均值作为所述待编码音频信号的特征信息。
根据本公开实施例的第五方面,提供了一种电子设备,如图8所示,包括:
处理器810;
用于存储所述处理器可执行指令的存储器820;
其中,所述处理器被配置为执行所述指令,以实现第一方面所述的码率确定模型训练方法。
可见,通过本公开实施例提供的技术方案,码率确定模型的目标输出是目标编码码率,该目标编码码率为音频信号满足目标音频质量时的最低编码码率,这样,后续步骤中,在对待编码音频数据进行编码时,通过该码率确定模型可以得到合适大小的编码码率,并能够保证编码后的音频数据的音频质量。而不像相关技术那样,确定一个较高的编码码率,从而可以节省编码后的音频数据传输时的传输带宽,以及编码后的音频数据存储时的存储空间。
根据本公开实施例的第六方面,提供了一种电子设备,如图9所示,包括:
处理器910;
用于存储所述处理器可执行指令的存储器920;
其中,所述处理器被配置为执行所述指令,以实现如第二方面所述的码率确定方法。
本公开实施例提供的技术方案,获取待编码音频信号的特征信息;将待编码音频信号的特征信息输入第一方面所述的码率确定模型,得到待编码音频信号对应的编码码率,以通过待编码音频信号对应的编码码率对待编码音频信号进行编码。由于通过码率确定模型所得到的待编码音频信号对应的编码码率大小合适,且能够保证编码后的音频信号的音频质量,因此,可以节省编码后的音频信号传输时的传输带宽,以及编码后的音频信号存储时的存储空间。
图10是根据一示例性实施例示出的一种用于训练编码码率确定模型的装置,或者,确定编码码率的装置1000的框图。例如,装置1000可以被提供为一服务器。参照图10,装置1000包括处理组件1022,其进一步包括一个或多个处理器,以及由存储器1032所代表的存储器资源,用于存储可由处理组件1022的执行的指令,例如应用程序。存储器1032中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,处理组件1022被配置为执行指令,以执行第一方面所述的码率确定模型训练方法,或者,第二方面所述的码率确定方法。
装置1000还可以包括一个电源组件1026被配置为执行装置1000的电源管理,一个有线或无线网络接口1050被配置为将装置1000连接到网络,和一个输入输出(i/o)接口1058。装置1000可以操作基于存储在存储器1032的操作系统,例如windowsservertm,macosxtm,unixtm,linuxtm,freebsdtm或类似。
可见,通过本公开实施例提供的技术方案,码率确定模型的目标输出是目标编码码率,该目标编码码率为音频信号满足目标音频质量时的最低编码码率,这样,后续步骤中,在对待编码音频数据进行编码时,通过该码率确定模型可以得到合适大小的编码码率,并能够保证编码后的音频数据的音频质量。而不像相关技术那样,确定一个较高的编码码率,从而可以节省编码后的音频数据传输时的传输带宽,以及编码后的音频数据存储时的存储空间。
图11是根据一示例性实施例示出的一种用于训练编码码率确定模型的装置,或者,确定编码码率的装置1100的框图。例如,装置1100可以是移动电话,计算机,数字广播电子设备,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。
参照图11,装置1100可以包括以下一个或多个组件:处理组件1102,存储器1104,电力组件1106,多媒体组件1108,音频组件1110,输入/输出(i/o)的接口1112,传感器组件1114,以及通信组件1116。
处理组件1102通常控制装置1100的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件1102可以包括一个或多个处理器1120来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件1102可以包括一个或多个模块,便于处理组件1102和其他组件之间的交互。例如,处理组件1102可以包括多媒体模块,以方便多媒体组件1108和处理组件1102之间的交互。
存储器1104被配置为存储各种类型的数据以支持在设备1100的操作。这些数据的示例包括用于在装置1100上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器1104可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(sram),电可擦除可编程只读存储器(eeprom),可擦除可编程只读存储器(eprom),可编程只读存储器(prom),只读存储器(rom),磁存储器,快闪存储器,磁盘或光盘。
电源组件1107为装置1100的各种组件提供电力。电源组件1107可以包括电源管理系统,一个或多个电源,及其他与为装置1100生成、管理和分配电力相关联的组件。
多媒体组件1108包括在所述装置1100和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(lcd)和触摸面板(tp)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件1108包括一个前置摄像头和/或后置摄像头。当设备1100处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件1110被配置为输出和/或输入音频信号。例如,音频组件1110包括一个麦克风(mic),当装置1100处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器404或经由通信组件1116发送。在一些实施例中,音频组件1110还包括一个扬声器,用于输出音频信号。
i/o接口1112为处理组件1102和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件1114包括一个或多个传感器,用于为装置1100提供各个方面的状态评估。例如,传感器组件1114可以检测到设备1100的打开/关闭状态,组件的相对定位,例如所述组件为装置1100的显示器和小键盘,传感器组件1114还可以检测装置1100或装置1100一个组件的位置改变,用户与装置1100接触的存在或不存在,装置1100方位或加速/减速和装置1100的温度变化。传感器组件1114可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件1114还可以包括光传感器,如cmos或ccd图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件1114还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件1116被配置为便于装置1100和其他设备之间有线或无线方式的通信。装置1100可以接入基于通信标准的无线网络,如wifi,运营商网络(如2g、3g、4g或5g),或它们的组合。在一个示例性实施例中,通信组件416经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件1116还包括近场通信(nfc)模块,以促进短程通信。例如,在nfc模块可基于射频识别(rfid)技术,红外数据协会(irda)技术,超宽带(uwb)技术,蓝牙(bt)技术和其他技术来实现。
在示例性实施例中,装置1100可以被一个或多个应用专用集成电路(asic)、数字信号处理器(dsp)、数字信号处理设备(dspd)、可编程逻辑器件(pld)、现场可编程门阵列(fpga)、控制器、微控制器、微处理器或其他电子元件实现,用于执行第一方面所述的码率确定模型训练方法,或者,第二方面所述的码率确定方法。
在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括指令的存储器1104,上述指令可由装置1100的处理器1120执行以完成上述方法。可选地,例如,存储介质可以是非临时性计算机可读存储介质,例如,所述非临时性非临时性计算机可读存储介质计算机可读存储介质可以是rom、随机存取存储器(ram)、cd-rom、磁带、软盘和光数据存储设备等。
可见,通过本公开实施例提供的技术方案,码率确定模型的目标输出是目标编码码率,该目标编码码率为音频信号满足目标音频质量时的最低编码码率,这样,后续步骤中,在对待编码音频数据进行编码时,通过该码率确定模型可以得到合适大小的编码码率,并能够保证编码后的音频数据的音频质量。而不像相关技术那样,确定一个较高的编码码率,从而可以节省编码后的音频数据传输时的传输带宽,以及编码后的音频数据存储时的存储空间。
根据本公开实施例的第七方面,提供了一种存储介质,当所述存储介质中的指令由电子设备的处理器执行时,使得所述电子设备能够执行如第一方面所述的码率确定模型训练方法。
可见,通过本公开实施例提供的技术方案,码率确定模型的目标输出是目标编码码率,该目标编码码率为音频信号满足目标音频质量时的最低编码码率,这样,后续步骤中,在对待编码音频数据进行编码时,通过该码率确定模型可以得到合适大小的编码码率,并能够保证编码后的音频数据的音频质量。而不像相关技术那样,确定一个较高的编码码率,从而可以节省编码后的音频数据传输时的传输带宽,以及编码后的音频数据存储时的存储空间。
根据本公开实施例的第八方面,提供了一种存储介质,当所述存储介质中的指令由电子设备的处理器执行时,使得所述电子设备能够执行第二方面所述的码率确定方法。
本公开实施例提供的技术方案,获取待编码音频信号的特征信息;将待编码音频信号的特征信息输入第一方面所述的码率确定模型,得到待编码音频信号对应的编码码率,以通过待编码音频信号对应的编码码率对待编码音频信号进行编码。由于通过码率确定模型所得到的待编码音频信号对应的编码码率大小合适,且能够保证编码后的音频信号的音频质量,因此,可以节省编码后的音频信号传输时的传输带宽,以及编码后的音频信号存储时的存储空间。
根据本公开实施例的第九方面,提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机实现第一方面所述的码率确定模型训练方法。
可见,通过本公开实施例提供的技术方案,码率确定模型的目标输出是目标编码码率,该目标编码码率为音频信号满足目标音频质量时的最低编码码率,这样,后续步骤中,在对待编码音频数据进行编码时,通过该码率确定模型可以得到合适大小的编码码率,并能够保证编码后的音频数据的音频质量。而不像相关技术那样,确定一个较高的编码码率,从而可以节省编码后的音频数据传输时的传输带宽,以及编码后的音频数据存储时的存储空间。
根据本公开实施例的第十方面,提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机实现第二方面所述的码率确定方法。
本公开实施例提供的技术方案,获取待编码音频信号的特征信息;将待编码音频信号的特征信息输入第一方面所述的码率确定模型,得到待编码音频信号对应的编码码率,以通过待编码音频信号对应的编码码率对待编码音频信号进行编码。由于通过码率确定模型所得到的待编码音频信号对应的编码码率大小合适,且能够保证编码后的音频信号的音频质量,因此,可以节省编码后的音频信号传输时的传输带宽,以及编码后的音频信号存储时的存储空间。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由下面的权利要求指出。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。
起点商标作为专业知识产权交易平台,可以帮助大家解决很多问题,如果大家想要了解更多知产交易信息请点击 【在线咨询】或添加微信 【19522093243】与客服一对一沟通,为大家解决相关问题。
此文章来源于网络,如有侵权,请联系删除