语音转写方法、装置和电子设备与流程

本公开涉及语音识别领域，尤其涉及一种语音转写方法、装置、电子设备及计算机可读存储介质。

背景技术：

作为一种人机交互的手段，语音识别的获取技术在解放人类双手方面意义重大。越来越多的智能设备加入了语音识别的潮流，成为人与设备沟通的桥梁，因此语音识别技术愈发显得重要。

语音是最自然的沟通方式，很多场合都是通过语音沟通，比如：电话，演讲，看病，庭审，会议等等。这些沟通的内容需要记录，通常使用录制音频或者人工打字的方式来记录沟通内容。但是音频记录不方便检索查询，不能快速定位到需要定位的内容上；而通过书记员打字来快速记录语音沟通的内容，受制于打字速度，有时候语音速度过快，可能会遗漏部分重要的内容，并且也受书记员的状态的影响。因此亟需能够自动、稳定、准确的将语音转换成文字的方案。

技术实现要素：

提供该发明内容部分以便以简要的形式介绍构思，这些构思将在后面的具体实施方式部分被详细描述。该发明内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征，也不旨在用于限制所要求的保护的技术方案的范围。

第一方面，本公开实施例提供一种语音转写方法，包括：

采集声音信号；

从所述声音信号中分离出至少一个角色语音信号；

将所述至少一个角色语音信号转写成文字；

以至少一种展示方式展示所述文字。

进一步的，所述从所述声音信号中分离出至少一个角色语音信号，包括：

将多通道的声音信号转换为多个单通道声音信号；

从所述多个单通道声音信号中确定至少一个单通道语音信号；

根据所述至少一个单通道语音信号确定至少一个角色语音信号。

进一步的，所述从所述多个单通道声音信号中确定至少一个单通道语音信号，包括：

将所述多个单通道声音信号中的每一个单通道声音信号输入深度学习模型得到至少一个单通道语音信号。

进一步的，所述根据所述至少一个单通道语音信号确定至少一个角色语音信号，包括：

计算所述至少一个单通道语音信号之间的相似度；

将相似度高于相似阈值的多个单通道语音信号识别为同一个角色语音信号；

将相似度低于相似阈值的多个单通道语音信号识别为不同的角色语音信号。

进一步的，所述将所述至少一个角色语音信号转写成文字，包括：

抽取所述至少一个角色语音信号的语音特征；

将所述语音特征输入语音识别模型得到所述至少一个角色语音信号所对应的文字。

进一步的，所述以至少一种展示方式展示所述文字，包括：

在实时展示区域展示所述文字；和/或，

在历史展示区域展示所述文字之前所转写的文字；和/或

在信息展示区域为已展示的信息添加以所述文字所组成的字幕。

进一步的，所述方法还包括:

获取所述文字所对应的文本；

将所述文本输入摘要生成模型以生成所述文本的摘要。

进一步的，所述方法还包括：

接收角色语音信号的选择信号；

突出显示所述角色语音信号所对应的文字。

进一步的，所述方法还包括：

接收所述文字的选择信号；

突出显示所述文字所对应的角色语音信号。第二方面，本公开实施例提供一种语音转写装置，包括：

采集模块，用于采集声音信号；

语音分离模块，用于从所述声音信号中分离出至少一个角色语音信号；

转写模块，用于将所述至少一个角色语音信号转写成文字；

展示模块，用于以至少一种展示方式展示所述文字。

进一步的，所述语音分离模块，还用于：

将多通道的声音信号转换为多个单通道声音信号；

从所述多个单通道声音信号中确定至少一个单通道语音信号；

根据所述至少一个单通道语音信号确定至少一个角色语音信号。

进一步的，所述语音分离模块，还用于：

将所述多个单通道声音信号中的每一个单通道声音信号输入深度学习模型得到至少一个单通道语音信号。

进一步的，所述语音分离模块，还用于：

计算所述至少一个单通道语音信号之间的相似度；

将相似度高于相似阈值的多个单通道语音信号识别为同一个角色语音信号；

将相似度低于相似阈值的多个单通道语音信号识别为不同的角色语音信号。

进一步的，所述转写模块，还用于：

抽取所述至少一个角色语音信号的语音特征；

将所述语音特征输入语音识别模型得到所述至少一个角色语音信号所对应的文字。

进一步的，所述展示模块，还用于：

在实时展示区域展示所述文字；和/或，

在历史展示区域展示所述文字之前所转写的文字；和/或

在信息展示区域为已展示的信息添加以所述文字所组成的字幕。

进一步的，所述语音转写装置，还包括：

摘要生成模块，用于获取所述文字所对应的文本；将所述文本输入摘要生成模型以生成所述文本的摘要。

进一步的，所述语音转写装置，还包括：

第一校对模块，用于接收角色语音信号的选择信号；突出显示所述角色语音信号所对应的文字。

进一步的，所述语音转写装置，还包括：

第二校对模块，用于接收所述文字的选择信号；突出显示所述文字所对应的角色语音信号。第三方面，本公开实施例提供一种电子设备，包括：至少一个处理器；以及，

与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有能被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行前述第一方面中的任一所述方法。

第四方面，本公开实施例提供一种非暂态计算机可读存储介质，其特征在于，该非暂态计算机可读存储介质存储计算机指令，该计算机指令用于使计算机执行前述第一方面中的任一所述方法。

本公开实施例公开了一种语音转写方法、装置、电子设备和计算机可读存储介质。其中该语音转写方法包括：采集声音信号；从所述声音信号中分离出至少一个角色语音信号；将所述至少一个角色语音信号转写成文字；以至少一种展示方式展示所述文字。上述方法通过分离语音信号以及将语音信号转写成文字，解决了现有技术中记录语音内容的方案中所存在的检索不便、不稳定、不准确等技术问题。

上述说明仅是本公开技术方案的概述，为了能更清楚了解本公开的技术手段，而可依照说明书的内容予以实施，并且为让本公开的上述和其他目的、特征和优点能够更明显易懂，以下特举较佳实施例，并配合附图，详细说明如下。

附图说明

结合附图并参考以下具体实施方式，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中，相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的，原件和元素不一定按照比例绘制。

图1为本公开实施例的应用场景示意图；

图2为本公开实施例提供的语音转写方法的流程示意图；

图3为本公开实施例提供的语音转写方法中分离角色语音信号的具体实现方式的示意图；

图4为本公开实施例提供的语音转写方法中分离角色语音信号的具体实现方式的进一步示意图；

图5为本公开实施例提供的语音转写装置的实施例的结构示意图

图6为根据本公开实施例提供的电子设备的结构示意图。

具体实施方式

下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例，然而应当理解的是，本公开可以通过各种形式来实现，而且不应该被解释为限于这里阐述的实施例，相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是，本公开的附图及实施例仅用于示例性作用，并非用于限制本公开的保护范围。

应当理解，本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行，和/或并行执行。此外，方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。

本文使用的术语“包括”及其变形是开放性包括，即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”；术语“另一实施例”表示“至少一个另外的实施例”；术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。

需要注意，本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分，并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。

需要注意，本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的，本领域技术人员应当理解，除非在上下文另有明确指出，否则应该理解为“一个或多个”。

本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的，而并不是用于对这些消息或信息的范围进行限制。

图1为本公开实施例的应用场景示意图。如图1所示为本公开实施例所述的方法所应用的场景，在该场景中，包括用户101，终端设备102以及服务器103，其中终端设备102包括显示装置1021和声音采集装置1022，用户101作为声源产生声音信号，如用户说出“你好小艺”，终端设备102通过声音采集装置1022采集到用户的声音信号，之后终端设备102将所述声音信号进行预处理之后通过通信链路104发送至服务器103，所述服务器103运行有语音识别算法，将接收到的声音信号识别成对应的文字，并将识别出来的文字通过所述通信链路104发送至所述终端设备102，终端设备102通过显示装置1021将所述文字展示出来。可以理解的，所述终端设备102和所述服务器103可以设置在同一个设备中，即该设备可以离线识别语音，在此不再赘述。

图2为本公开实施例提供的语音转写方法实施例的流程图，本实施例提供的该语音转写方法可以由一语音转写装置来执行，该语音转写装置可以实现为软件，或者实现为软件和硬件的组合，该语音转写装置可以集成设置在语音转写系统中的某设备中，比如语音转写服务器或者语音转写终端设备中。如图2所示，该方法包括如下步骤：

步骤s201，采集声音信号；

在该步骤中，通过声音采集装置采集环境中的声音，其中所述声音采集装置可以是终端设备中内置的麦克风，或者是所述终端设备外置的麦克风，或者是麦克风与其他处理设备或装置所组成的综合采集装置。

可选的，所述声音采集装置可以实现为单麦克风，该实现方式结构简单，成本低，可以利用现有设备，如终端设备本身的麦克风或者外接一个麦克风等。

可选的，所述声音采集装置可以实现为麦克风阵列，其有一定数目的麦克风组成，用来对声场的空间特性进行采样。麦克风阵列抗噪能力强，远场的声音采集更加准确。

可选的，所述声音采集装置可以实现为多麦克风加声卡。即多个单独的麦克风接入声卡，这样每个用户可以使用一个麦克风，其声源是天然分开的，更利于后续的转写。

可选的，所述声音采集装置可以实现为上述几种实现方式的组合，即上述方式所实现的采集装置通过专用设备或者网络连接在一起。其组织方式最灵活，可以适用多种应用场景。

可以理解的，所述声音采集装置的具体实现方式仅为举例，不构成对本公开的限制，其他实现方式也可以用于本公开的技术方案中，在此不再赘述。

当采集到所述声音信号之后，为了后续的处理更加准确，还可以进一步对所述声音信号进行预处理，即声音增强。可选的，所述预处理包括降噪处理、去混响处理、回声消除处理、自动增益控制处理、波束形成处理中的一个或多个。

所述降噪处理可以使用多种降噪算法实现，示例性的，可以使用谱减法、自适应滤波器、维纳滤波法、基于深度神经网络的方法等等。以谱减法为例，谱减法，就是用带噪信号的频谱减去噪声信号的频谱。谱减法基于一个简单的假设：假设声音信号中的噪声只有加性噪声，只要将带噪声音的频谱减去噪声频谱，就可以得到纯净的声音。而一般声音信号中会包括多个连续的静音帧，即这段时间只有噪声，因此使用这些静音帧可以估算出噪声信号，由此可以通过估算出来的噪声信号得到纯净的声音信号。

当声源发声时，由于反射和延迟现象，会出现同一个声音多次到达人耳的情形，具体到声音采集中，就是同一个声音会多次被采集到，但是每次的强度不同。如果反射的声音和原始声音时间延迟在10ms-30ms之间，会产生声音被增强的现象，即为混响。去混响的算法一般分为混响消除和混响抑制，其中混响消除通过估计信道的路径，并对观测信号采用解卷积来获取原信号；而混响抑制是从观测信号中直接计算直达生的估计值。以混响抑制为例，可以通过声音信号前边一段的音素和混响时间模拟出直达信号到混响尾巴这段过程的能量变化，从而从混响信号中估计和抑制部分混响能量。

回声同样是反射的声音，只是延迟时间相对于混响长。回声消除使用一个自适应滤波器对未知的回声信道进行参数辨识，根据声音信号与产生的多路回声的相关性为基础，建立远端信号模型，模拟回声路径，通过自适应算法调整，使其冲击响应和真实回声路径相逼近，然后将声音信号减去估计值，即可实现回声消除。回声消除的算法也很多，在此不再一一列举。

自动增益控制处理用于增强声音的响度。一般来说，自动增益需要首先确定响度增益因子；之后把响度增益因子映射到等响度曲线上，确定最终个频率的增益权重；最后把各频率通过最终的增益权重进行增益，得到增益之后的声音信号。

波束形成用于对期望方向的声音信号进行保留，并且抑制非期望方向的声音信号。波束形成主要分为三类：固定波束形成、自适应波束形成和后置滤波算法。固定波束形成，适用于稳定不变的噪声干扰环境，可以对某一方向的声源进行抑制，抑制的强度不变；自适应波束形成的方法，可以利用信号的输出来自适应地调整滤波的权重系数，其抑制性能可以对环境信号的变化做出调整；后置滤波算法是为了进一步对固定波束形成和自适应波束形成结构的残余噪声进行处理所设计的算法，可以有效地弥补之前结构存在的不足，去除残留的相干和非相干噪声。

可以理解的，上述对声音信号的预处理仅仅是举例，不构成对本公开的限制，任何其他可以对声音信号进行增强以便于后续处理的预处理方法均可以应用到本公开中，在此不再赘述。

步骤s202，从所述声音信号中分离出至少一个角色语音信号；

对语音信号进行转写的时候，需要区分出不同的用户以在转写时标记出不同用户说的话。在该步骤中，从所述声音信号中将不同的用户分离出来得到不同用户的角色语音信号。

在步骤s202中，分离的方式根据声音采集装置的不同而不同。可选的，可以采用硬件分离的方式从声音信号中分离出角色语音信号，如采集装置为多个麦克风，每个用户在不同的场所使用单独的麦克风通过网络来交流，此时每个用户使用单独的麦克风，因此采集到的声音信号相互是独立的，此时只需要根据不同的通道的声音信号即可分离出不同的角色语音信号；再如在一个多用户场景中，每个用户面前都有单独的麦克风，多个麦克风再通过声卡接入处理系统。但是由于在同一场所中，麦克风会接收到多个用户的语音，此时每个通道中的声音信号就可能包含多个用户的语音信号，因此需要进一步进行分离。

可选的，对于上述一个通道包括多个语音信号的情况，如图3所示，所述步骤s202进一步包括：

步骤s301，将多通道的声音信号转换为多个单通道声音信号；

步骤s302，从所述多个单通道声音信号中确定至少一个单通道语音信号；

步骤s303，根据所述至少一个单通道语音信号确定至少一个角色语音信号。

在步骤s301中，所述多通道的声音信号为每个通道中的声音信号，通常一个麦克风对应一个通道，每个麦克风采集到一个通道的声音信号得到多个通道的声音信号。示例性的，所述通道数大于等于人数，即麦克风的数量大于等于用户的数量，设通道数为n。在该步骤中，抽取每个多通道声音信号为一个单通道声音信号以得到多个单通道声音信号。示例性的，对于n个麦克风来说，系统包括n个声音通道，每个通道采集到一路声音信号，抽取每一路的声音信号作为一个单通道的声音信号，可以得到n个单通道声音信号。

在步骤s302中，从所述多个单通道声音信号中确定至少一个单通道语音信号。即在该步骤中，判断哪个单通道声音信号中包括语音信号。可选的，所述步骤s302进一步包括：将所述多个单通道声音信号中的每一个单通道声音信号输入深度学习模型得到至少一个单通道语音信号。

可选的，所述深度学习模型为dnn模型；在输入所述dnn模型之前，对每个所述单通道声音信号进行特征提取，其中所述特征为声音信号的帧特征，即首先对声音信号进行分帧，之后对每一帧提取特征，可以按照时间顺序将声音信号划分为多个声音帧，每个帧内包括预设时间段内的声音信号数据，该预设时间段一般极短，例如，0.05秒或0.1秒等。在得到声音帧之后，提取声音帧的特征示例性的，所述语音样本的特征包括mfcc(melfrequencycepstralcoefficents)特征或fbank(filterbank)特征。可以理解的，在使用不同的模型的情况下，可以使用不同的方法提取所述语音样本的特征，本公开对此不做限定，在此不再赘述。在得到语音信号的特征之后，将所述语音信号特征输入dnn模型，经过dnn模型的隐藏层的特征提取得到特征向量，最后将特征向量输入到dnn模型的输出层得到该声音信号为语音信号的后验概率，由于声音信号被分为多个声音帧，因此通过所述后验概率可以判断每个声音信号帧为语音信号帧的后验概率，由此可以检测出语音信号的端点，两个端点之间的声音信号即为语音信号。设所述后验概率为si，其中0≤i≤n，设阈值为t，当si≥t时，确定第i个通道有语音信号，当si＜t，确定第i个通道没有语音信号。由此可以统计出所有后验概率大于所述阈值的通道，设这些通道的数量为m个。

步骤s303中，判断所述至少一个单通道语音信号有多少个角色语音信号。即当一个用户说话时，多个通道采集到的信号均为该用户的语音信号，只是强弱有所不同，因此多个通道中的语音信号只能认为是一个角色语音信号；而当两个用户同时说话时，由于其在每个通道中所占的权重不同，因此也可以区分出多个角色语音信号。

可选的，所述步骤s303进一步包括：

步骤s401，计算所述至少一个单通道语音信号之间的相似度；

步骤s402，将相似度高于相似阈值的多个单通道语音信号识别为同一个角色语音信号；

步骤s403，将相似度低于相似阈值的多个单通道语音信号识别为不同的角色语音信号。

在步骤s401中，计算所述单通道语音信号之间的相似度。还以上述实施例中的具体实例为例，经过dnn模型得到m个单通道语音信号，则按照所述每个通道的后验概率对所述m个通道行逆排序，即将后验概率最大的通道排在最前边。用j对所述m个通道进行编号，记包括语音信号的通道为mj，m0为后验概率最大的通道，从j＝1通道开始到j＝m-1的通道，计算每个通道的语音信号与通道m0的语音信号的相似度，其中所述相似度可以使用所述dnn的隐藏层所输出的特征向量来计算，通过计算两个特征向量的余弦距离作为两个特征向量的相似度，设置相似度阈值r，当两个通道的相似度大于相似度阈值r时，确认这两个通道中为同一个用户的语音信号，将编号较大的通道消除掉，通过上述方式经过多次遍历之后，同一个用户的语音信号将被确定在某一个唯一的通道中；当某一个通道与任一通道的相似度都小于所述相似度阈值时，则确认该通道的语音信号为另外一个用户的语音信号，即在同一时段中有多个用户一起说话，则保留该通道的语音信号。经过上述方法，保留下来的通道中的语音信号为角色语音信号。由此即可以从所述声音信号中分离出至少一个角色语音信号。

可选的，所述步骤s202还可以基于声纹从所述声音信号中分离出角色语音信号。基于声纹分离有两种形式，一种需要提前注册声纹，即每个用户提前将自己的声纹注册进系统中，分离角色语音信号时，直接抽取声音信号的声纹特征，计算抽取的声纹特征与已经注册的声纹特征的相似程度，如果相似程度超过阈值则认为是同一个人的声音，由此可以将不同的用户的角色语音信号从声音信号中分离出来；另一种不需要提前注册声纹，而是抽取不同通道的声音信号的语音特征，之后利用聚类算法进行分类，每一个分类为同一个用户，则将对应的通道的语音信号确认为同一个用户的角色语音信号。由此，通过声纹特征也可以将所述角色语音信号从所述声音信号中分离出来。

可选的，所述步骤s202还可以基于盲源分离，盲源分离用于是根据观测信号来分离或恢复未知信号源的方法。每个麦克风接收到的均为多个声源的混合声音信号。示例性的，麦克风的数量与声源的数量相等。混合声音信号在时域中可以用以下公式(1)表示：

其中xj(t)表示t时刻，第j个麦克风所接收的混合声音信号；aji为加权系数，其由冲击响应函数确定；si(t)为声源信号；n为麦克风以及声源的数量。之后，将所述多个混合声音信号与预先设置的解混矩阵相乘得到至少一个角色语音信号，其中每个角色语音信号为所述多个混合声音信号与所述解混矩阵中的解混系数的乘积之和。

可以理解的，上述从声音信号中抽取出角色语音信号的方式仅为举例，在实现本公开的步骤s202时，可以使用任一其他的分离方式以将不同用户的语音信号从语音信号分离出来。

步骤s203，将所述至少一个角色语音信号转写成文字；

在该步骤中，通过语音识别将角色语音信号转换成对应的文字。

可选的，所述步骤s203进一步包括：抽取所述至少一个角色语音信号的语音特征；将所述语音特征输入语音识别模型得到所述至少一个角色语音信号所对应的文字。即将步骤s202中分离出来的每一个角色语音信号进行特征抽取，以形成能够输入所述语音识别模型的语音特征，示例性的，此处的语音特征抽取与上述步骤s302中的特征抽取相同，在此不再赘述。示例性的，所述语音识别模型为声学模型或者声学模型与语言模型的混合模型，所述语音识别模型接收语音的特征，输出语音所对应的文字，典型的语音识别模型如gmm-hmm，dnn-hmm，编码-注意力机制-解码结构的模型等等，在此不再一一举例。所述语音识别模型可以运行于服务端，声音采集装置采集到声音信号之后，将声音信号或者处理所述声音信号所得到的语音特征发送到所述服务端，通过服务端的语音识别模型来识别语音，将其转写为文字。

步骤s204，以至少一种展示方式展示所述文字。

在得到所述角色语音信号所对应的文字之后，以某种展示方式在显示装置上展示所述文字，以便用户查看转写结果。

可选的，所述步骤s204进一步包括：

在实时展示区域展示所述文字；和/或，

在历史展示区域展示所述文字之前所转写的文字；和/或

在信息展示区域为已展示的信息添加以所述文字所组成的字幕。

上述三种展示方式可以分别对应不同的应用场景或者可以在某些应用场景中混合使用。

所述显示装置上可以包括实时展示区域，即在显示装置上设置一个区域展示实时的角色语音信号所对应的文字。可选的，在所述实时展示区域中还包括所述角色语音信号所对应的用户，即哪个用户说了什么话。所述显示装置上还可以包括历史展示区域，用于展示在当前角色语音信号之前的角色语音信号所对应的文字；可选的，当接收到新的角色语音信号所对应的文字时，将当前正在实时展示区域所展示的文字更新到历史展示区域中；在另一个展示方式中，所述显示装置上包括信息展示区域，示例性的，所述信息展示区域展示幻灯片、图片等等，此时用户为解说员或者演讲者，通过上述方式可以在信息展示区域中所展示的信息上添加解说员或者演讲者所说的话作为字幕，所述字幕的位置可以为信息展示区域附近的任何位置。

通过上述步骤s201-步骤s204可以将接收到的多个用户的声音信号区分角色并将每个角色语音信号转写成文字并以某种展示方式展示出来。

某些场景下，语音信号所转写的文字数量较大，如开会或者谈判时，最终得到的转写文字所对应的文本比较大，用户面对这样的文本需要耗费大量的时间去阅读才能理解其中所要表达的含义。为了解决这个问题，可选的，所述方法进一步包括：获取所述文字所对应的文本；将所述文本输入摘要生成模型以生成所述文本的摘要。可选的，所述摘要生成模型为预先训练好的文本到文本的转换模型，示例性的，所述摘要生成模型为由rnn、gru或lstm组成的编码器和解码器结构，其首先将获取的文本转换成输入向量，之后通过由rnn、gru或lstm组成的编码器对输入向量进行编码得到输入向量的隐状态，通过计算相关度矩阵得到注意力信息，之后通过同样由rnn、gru或lstm组成解码器进行解码，通过softmax层输出每个时刻所输出的文字，当所有时刻的输出均输出文字即得到输入文本所对应的另一个文本。所述摘要生成模型使用上述结构，利用训练数据集进行训练，所述训练数据集为文本以及所述文本所对应的摘要，由此可以调整所述摘要生成模型的参数使其可以输出输入文本的摘要。通过上述步骤，得到一次对话中所有文字所表达的意思的摘要，方便用户后续进行信息检索以及信息确认等。

由于自动转写存在一定的转写错误率，因此在一个实施例中，本公开还提供纠错的步骤。可选的，所述语音转写方法还包括：接收角色语音信号的选择信号；

突出显示所述角色语音信号所对应的文字。可选的，所述角色语音信号以语音波形的形式展示出来，进行校对时，用户可以通过人机交互接口，如鼠标、键盘、触摸屏等选择一个时段的角色语音信号，此时，在显示装置上突出显示所选择的所述时段的角色语音信号所对应的文字，如对所述文字进行高亮或者填充颜色等等，之后可以通过收听角色语音信号所对应的声音来判断所述其对应的文字是否正确，如果不正确，通过人接交互接口接收修改指令以修改所述文字。

作为另一个实现方式，可选的所述语音转写方法还包括：接收所述文字的选择信号；突出显示所述文字所对应的角色语音信号。可选的，所述角色语音信号以语音波形的形式展示出来，进行校对时，用户可以通过人机交互接口，如鼠标、键盘、触摸屏等选择一段文字，此时，在显示装置上突出显示所选择的文字所对应的角色语音的波形，如对所述波形进行高亮或者填充颜色等等，之后可以通过收听所述波形对应的声音来判断所述其对应的文字是否正确，如果不正确，通过人接交互接口接收修改指令以修改所述文字。

本公开实施例公开了一种语音转写方法，该语音转写方法包括：采集声音信号；从所述声音信号中分离出至少一个角色语音信号；将所述至少一个角色语音信号转写成文字；以至少一种展示方式展示所述文字。上述方法通过分离语音信号以及将语音信号转写成文字，解决了现有技术中记录语音内容的方案中所存在的检索不便、不稳定、不准确等技术问题。

在上文中，虽然按照上述的顺序描述了上述方法实施例中的各个步骤，本领域技术人员应清楚，本公开实施例中的步骤并不必然按照上述顺序执行，其也可以倒序、并行、交叉等其他顺序执行，而且，在上述步骤的基础上，本领域技术人员也可以再加入其他步骤，这些明显变型或等同替换的方式也应包含在本公开的保护范围之内，在此不再赘述。

图5为本公开实施例提供的语音转写装置实施例的结构示意图，如图5所示，该装置500包括：采集模块501、语音分离模块502、转写模块503和展示模块504。其中，

采集模块501，用于采集声音信号；

语音分离模块502，用于从所述声音信号中分离出至少一个角色语音信号；

转写模块503，用于将所述至少一个角色语音信号转写成文字；

展示模块504，用于以至少一种展示方式展示所述文字。

进一步的，所述语音转写装置500还包括：

增强模块，用于对所述声音信号进行增强处理。

进一步的，所述语音分离模块502，还用于：

将多通道的声音信号转换为多个单通道声音信号；

从所述多个单通道声音信号中确定至少一个单通道语音信号；

根据所述至少一个单通道语音信号确定至少一个角色语音信号。

进一步的，所述语音分离模块502，还用于：

将所述多个单通道声音信号中的每一个单通道声音信号输入深度学习模型得到至少一个单通道语音信号。

进一步的，所述语音分离模块502，还用于：

计算所述至少一个单通道语音信号之间的相似度；

将相似度高于相似阈值的多个单通道语音信号识别为同一个角色语音信号；

将相似度低于相似阈值的多个单通道语音信号识别为不同的角色语音信号。

进一步的，所述转写模块503，还用于：

抽取所述至少一个角色语音信号的语音特征；

将所述语音特征输入语音识别模型得到所述至少一个角色语音信号所对应的文字。

进一步的，所述展示模块504，还用于：

在实时展示区域展示所述文字；和/或，

在历史展示区域展示所述文字之前所转写的文字；和/或

在信息展示区域为已展示的信息添加以所述文字所组成的字幕。

进一步的，所述语音转写装置500，还包括：

摘要生成模块，用于获取所述文字所对应的文本；将所述文本输入摘要生成模型以生成所述文本的摘要。

进一步的，所述语音转写装置500，还包括：

第一校对模块，用于接收角色语音信号的选择信号；突出显示所述角色语音信号所对应的文字。

进一步的，所述语音转写装置500，还包括：

第二校对模块，用于接收所述文字的选择信号；突出显示所述文字所对应的角色语音信号。

图5所示装置可以执行图2-图4所示实施例的方法，本实施例未详细描述的部分，可参考对图2-图4所示实施例的相关说明。该技术方案的执行过程和技术效果参见图2-图4所示实施例中的描述，在此不再赘述。

下面参考图6，其示出了适于用来实现本公开实施例的电子设备600的结构示意图。本公开实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、pda(个人数字助理)、pad(平板电脑)、pmp(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字tv、台式计算机等等的固定终端。图6示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。

如图6所示，电子设备600可以包括处理装置(例如中央处理器、图形处理器等)601，其可以根据存储在只读存储器(rom)602中的程序或者从存储装置608加载到随机访问存储器(ram)603中的程序而执行各种适当的动作和处理。在ram603中，还存储有电子设备600操作所需的各种程序和数据。处理装置601、rom602以及ram603通过总线604彼此相连。输入/输出(i/o)接口605也连接至总线604。

通常，以下装置可以连接至i/o接口605：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置606；包括例如液晶显示器(lcd)、扬声器、振动器等的输出装置607；包括例如磁带、硬盘等的存储装置608；以及通信装置609。通信装置609可以允许电子设备600与其他设备进行无线或有线通信以交换数据。虽然图6示出了具有各种装置的电子设备600，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。

特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在非暂态计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信装置609从网络上被下载和安装，或者从存储装置608被安装，或者从rom602被安装。在该计算机程序被处理装置601执行时，执行本公开实施例的方法中限定的上述功能。

需要说明的是，本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、rf(射频)等等，或者上述的任意合适的组合。

在一些实施方式中，客户端、服务器可以利用诸如http(hypertexttransferprotocol，超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信，并且可以与任意形式或介质的数字数据通信(例如，通信网络)互连。通信网络的示例包括局域网(“lan”)，广域网(“wan”)，网际网(例如，互联网)以及端对端网络(例如，adhoc端对端网络)，以及任何当前已知或未来研发的网络。

上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。

上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：执行上述任一实施例中所述的语音转写方法。

可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码，上述程序设计语言包括但不限于面向对象的程序设计语言—诸如java、smalltalk、c++，还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(lan)或广域网(wan)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本公开实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。其中，单元的名称在某种情况下并不构成对该单元本身的限定。

本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列(fpga)、专用集成电路(asic)、专用标准产品(assp)、片上系统(soc)、复杂可编程逻辑设备(cpld)等等。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦除可编程只读存储器(eprom或快闪存储器)、光纤、便捷式紧凑盘只读存储器(cd-rom)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开中所涉及的公开范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述公开构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

起点商标作为专业知识产权交易平台，可以帮助大家解决很多问题，如果大家想要了解更多知产交易信息请点击 【在线咨询】或添加微信 【19522093243】与客服一对一沟通，为大家解决相关问题。

此文章来源于网络,如有侵权,请联系删除