基于耳机实现的翻译方法、装置、系统、设备和存储介质与流程
本申请涉及计算机技术领域,尤其涉及自然语言处理和语音技术,具体涉及一种基于耳机实现的翻译方法、装置、系统、设备和存储介质。
背景技术:
人们生活和工作中,语言表达是一种重要的交流方式和信息表达方式。涉及到不同语种的语言时,就需要进行翻译。
随着人工智能等技术的发展,陆续出现了各种应用软件,为用户提供语言翻译的功能。但是,现有的语言翻译功能的实际操作有限,对于需要实时、便捷获得翻译信息的场景来说,仍有待优化方案。
技术实现要素:
本公开提供了一种基于耳机实现的翻译方法、装置、设备和存储介质。
根据本公开的一方面,提供了一种基于耳机实现的翻译方法,由客户端执行,所述方法包括:
建立与耳机端的通信连接;
获取待翻译的源文本;
对所述源文本进行翻译,以获取目标文本;
将所述目标文本进行语音合成,以产生目标语音;
将所述目标文本在客户端的显示界面上进行显示,且将所述目标语音传输至所述耳机端进行播放。
根据本公开的另一方面,提供了一种基于耳机实现的翻译装置,配置于客户端中,所述装置包括:
通信连接建立模块,用于建立与耳机端的通信连接;
源文本获取模块,用于获取待翻译的源文本;
目标文本获取模块,用于对所述源文本进行翻译,以获取目标文本;
语音合成模块,用于将所述目标文本进行语音合成,以产生目标语音;
目标语音处理模块,用于将所述目标文本在客户端的显示界面上进行显示,且将所述目标语音传输至所述耳机端进行播放。
根据本申请公开的另一方面,提供了一种基于耳机实现的翻译系统,所述系统包括耳机端、终端和云端服务器;其中,所述终端与所述耳机端以及所述云端服务器通信连接;
所述耳机端用于采集源语音;
所述终端用于获取所述耳机端采集的源语音,并将所述源语音传输至所述云端服务器中;
所述云端服务器用于对所述源语音进行语音识别、语种翻译和语音合成中的至少一种处理操作,并将处理结果反馈至所述终端。
根据本申请公开的另一方面,提供了一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如本申请实施例任一所述的基于耳机实现的翻译方法。
根据本申请公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行如本申请实施例任一所述的基于耳机实现的翻译方法。
根据本申请的技术实现了实时且便捷的进行语音翻译的技术效果。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1是根据本申请实施例的一种基于耳机实现的翻译方法的流程图;
图2a是根据本申请实施例的一种基于耳机实现的翻译方法的流程图;
图2b是根据本申请实施例的一种异常连接提示信息界面的示意图;
图2c是根据本申请实施例的一种配置界面的示意图;
图2d是根据本申请实施例的一种阻断提示信息界面的示意图;
图2e是根据本申请实施例的一种显示界面的示意图;
图2f是根据本申请实施例的一种翻译模式界面的示意图;
图3是根据本申请实施例的一种基于耳机实现的翻译方法的流程图;
图4是根据本申请实施例的一种基于耳机实现的翻译方法的流程图;
图5a是根据本申请实施例的一种基于耳机实现的翻译系统的示意图;
图5b是根据本申请实施例的一种基于耳机实现的翻译系统的示意图;
图5c是根据本申请实施例的一种基于耳机实现的翻译系统的示意图;
图6是根据本申请实施例的一种基于耳机实现的翻译装置的结构示意图;
图7是根据本申请实施例的一种基于耳机实现的翻译方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
图1是根据本申请实施例公开的一种基于耳机实现的翻译方法的流程图,本实施例可以适用于用户通过耳机收听源文本的翻译结果的情况。本实施例方法可以由基于耳机实现的翻译装置来执行,该装置配置于客户端中,可采用软件和/或硬件实现,并可集成在任意的具有计算能力的电子设备上。所述客户端包括安装在终端中的系统软件或应用软件等,所述终端包括但不限于智能手机、智能手表、平板电脑、笔记本电脑或任一配置有智能操作系统的设备。
如图1所示,本实施例公开的基于耳机实现的翻译方法可以包括:
s101、建立与耳机端的通信连接。
在一种实施方式中,客户端所属终端与耳机端通过预设方式建立通信连接,进而使得安装在所述终端中的客户端与耳机端建立通信连接。其中,预设建立通信连接的方式包括如下至少一种:1)通过数据线通信连接;2)通过蓝牙通信连接;3)通过wifi(wirelessfidelity,无线保真)技术通信连接;4)通过nfc(nearfieldcommunication,近场通信)技术通信连接;5)通过rfid(radiofrequencyidentification,射频识别)技术通信连接。
可选的,客户端所属终端与耳机端通过a2dp(advancedaudiodistributionprofile,蓝牙音频传输模型协定)进行通信连接。
通过建立与耳机端的通信连接,为后续将翻译后的目标语音传输至耳机端进行播放,奠定了基础。
s102、获取待翻译的源文本。
其中,源文本表示待翻译的文本信息。
在一种实施方式中,客户端可以通过获取待翻译的源语音识别确定源语音对应的源文本,也可以直接获取源文本。
可选的,获取待翻译的源文本包括下述至少一种:
1)获取耳机端采集的源语音,并根据所述源语音识别确定所述源文本。
在一种实施方式中,用户口述出待翻译的源语音,用户佩戴的耳机端采集该源语音,并将该源语音传输至已建立通信连接的终端中,终端中的客户端相应获取该源语音,并对该源语音进行语音识别,以确定该源语音对应的源文本。
2)获取用户通过所述客户端所属终端的麦克风输入的源语音,并根据所述源语音识别确定所述源文本。
在一种实施方式中,用户开启客户端所属终端的麦克风的收音功能后,向该终端输入源语音,该源语音可以是用户自身口述的待翻译源语音,也可以是其它音源发出的待翻译源语音,例如一段音频文件等。客户端相应的获取所属终端采集的该源语音,并对该源语音进行语音识别,以确定该源语音对应的源文本。
可选的,在上述1)和2)中“根据所述源语音识别确定所述源文本”包括a和b两种实现方式:
a、将所述源语音进行本地语音识别,以确定所述源文本。
在一种实施方式中,客户端根据预设的语音识别算法,对获取的源语音进行语音识别,以确定该源语音对应的文本信息,即源文本。
其中,所属语音识别算法包括但不限于基于参数模型的隐马尔可夫模型算法、基于非参数模型的矢量量化算法或基于深度学习神经网络算法等。
b、将所述源语音基于长语音接口传输至语音识别云端服务器,以请求进行语音识别,并接收所述语音识别云端服务器反馈的所述源文本。
其中,长语音接口本质为一种语音sdk(softwaredevelopmentkit,软件开发工具包),用于建立客户端与语音识别云端服务器之间的数据传输。
在一种实施方式中,客户端基于源语音生成语音识别请求,并通过预设的长语音接口将该语音识别请求发送至语音识别云端服务器中,语音识别云端服务器响应该语音识别请求,获取该源语音并调用语音识别模块对该源语音进行语音识别,确定该源语音对应的源文本。语音识别云端服务器最终将得到的源文本通过长语音接口反馈给客户端。
通过将源语音进行本地语音识别,以确定源文本;或将源语音基于长语音接口传输至语音识别云端服务器,以请求进行语音识别,并接收语音识别云端服务器反馈的所述源文本,实现了以两种方式对源语音识别确定源文本,当网络状况好时优先将源语音传输至语音识别云端服务器进行语音识别,当网络状况较差时将源语音进行本地语音识别,提高了对源语音进行语音识别的可靠性,增加了冗余度。
3)获取用户通过所述客户端的输入界面输入的源文本。
在一种实施方式中,用户通过在客户端的输入界面调用文本输入功能,并手动的输入待翻译的源文本,客户端相应的获取用户输入的源文本。
通过获取耳机端采集的源语音,并根据源语音识别确定源文本,或者,获取用户通过客户端所属终端的麦克风输入的源语音,并根据源语音识别确定源文本,或者,获取用户通过客户端的输入界面输入的源文本,实现了可以通过最少三种方式获取源文本,提高了本实施例中基于耳机实现的翻译方法对于不同场景适应性,改善了用户体验。
通过获取待翻译的源文本,为后续对源文本进行翻译,获取目标文本,奠定了基础。
s103、对所述源文本进行翻译,以获取目标文本。
其中,目标文本的语种与源文本的语种,可以根据需求在客户端中进行设置,例如源文本的语种可以是“中文”,目标文本的语种可以是“英语”;相应的,源文本的语种可以是“英语”,目标文本的语种可以是“中文”。
在一种实施方式中,根据用户设置的目标语种,采用预设的翻译处理算法对源文本进行翻译,以获取目标语种形式的目标文本。
可选的,对所述源文本进行翻译,以获取目标文本包括a和b两种实现方式:
a、对所述源文本进行本地语种翻译,以获取目标文本。
在一种实施方式中,客户端采用本地预设的翻译处理算法对源文本进行翻译,以获取目标语种形式的目标文本。其中,翻译处理算法包括但不限于半监督学习的语种机器翻译算法、多策略分析的翻译处理算法以及翻译模板抽取算法等。
b、将所述源文本基于长链接接口传输至翻译云端服务器,以请求进行语种翻译,并接收所述翻译云端服务器反馈的所述目标文本。
其中,长链接接口本质为一种语音sdk,用于建立客户端与翻译云端服务器之间的数据传输。
在一种实施方式中,客户端基于源文本和用户设置的目标语种,生成语种翻译请求,并通过预设的长链接接口将该语种翻译请求发送至翻译云端服务器中,翻译云端服务器响应该语种翻译请求,获取该源文本并调用语种翻译模块对该源文本进行语种翻译,以得到目标语种形式的目标文本。翻译云端服务器最终将得到的目标文本通过长链接接口反馈给客户端。
通过对源文本进行本地语种翻译,以获取目标文本;或将源文本基于长链接接口传输至翻译云端服务器,以请求进行语种翻译,并接收翻译云端服务器反馈的目标文本,实现了以两种方式对源文本进行翻译得到目标文本,当网络状况好时优先将源文本传输至翻译云端服务器进行语种翻译,当网络状况较差时将源文本进行本地语种翻译,提高了对源文本进行语种翻译的可靠性,增加了冗余度。
通过对源文本进行翻译,以获取目标文本,实现了语种翻译的效果,为后续进行语音合成产生目标语音,奠定了基础。
s104、将所述目标文本进行语音合成,以产生目标语音。
在一种实施方式中,采用tts(texttospeech,语音合成)技术将目标文本进行语音合成,产生目标语音。
可选的,将所述目标文本进行语音合成,以产生目标语音包括a和b两种实现方式:
a、将所述目标文本进行本地语音合成,以产生目标语音。
在一种实施方式中,客户端在本地采用tts技术对目标文本进行语音合成,其中tts技术可选的包括线性预测编码技术、基音同步叠加技术和基于声道模型的语音合成方法。
b、将所述目标文本基于长链接接口传输至语音合成云端服务器,以请求进行语音合成,并接收所述语音合成云端服务器反馈的所述目标语音。
在一种实施方式中,客户端基于目标文本生成语音合成请求,并通过预设的长链接接口将该语音合成请求发送至语音合成云端服务器中,语音合成云端服务器响应该语音合成请求,获取该目标文本并调用语音合成模块对该目标文本进行语音合成,生成该目标文本对应的目标语音。语音合成云端服务器最终将生成的目标语音通过长链接接口反馈给客户端。
通过对目标文本进行本地语音合成,以产生目标语音;或将目标文本基于长链接接口传输至语音合成云端服务器,以请求进行语音合成,并接收语音合成云端服务器反馈的目标语音,实现了以两种方式对目标文本进行语音合成得到目标语音,当网络状况好时优先将目标文本传输至语音合成云端服务器进行语音合成,当网络状况较差时将目标文本进行本地语音合成,提高了对目标文本进行语音合成的可靠性,增加了冗余度。
通过将目标文本进行语音合成,实现了产生目标文本对应目标语音的效果,为后续将该目标语音传输至耳机端以供用户收听,奠定了基础。
s105、将所述目标文本在客户端的显示界面上进行显示,且将所述目标语音传输至所述耳机端进行播放。
在一种实施方式中,客户端将目标文本在预设的显示界面上进行显示,用户可通过客户端的显示界面查看翻译后的目标文本。同时,客户端还会将目标文本对应的目标语音传输至已建立通信连接的耳机端,耳机端控制自身的各发生单元,将目标语音由电信号形式转换为机械震动,进而实现播放目标语音的效果,用户通过佩戴耳机端以收听目标文本对应的目标语音。
通过将目标文本在客户端的显示界面上进行显示,且将目标语音传输至耳机端进行播放,实现了为用户反馈翻译后的目标文本和目标文本对应的目标语音的效果。
根据本实施例的技术方案,通过建立与耳机端的通信连接,将待翻译的源文本进行翻译,并将翻译得到的目标文本进行语音合成,产生目标语音,最终将目标语音在客户端的显示界面上进行显示,且将目标语音传输至耳机端进行播放,用户可以在客户端中查看翻译后的目标文本,也可以通过耳机端收听目标文本对应的目标语音,从而实现了实时且便捷的进行语音翻译的技术效果。
在上述实施例的基础上,s105中“将所述目标语音传输至所述耳机端进行播放”包括:
将两个用户所输入源文本各自对应的目标语音,分别传输至两个耳机端,分别进行播放。
在一种实施方式中,客户端将用户输入的源文本进行翻译,获取源文本对应的目标文本,并将目标文本进行语音合成,将产生的目标语音分别传输至两个耳机端,分别进行播放。
示例性的,用户a和用户b分别佩戴有一个耳机端,用户a在客户端中输入源文本为“你好”,对源文本“你好”翻译后目标文本对应的目标语音为“hello”,则客户端将目标语音“hello”传输至用户b佩戴的耳机端;相应的,用户b在用户端中输入源文本为“hello”,对源文本“hello”翻译后目标文本对应的目标语音为“你好”,则客户端将目标语音“你好”传输至用户a佩戴的耳机端。
通过将两个用户所输入源文本各自对应的目标语音,分别传输至两个耳机端,分别进行播放,实现了两个用户之间进行翻译沟通的技术效果。
图2a是根据本申请实施例公开的一种基于耳机实现的翻译方法的流程图,基于上述技术方案进一步优化与扩展,并可以与上述各个可选实施方式进行结合。如图2a所示,该方法可以包括:
s201、建立与耳机端的通信连接。
可选的,客户端自动检测当前与耳机端的通信连接是否通畅,若检测到与耳机端通信连接中断,则在客户端显示界面上显示异常连接提示信息,以提示用户当前客户端与耳机端通信连接中断。如图2b所示,图2b是根据本申请实施例公开的一种异常连接提示信息界面的示意图。
s202、获取用户通过客户端的配置界面输入的翻译配置信息;其中,所述翻译配置信息包括:每个耳机端所对应的源语种和目标语种。
在一种实施方式中,用户若首次使用翻译功能,或,一周内未使用翻译功能,则客户端自动弹出配置界面,用户根据需求输入翻译配置信息,包括但不限于每个耳机端所对应的源语种、目标语种、目标语音语速和目标语音音量等。
其中,源语种表示用户自身使用的语种,目标语种表示该用户想要将源语种翻译成的语种,例如用户自身使用“中文”,想要翻译成“英文”,则源语种为“中文”,目标语种“英文”。
如图2c所示,图2c是根据本申请实施例公开的一种配置界面的示意图,其中,20表示配置方案一,左耳机端的源语种为“英文”,目标语种为“中文”;相应的,右耳机端的源语种为“中文”,目标语种为“英文”。21表示配置方案二,左耳机端的源语种为“中文”,目标语种为“英文”;相应的,右耳机端的源语种为“英文”,目标语种为“中文”。
s203、获取用户输入的试音指令,根据当前翻译配置信息中为每个耳机端配置的源语种和目标语种,将预设的试音音频传输至每个耳机端,按照源语种和目标语种的顺序进行播放。
在一种实施方式中,若用户非首次使用翻译功能,且,一周内使用过翻译功能,则客户端自动弹出试音引导界面。用户在试音引导页面输入试音指令,可选的包括点击“试音”按钮,客户端相应的根据当前翻译配置信息中为每个耳机端配置的源语种和目标语种,将预设的试音音频传输至每个耳机端,按照源语种和目标语种的顺序进行播放。
示例性的,假设当前翻译配置信息中,左耳机端的源语种为“英语”,目标语种为“中文”,右耳机端的源语种为“中文”,目标语种为“英语”,则当用户点击“试音”按钮后,将预设的试音音频分别传输至左右耳机端进行播放,例如在左耳机端播放“thisleftearbudisforenglish-speakinguser”,在右耳机端播放“右耳机请由中文使用者佩戴”。
示例性的,假设当前翻译配置信息中,左耳机端的源语种为“中文”,目标语种为“英语”,右耳机端的源语种为“英语”,目标语种为“中文”,则当用户点击“试音”按钮后,将预设的试音音频分别传输至左右耳机端进行播放,例如在左耳机端播放“左耳机请由中文使用者佩戴”,在右耳机端播放“thisrightearbudisforenglish-speakinguser”。
可选的,用户输入翻译配置信息后,点击“保存使用”,客户端则按用户本次输入的翻译配置信息中为每个耳机端配置的源语种和目标语种,再将预设的试音音频传输至每个耳机端,按照源语种和目标语种的顺序进行播放。
可选的,用户输入翻译配置信息后,未点击“保存使用”按钮就点击了“返回”按钮,客户端则自动弹出阻断提示信息,例如“请保存当前翻译配置信息”或“还未保存当前翻译配置信息”等。
如图2d所示,图2d是根据本申请实施例公开的一种阻断提示信息界面的示意图,当用户点击“不保存”后,则客户端保持前次用户输入的翻译配置信息并返回,当用户点击“我知道了”后,则阻断提示信息消失并停在配置界面。
s204、从两个耳机端分别获取各自采集的第一源语音和第二源语音,将所述第一源语音和第二源语音分别进行语音识别,以获取第一源文本和第二源文本。
在一种实施方式中,客户端从左耳机端获取采集的第一源语音,从右耳机端获取采集的第二源语音,其中,第一源语音的源语种为第二源语音的目标语种,第一源语音的目标语种为第二源语音的源语种。
s205、对所述第一源语音和第二源语音进行翻译,以获取第一目标文本和第二目标文本。
s206、将所述第一目标文本和第二目标文本进行语音合成,以产生第一目标语音和第二目标语音。
s207、将翻译获得两个目标文本和对应的两个源文本,在客户端的显示界面上进行显示,且将两个所述目标语音交叉传输至非采集对应源语音的耳机端进行播放。
示例性的,假设左耳机端采集的源语音为“你好,我饿坏了”,目标语音为“hello,i’mstarving”,右耳机端采集的源语音为“whatdoyouwanttoeat”,目标语音为“你想吃什么”,则客户端将目标语音“hello,i’mstarving”传输至右耳机端,将目标语音“你想吃什么”传输至左耳机端。
可选的,“将所述目标文本在客户端的显示界面上进行显示包括”包括:
将所述源文本和所述目标文本,基于设定上屏显示规则,在客户端的显示界面上进行同步显示;
其中,所述上屏显示规则包括下述a、b、c和d中至少一项:
a、所述源文本和所述目标文本在所述显示界面的不同区域中显示。
可选的,若将源文本在显示界面的上方区域进行显示,则将目标文本在显示界面的下方区域进行显示。例如,显示界面上方区域为白色区域,源文本以黑色字体进行显示,显示界面下方区域为蓝色区域,目标文本以白色字体进行显示。相应的,若将源文本在显示界面的下方区域进行显示,则将目标文本在显示界面的上方区域进行显示。
如图2e所示,图2e是根据本申请实施例公开的一种显示界面的示意图,其中,22表示显示源文本的区域,23表示显示目标文本的区域。
b、所述源文本和所述目标文本在所述显示界面的相同区域中关联显示。
可选的,将源文本和目标文本在显示界面相同区域中的同一对话框内关联显示。
c、当前播放目标语音所对应的源文本和所述目标文本,进行区别显示。
可选的,将当前播放目标语音所对应的源文本和目标文本,以加粗和加大的形式进行区别显示。
d、不同用户所输入的源文本和目标文本,进行区别显示。
可选的,在不同用户所输入的源文本和目标文本的前面添加标示符,以实现区别显示的效果,例如在用户a所输入的源文本和目标文本的前面添加三角标示符,在用户b所输入的源文本和目标文本的前面添加圆形标示符。又例如,在用户a所输入的源文本和目标文本的前面添加圆形标示符,在用户b所输入的源文本和目标文本的前面不添加标示符。
根据本实施例的技术方案,通过将源文本和目标文本,基于设定上屏显示规则,在客户端的显示界面上进行同步显示,使得用户可实时在客户端显示界面上查看源文本和目标文本;通过从两个耳机端分别获取各自采集的第一源语音和第二源语音,将第一源语音和第二源语音分别进行语音识别,以获取第一源文本和第二源文本,并最终将翻译获得两个目标文本和对应的两个源文本,在客户端的显示界面上进行显示,且将两个目标语音交叉传输至非采集对应源语音的耳机端进行播放,实现了两个用户通过两个耳机端进行实时对话翻译,提高了语音翻译的便捷性;通过获取用户通过客户端的配置界面输入的翻译配置信息,满足用户对于不同耳机端的源语种和目标语种需求,提高了场景的适应性;通过获取用户输入的试音指令,根据当前翻译配置信息中为每个耳机端配置的源语种和目标语种,将预设的试音音频传输至每个耳机端,按照源语种和目标语种的顺序进行播放,保证了各耳机端播放语种的正确性,增加了翻译结果的可靠性。
在上述实施例的基础上,所述方法还包括:
在所述客户端的界面上显示至少两种翻译模式,并根据用户对翻译模式的选择确定当前所处翻译模式。
在一种实施方式中,用户可根据需求在客户端的界面上显示的至少两种翻译模式中,选择一种翻译模式作为当前所处翻译模式。
如图2f所示,图2f是根据本申请实施例公开的一种翻译模式界面的示意图,其中,24表示“会场实时听译模式”,25表示“耳机手机互动翻译模式”,26表示“双人分耳对聊模式”。
通过在客户端的界面上显示至少两种翻译模式,并根据用户对翻译模式的选择确定当前所处翻译模式,实现了为用户提供多种可选翻译模式的效果,满足了用户多种的翻译需求。
在上述实施例的基础上,所述方法还包括:
将所述源文本和目标文本,作为历史记录进行保存。
在一种实施方式中,用户通过在客户端显示界面上点击“保存”按钮,则客户端响应用户的保存操作,将显示界面中的源文本和目标文本作为一条历史记录进行保存。
在另一种实施方式中,用户通过在客户端显示界面上点击“清空”按钮,则客户端响应用户的清空操作,将显示界面中的源文本和目标文本清空,并作为一条历史记录进行保存。
通过将源文本和目标文本,作为历史记录进行保存,使得用户后续可以查看历史记录。
在上述实施例的基础上,所述方法还包括:
在检测到异常事件时,暂停所述源文本的获取操作,以及暂停目标语音传输至所述耳机端进行播放的操作;
其中,所述异常事件包括下述a、b和c中至少一项:
a、耳机端采集的源语音的环境噪音大于噪音阈值。
在一种实施方式中,客户端按照预设周期对耳机端采集的源语音的环境噪音进行检测,可选的,预设周期为5秒。若检测到耳机端采集的源语音的环境噪音大于噪音阈值,此时表明源语音的质量不佳,客户端则暂停源文本的获取操作,以及暂停目标语音传输至耳机端进行播放的操作,并在客户端生成提示信息,例如“当前环境噪音较大,可能会翻译不准确,请注意!”,又例如“translationcannotbeinsuredduetonoise”等。
b、用户在所述客户端的所述显示界面上实施了返回操作,或,实施了清空操作。
在一种实施方式中,当用户在客户端的显示界面上点击“返回”按钮,或点击“清空”按钮,则客户端暂停源文本的获取操作,以及暂停目标语音传输至耳机端进行播放的操作,并生成提示信息,例如“还有部分信息还未翻译,返回后可能丢失”,又例如“还有部分信息还未翻译,清空后可能丢失”。
c、所述耳机端与所述客户端所属终端通信连接断开,和/或,两个耳机端之间通信连接断开。
在一种实施方式中,当客户端检测到耳机端与客户端所属终端通信连接断开,和/或,两个耳机端之间通信连接断开,则暂停源文本的获取操作,以及暂停目标语音传输至耳机端进行播放的操作,并生成提示信息,例如“耳机连接断开,翻译已停止,如需继续使用请手动连接”,又例如“设备连接失败,请重试”等。
通过在检测到异常事件时,暂停源文本的获取操作,以及暂停目标语音传输至耳机端进行播放的操作,保证了翻译结果的可靠性以及准确性。
图3是根据本申请实施例公开的一种基于耳机实现的翻译方法的流程图,基于上述技术方案进一步优化与扩展,并可以与上述各个可选实施方式进行结合。如图3所示,该方法可以包括:
s301、建立与耳机端的通信连接。
s302、获取耳机端采集用户输入的第一源语音,并根据所述第一源语音识别确定第一源文本。
可选的,用户a佩戴有耳机端,假设用户a的源语种为“中文”,用户a在客户端中点击“说中文”按钮后,耳机端的麦克风开启,用户a对着耳机端讲话,耳机端采集用户a输入的第一源语音,且客户端界面上显示“请说中文”和“请对耳机说话”等。
s303、获取客户端采集用户输入的第二源语音,并根据所述第二源语音识别确定第二源文本
可选的,在s302中描述内容的基础上,假设用户b的源语种为“英文”,用户a讲完后,用户b在客户端中点击“speakenglish”按钮,客户端所属终端的麦克风开启,用户b开始讲话,客户端采集用户b输入的第二源语音,且客户端界面上显示“pleasespeak”等。
s304、对所述第一源文本和第二源文本进行翻译,以获取第一目标文本和第二目标文本。
s305、将所述第一目标文本和第二目标文本进行语音合成,以产生目标语音。
s306、将所述第一目标文本和第二目标文本在客户端的显示界面上进行显示,且将所述第二源语音对应的目标语音,传输至所述耳机端进行播放。
可选的,在s302和s303描述内容的基础上,客户端将第一目标文本和第二目标文本在客户端的显示界面上进行显示,且将用户b的第二源语音对应的目标语音,传输至用户a佩戴的耳机端中进行播放,进而用户a可以进行收听。
根据本实施例的技术方案,通过获取耳机端采集用户输入的第一源语音,并根据第一源语音识别确定第一源文本,且获取客户端采集用户输入的第二源语音,并根据第二源语音识别确定第二源文本,最终将第二源语音对应的目标语音,传输至耳机端进行播放,实现了一个用户通过耳机端发送源语音和接收另一个用户的目标语音,一个用户通过终端发送源语音和接收另一个用户的目标语音的效果,增加了本实施例中基于耳机实现的翻译方法的普适性,满足了用户个性化的需求。
图4是根据本申请实施例公开的一种基于耳机实现的翻译方法的流程图,基于上述技术方案进一步优化与扩展,并可以与上述各个可选实施方式进行结合。如图4所示,该方法可以包括:
s401、建立与耳机端的通信连接。
s402、获取用户通过所述客户端所属终端的麦克风输入的源语音,并根据所述源语音识别确定所述源文本。
在一种实施方式中,用户在客户端中点击“开始听译”按钮,客户端自动检查与耳机端的通信连接,若通信连接中断则在客户端中显示中断提示信息。若通信正常,则开启客户端所属终端的麦克风收音功能,在客户端界面上侧显示当前的源语种与目标语种,并显示提示信息,例如“正在为你听英文翻译为中文,请将手机麦克风靠近英文声源”等。用户可以根据需求选择新的源语种与目标语种,相应的客户端界面上侧更新显示当前的源语种与目标语种,并更新显示提示信息。声源可以是用户口述的语音,也可以是任何包括语音信息的声源,例如一段音频文件和一段具有声音的视频文件等。
s403、对所述源文本进行翻译,以获取目标文本。
s404、将所述目标文本进行语音合成,以产生目标语音。
s405、将所述目标文本在客户端的显示界面上进行显示,且将所述目标语音传输至所述耳机端进行播放。
可选的,客户端的显示界面显示目标文本时,用户可以根据需求选择在客户端中播放该目标文本的目标语音,也可以选择静音模式,即只显示目标文本。
可选的,在客户端将目标文本在客户端的显示界面上进行显示,且将目标语音传输至耳机端进行播放的过程中,用户可随时触控点击客户端界面中的“暂停”按钮,点击后停止麦克风的收音,并将还未在显示界面上进行显示的目标文本继续显示,且将未传输至耳机端的目标语音继续传输。“暂停”按钮被触控点击后变为“开始听译”按钮,即用户可以再次点击“开始听译”按钮,以再次出发麦克风的收音功能。
可选的,当用户点击“暂停”按钮后,目标文本都已在显示界面显示,且目标语音都已传输至耳机端,此时用户可以重新选择源语种以及目标语种,重新选择后,当再次开启听译功能后,先前的目标文本会被清除并保存到翻译历史记录中,显示界面继续显示新的目标文本。
根据本实施例的技术方案,通过获取用户通过客户端所属终端的麦克风输入的源语音,并根据源语音识别确定所述源文本,最终将目标文本在客户端的显示界面上进行显示,且将目标语音传输至所述耳机端进行播放,使得用户可以随时随地对想要翻译的声源进行翻译,例如歌曲或电影台词等,大大提高了语音翻译的灵活性和便捷性。
图5a是根据本申请实施例公开的一种基于耳机实现的翻译系统的示意图,基于上述技术方案进一步优化与扩展,并可以与上述各个可选实施方式进行结合。如图5a所示,该系统可以包括:
耳机端50、终端51以及云端服务器52,其中:
所述耳机端50用于采集源语音;
所述终端51用于获取所述耳机端50采集的源语音,并将所述源语音传输至所述云端服务器52中;
所述云端服务器52用于对所述源语音进行语音识别、语种翻译和语音合成中的至少一种处理操作,并将处理结果反馈至所述终端51。
可选的,图5b是根据本申请实施例公开的一种基于耳机实现的翻译系统的示意图,包括耳机端50、终端51、长语音接口52、语音识别云端服务器53、翻译云端服务器54和语音合成云端服务器55,其中:
所述耳机端50用于采集源语音;
所述终端51用于获取所述耳机端50采集的源语音,并将所述源语音通过长语音接口52,传输至所述语音识别云端服务器53中;
所述语音识别云端服务器53用于对所述源语音进行语音识别,得到源文本,并将该源文本传输至翻译云端服务器54中;
所述翻译云端服务器54用于对所述源文本进行语种翻译,得到所述源文本对应的目标文本,并将所述目标文本传输至语音合成云端服务器55中;
所述语音合成云端服务器55用于对所述目标文本进行语音合成,得到目标语音,并将所述目标语音通过长语音接口52,反馈至所述终端51中。
可选的,图5c是根据本申请实施例公开的一种基于耳机实现的翻译系统的示意图,包括耳机端50、终端51、长语音接口52、语音识别云端服务器53、翻译云端服务器54、语音合成云端服务器55和长链接接口56,其中:
所述耳机端50用于采集源语音;
所述终端51用于获取所述耳机端50采集的源语音,并将所述源语音通过长语音接口52,传输至所述语音识别云端服务器53中;
所述语音识别云端服务器53用于对所述源语音进行语音识别,得到源文本,并将该源文本通过长语音接口52反馈给所述终端51;
所述终端51用于将所述源文本通过长链接接口56,传输至所述翻译云端服务器54中;
所述翻译云端服务器54用于对所述源文本进行语种翻译,得到目标文本,并将所述目标文本通过长链接接口56反馈至终端51;
所述终端51用于将所述目标文本通过长链接接口56,传输至所述语音合成云端服务器55中;
所述语音合成云端服务器55用于将所述目标文本进行语音合成,产生目标语音,并将所述目标语音通过长链接接口56,传输至所述翻译云端服务器54中。
图6是根据本申请实施例公开的一种基于耳机实现的翻译装置的结构示意图,本实施例可以适用于用户通过耳机收听源文本的翻译结果的情况。本实施例装置配置于客户端中,可采用软件和/或硬件实现,并可集成在任意的具有计算能力的电子设备上。
如图6所示,本实施例公开的基于耳机实现的翻译装置60可以包括通信连接建立模块61、源文本获取模块62、目标文本获取模块63、语音合成模块64和目标语音处理模块73,其中:
通信连接建立模块61,用于建立与耳机端的通信连接;
源文本获取模块62,用于获取待翻译的源文本;
目标文本获取模块63,用于对所述源文本进行翻译,以获取目标文本;
语音合成模块64,用于将所述目标文本进行语音合成,以产生目标语音;
目标语音处理模块65,用于将所述目标文本在客户端的显示界面上进行显示,且将所述目标语音传输至所述耳机端进行播放。
可选的,所述源文本获取模块62,具体用于下述至少一种:
获取耳机端采集的源语音,并根据所述源语音识别确定所述源文本;
获取用户通过所述客户端所属终端的麦克风输入的源语音,并根据所述源语音识别确定所述源文本;
获取用户通过所述客户端的输入界面输入的源文本。
可选的,所述源文本获取模块62,具体还用于:
将所述源语音进行本地语音识别,以确定所述源文本;或
将所述源语音基于长语音接口传输至语音识别云端服务器,以请求进行语音识别,并接收所述语音识别云端服务器反馈的所述源文本。
可选的,所述目标文本获取模块63,具体用于:
对所述源文本进行本地语种翻译,以获取目标文本;或
将所述源文本基于长链接接口传输至翻译云端服务器,以请求进行语种翻译,并接收所述翻译云端服务器反馈的所述目标文本。
可选的,所述语音合成模块64,具体用于:
将所述目标文本进行本地语音合成,以产生目标语音;或
将所述目标文本基于长链接接口传输至语音合成云端服务器,以请求进行语音合成,并接收所述语音合成云端服务器反馈的所述目标语音。
可选的,所述目标语音处理模块65,具体用于:
将所述源文本和所述目标文本,基于设定上屏显示规则,在客户端的显示界面上进行同步显示;
其中,所述上屏显示规则包括下述至少一项:
所述源文本和所述目标文本在所述显示界面的不同区域中显示;
所述源文本和所述目标文本在所述显示界面的相同区域中关联显示;
当前播放目标语音所对应的源文本和所述目标文本,进行区别显示;
不同用户所输入的源文本和目标文本,进行区别显示。
可选的,所述目标语音处理模块65,具体还用于:
将两个用户所输入源文本各自对应的目标语音,分别传输至两个耳机端,分别进行播放。
可选的,所述装置还包括保存模块,具体用于:
将所述源文本和目标文本,作为历史记录进行保存。
可选的,所述装置还包括异常检测模块,具体用于:
在检测到异常事件时,暂停所述源文本的获取操作,以及暂停目标语音传输至所述耳机端进行播放的操作;
其中,所述异常事件包括下述至少一项:
耳机端采集的源语音的环境噪音大于噪音阈值;
用户在所述客户端的所述显示界面上实施了返回操作,或,实施了清空操作;
所述耳机端与所述客户端所属终端通信连接断开,和/或,两个耳机端之间通信连接断开。
可选的,所述通信连接建立模块61,具体用于:
从两个耳机端分别获取各自采集的第一源语音和第二源语音,将所述第一源语音和第二源语音分别进行语音识别,以获取第一源文本和第二源文本;
相应的,所述目标语音处理模块65,具体还用于:
将翻译获得两个目标文本和对应的两个源文本,在客户端的显示界面上进行显示,且将两个所述目标语音交叉传输至非采集对应源语音的耳机端进行播放。
可选的,所述装置还包括配置信息获取模块,具体用于:
获取用户通过客户端的配置界面输入的翻译配置信息;其中,所述翻译配置信息包括:每个耳机端所对应的源语种和目标语种。
可选的,所述装置还包括试音指令获取模块,具体用于:
获取用户输入的试音指令,根据当前翻译配置信息中为每个耳机端配置的源语种和目标语种,将预设的试音音频传输至每个耳机端,按照源语种和目标语种的顺序进行播放。
可选的,所述源文本获取模块62,具体还用于:
获取耳机端采集用户输入的第一源语音,并根据所述第一源语音识别确定第一源文本;
获取客户端采集用户输入的第二源语音,并根据所述第二源语音识别确定第二源文本;
相应的,所述目标语音处理模块65,具体还用于:
将所述第二源语音对应的目标语音,传输至所述耳机端进行播放。
本申请实施例所公开的基于耳机实现的翻译装置60可执行本申请实施例所公开的基于耳机实现的翻译方法,具备执行方法相应的功能模块和有益效果。本实施例中未详尽描述的内容可以参考本申请任意方法实施例中的描述。
根据本申请的实施例,本申请还提供了一种电子设备和一种可读存储介质。
如图7所示,是根据本申请实施例的基于耳机实现的翻译方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图7所示,该电子设备包括:一个或多个处理器701、存储器702,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示gui的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图7中以一个处理器701为例。
存储器702即为本申请所提供的非瞬时计算机可读存储介质。其中,所述存储器存储有可由至少一个处理器执行的指令,以使所述至少一个处理器执行本申请所提供的基于耳机实现的翻译方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的基于耳机实现的翻译方法。
存储器702作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的基于耳机实现的翻译方法对应的程序指令/模块(例如,附图6所示的通信连接建立模块61、源文本获取模块62、目标文本获取模块63、语音合成模块64和目标语音处理模块65)。处理器701通过运行存储在存储器702中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的基于耳机实现的翻译方法。
存储器702可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据基于耳机实现的翻译方法的电子设备的使用所创建的数据等。此外,存储器702可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器702可选包括相对于处理器701远程设置的存储器,这些远程存储器可以通过网络连接至基于耳机实现的翻译方法的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
基于耳机实现的翻译方法的电子设备还可以包括:输入装置703和输出装置704。处理器701、存储器702、输入装置703和输出装置704可以通过总线或者其他方式连接,图7中以通过总线连接为例。
输入装置703可接收输入的数字或字符信息,以及产生与基于耳机实现的翻译方法的电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置704可以包括显示设备、辅助照明装置(例如,led)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(lcd)、发光二极管(led)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用asic(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(pld)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,crt(阴极射线管)或者lcd(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(lan)、广域网(wan)、互联网和区块链网络。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与vps服务中,存在的管理难度大,业务扩展性弱的缺陷。
根据本申请实施例的技术方案,通过建立与耳机端的通信连接,将待翻译的源文本进行翻译,并将翻译得到的目标文本进行语音合成,产生目标语音,最终将目标语音在客户端的显示界面上进行显示,且将目标语音传输至耳机端进行播放,用户可以在客户端中查看翻译后的目标文本,也可以通过耳机端收听目标文本对应的目标语音,从而实现了实时且便捷的进行语音翻译的技术效果。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。
起点商标作为专业知识产权交易平台,可以帮助大家解决很多问题,如果大家想要了解更多知产交易信息请点击 【在线咨询】或添加微信 【19522093243】与客服一对一沟通,为大家解决相关问题。
此文章来源于网络,如有侵权,请联系删除