一种语音控制方法及显示设备与流程
本申请要求在2019年06月10日提交中国专利局、申请号201910498059.0、发明名称为″一种基于融合场景的语音控制方法及显示设备″的中国专利申请的优先权。
本申请涉及语音控制技术领域,尤其涉及一种语音控制方法及显示设备。
背景技术:
显示设备(例如智能电视)上通常设置有各种各样的应用程序,例如,视频、聊天、游戏应用程序,以满足用户的多元化娱乐需求。并且,大多数的显示设备都能够提供语音控制服务,其中包括根据用户的语音信息,控制显示设备上各个应用程序的运行状态。
在双系统的显示设备中,由于其具有两个独立运行且相互关联的系统,因此,该显示设备能够控制这两个系统同时运行不同的应用程序,从而提供一种融合场景。例如,显示设备控制a系统运行游戏应用,控制n系统运行聊天应用,从而提供一种″边玩边聊″场景。在融合场景下,当用户需要对这些应用程序进行语音控制时,由于语音控制应用设置在一个特定的系统中,但是两个同时运行的应用却分别处于不同的系统中,所以,常规的语音控制方法将不能实现对双系统融合场景的控制。因此,亟待提供一种适用于双系统融合场景的语音控制方法。
技术实现要素:
本实施例提供了提供一种语音控制方法及显示设备,以对具有双系统的显示设备的融合场景进行语音控制。
第一方面,本实施例提供一种语音控制方法,应用于显示设备,所述方法包括:
确定所述显示设备中为当前交互界面中的显示窗口提供显示内容的应用程序;
响应于所述应用程序为棋牌类应用,从近场语音模块获取第一语音信息,并根据所述第一语音信息控制所述棋牌类应用执行出牌动作;
响应于所述应用程序为即时通讯应用,从远场语音模块获取第二语音信息,并将所述第二语音信息发送给所述即时通讯应用的通讯对端。
在第一方面的第一种实现方式中,所述方法应用于所述显示设备的第二芯片上的第二操作系统,所述显示设备还包括设置在第一芯片上的第一操作系统,所述第一芯片和所述第二芯片通信连接;所述应用程序为所述第一操作系统或者所述第二操作系统中安装的应用程序。
在第一方面的第二种实现方式中,所述方法还包括:响应于所述应用程序同时包括所述棋牌类应用和所述即时通讯类应用,从所述近场语音模块获取第一语音信息,并根据所述第一语音信息控制所述棋牌类应用执行出牌动作,以及从所述远场语音模块获取第二语音信息,并将所述第二语音信息发送给所述即时通讯应用的通讯对端。
在第一方面的第三种实现方式中,从所述近场语音模块获取第一语音信息,包括:确定所述棋牌类应用的第一状态信息;如果所述第一状态信息指示所述棋牌类应用处于对弈状态,则从所述近场语音模块获取第一语音信息。
在第一方面的第四种实现方式中,从远场语音模块获取第二语音信息,包括:确定所述即时通讯应用的第二状态信息;如果所述第二状态信息指示所述即时通讯应用处于聊天状态,则从所述远场语音模块获取第二语音信息。
在第一方面的第五种实现方式中,根据所述第一语音信息控制所述棋牌类应用执行出牌动作,包括:
将所述第一语音信息发送至云端服务器;接收所述云端服务器返回的所述第一语音信息的识别结果;以及,将所述识别结果发送给所述棋牌类应用,所述识别结果用于控制所述棋牌类应用执行出牌动作;或者,
将所述第一语音信息发送给所述棋牌类应用,所述棋牌类应用被配置为接收所述第一语音信息并将所述第一语音信息发送给云端服务器,接收所述云端服务器返回的所述语音信息的识别结果,以及根据所述识别结果控制所述棋牌类应用执行出牌动作。
第二方面,本实施例提供一种语音控制方法,应用于显示设备,所述方法包括:
确定所述显示设备中为当前交互界面中的显示窗口提供显示内容的应用程序;
响应于所述应用程序为棋牌类应用和即时通讯应用,从近场语音模块获取第一语音信息,并根据所述第一语音信息控制所述棋牌类应用执行出牌动作,以及从远场语音模块获取第二语音信息,并将所述第二语音信息发送给所述即时通讯应用的通讯对端。
第三方面,本实施例提供一种显示设备,包括显示设备本体和遥控器,
所述遥控器,被配置为用于接收用户的操作来控制显示设备本体的显示屏上的交互界面中的焦点,以及接收用户输入的第一语音;
所述显示设备本体包括:
所述显示屏,被配置为显示棋牌类应用和/或即时通讯应用的应用窗口;
麦克风,被配置为接收用户输入的第二语音;
近场语音模块,被配置为处理所述遥控器接收到的所述第一语音,以及根据所述第一语音生成第一语音信息;
远场语音模块,被配置为处理所述麦克风接收到的第二语音,以及根据所述第二语音生成第二语音信息;
控制器,被配置为,
确定所述显示设备中为当前交互界面中的显示窗口提供显示内容的应用程序,
响应于所述应用程序为棋牌类应用,从近场语音模块获取第一语音信息,并根据所述第一语音信息控制所述棋牌类应用执行出牌动作;
响应于所述应用程序为即时通讯应用,从远场语音模块获取第二语音信息,并将所述第二语音信息发送给所述即时通讯应用的通讯对端。
在第三方面的第一种实现方式中,所述显示设备本体还包括,设置在第一芯片上的第一操作系统,以及设置在第二芯片上的第二操作系统,所述第一芯片和所述第二芯片通信连接;所述控制器安装于所述第二芯片上,所述应用程序为所述第一操作系统或者所述第二操作系统中安装的应用程序。
在第三方面的第二种实现方式中,所述控制器还被配置为,响应于所述应用程序同时包括所述棋牌类应用和所述即时通讯类应用,从所述近场语音模块获取第一语音信息,并根据所述第一语音信息控制所述棋牌类应用执行出牌动作,以及从所述远场语音模块获取第二语音信息,并将所述第二语音信息发送给所述即时通讯应用的通讯对端。
在第三方面的第三种实现方式中,从近场语音模块获取第一语音信息,包括:确定所述棋牌类应用的第一状态信息;如果所述第一状态信息指示所述棋牌类应用处于对弈状态,则从所述近场语音模块获取第一语音信息。
在第三方面的第四种实现方式中,从远场语音模块获取第二语音信息,包括:确定所述即时通讯应用的第二状态信息;如果所述第二状态信息指示所述即时通讯应用处于聊天状态,则从所述远场语音模块获取第二语音信息。
在第三方面的第五种实现方式中,根据所述第一语音信息控制所述棋牌类应用执行出牌动作,包括:
将所述第一语音信息发送至云端服务器;接收所述云端服务器返回的所述第一语音信息的识别结果;以及,将所述识别结果发送给所述棋牌类应用,所述识别结果用于控制所述棋牌类应用执行出牌动作;或者,
将所述第一语音信息发送给所述棋牌类应用,所述棋牌类应用被配置为接收所述第一语音信息并将所述第一语音信息发送给云端服务器,接收所述云端服务器返回的所述语音信息的识别结果,以及根据所述识别结果控制所述棋牌类应用执行出牌动作。
第四方面,本实施例提供一种显示设备,包括显示设备本体和遥控器,
所述遥控器,被配置为用于接收用户的操作来控制显示设备本体的显示屏上的交互界面中的焦点,以及接收用户输入的第一语音;
所述显示设备本体包括:
所述显示屏,被配置为显示棋牌类应用和/或即时通讯应用的应用窗口;
麦克风,被配置为接收用户输入的第二语音;
近场语音模块,被配置为处理所述遥控器接收到的所述第一语音,以及根据所述第一语音生成第一语音信息;
远场语音模块,被配置为处理所述麦克风接收到的第二语音,以及根据所述第二语音生成第二语音信息;
控制器,被配置为,
确定所述显示设备中为当前交互界面中的显示窗口提供显示内容的应用程序,
响应于所述应用程序为棋牌类应用和即时通讯应用,从近场语音模块获取第一语音信息,并根据所述第一语音信息控制所述棋牌类应用执行出牌动作,以及从远场语音模块获取第二语音信息,并将所述第二语音信息发送给所述即时通讯应用的通讯对端。
本申请实施例能够达到的有益效果:
本实施例提供的语音控制方法及显示设备,能够从近场语音模块获取控制所述棋牌类应用的第一语音信息,以及,从远场语音模块获取即使通讯应用通讯过程中的语音信息,实现融合场景下对同时运行的不同应用程序的管控或服务。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1中示例性示出了根据实施例中显示设备与控制装置之间操作场景的示意图;
图2中示例性示出了根据实施例中控制装置100的硬件配置框图;
图3中示例性示出了根据实施例中显示设备200的硬件配置框图;
图4中示例性示出了根据图3显示设备200的硬件架构框图;
图5中示例性示出了根据实施例中语音控制方法的流程图一;
图6中示例性示出了根据实施例中显示设备200的功能配置示意图;
图7a中示例性示出了根据实施例中显示设备200中软件配置示意图;
图7b中示例性示出了根据实施例中显示设备200中应用程序的配置示意图;
图8中示例性示出了根据实施例中显示设备200中用户界面的示意图;
图9中示例性示出了根据实施例中语音控制方法的流程图二;
图10中示例性示出了根据实施例中语音控制方法的流程图三;
图11中示例性示出了根据实施例中显示设备的示意图。
具体实施方式
为使本申请示例性实施例的目的、技术方案和优点更加清楚,下面将结合本申请示例性实施例中的附图,对本申请示例性实施例中的技术方案进行清楚、完整地描述,显然,所描述的示例性实施例仅是本申请一部分实施例,而不是全部的实施例。
为便于用户使用,显示设备上通常会设置各种外部装置接口,以便于连接不同的外设设备或线缆以实现相应的功能。而在显示设备的接口上连接有高清晰度的摄像头时,如果显示设备的硬件系统没有接收源码的高像素摄像头的硬件接口,那么就会导致无法将摄像头接收到的数据呈现到显示设备的显示屏上。
并且,受制于硬件结构,传统显示设备的硬件系统仅支持一路硬解码资源,且通常最大仅能支持4k分辨率的视频解码,因此当要实现边观看网络电视边进行视频聊天时,为了不降低网络视频画面清晰度,就需要使用硬解码资源(通常是硬件系统中的gpu)对网络视频进行解码,而在此情况下,只能采取由硬件系统中的通用处理器(例如cpu)对视频进行软解码的方式处理视频聊天画面。
采用软解码处理视频聊天画面,会大大增加cpu的数据处理负担,当cpu的数据处理负担过重时,可能会出现画面卡顿或者不流畅的问题。进一步的,受制于cpu的数据处理能力,当采用cpu软解码处理视频聊天画面时,通常无法实现多路视频通话,当用户想要再同一聊天场景同时与多个其他用户进行视频聊天时,会出现接入受阻的情况。
基于上述各方面的考虑,为克服上述缺陷,本申请公开了一种双硬件系统架构,以实现多路视频聊天数据(至少一路本地视频)。
下面首先结合附图对本申请所涉及的概念进行说明。在此需要指出的是,以下对各个概念的说明,仅为了使本申请的内容更加容易理解,并不表示对本申请保护范围的限定。
本申请各实施例中使用的术语″模块″,可以是指任何已知或后来开发的硬件、软件、固件、人工智能、模糊逻辑或硬件或/和软件代码的组合,能够执行与该元件相关的功能。
本申请各实施例中使用的术语″遥控器″,是指电子设备(如本申请中公开的显示设备)的一个组件,该组件通常可在较短的距离范围内无线控制电子设备。该组件一般可以使用红外线和/或射频(rf)信号和/或蓝牙与电子设备连接,也可以包括wifi、无线usb、蓝牙、动作传感器等功能模块。例如:手持式触摸遥控器,是以触摸屏中用户界面取代一般遥控装置中的大部分物理内置硬键。
本申请各实施例中使用的术语″手势″,是指用户通过一种手型的变化或手部运动等动作,用于表达预期想法、动作、目的/或结果的用户行为。
本申请各实施例中使用的术语″硬件系统″,可以是指由集成电路(integratedcircuit,ic)、印刷电路板(printedcircuitboard,pcb)等机械、光、电、磁器件构成的具有计算、控制、存储、输入和输出功能的实体部件。在本申请各个实施例中,硬件系统通常也会被称为主板(motherboard)或芯片。
图1中示例性示出了根据实施例中显示设备与控制装置之间操作场景的示意图。如图1所示,用户可通过控制装置100来操作显示设备200。
其中,控制装置100可以是遥控器100a,其可与显示设备200之间通过红外协议通信、蓝牙协议通信、紫蜂(zigbee)协议通信或其他短距离通信方式进行通信,用于通过无线或其他有线方式来控制显示设备200。用户可以通过遥控器上按键、语音输入、控制面板输入等输入用户指令,来控制显示设备200。如:用户可以通过遥控器上音量加减键、频道控制键、上/下/左/右的移动按键、语音输入按键、菜单键、开关机按键等输入相应控制指令,来实现控制显示设备200的功能。
在一个具体的示例中,当显示设备200的显示器280上正在显示即时通讯应用的显示窗口时,响应于用户按下语音输入按键,遥控器100a能够录制用户的第一语音,并将该第一语音发送至显示设备200的近场语音模块。
其中,即时通讯应用能够根据用户的即时操作与通讯对端进行通讯。示例性的,即时通讯应用包括但不限于微信、qq、陌陌等应用程序。
控制装置100也可以是智能设备,如移动终端100b、平板电脑、计算机、笔记本电脑等,其可以通过本地网(lan,localareanetwork)、广域网(wan,wideareanetwork)、无线局域网((wlan,wirelesslocalareanetwork)或其他网络与显示设备200之间通信,并通过与显示设备200相应的应用程序实现对显示设备200的控制。例如,使用在智能设备上运行的应用程序控制显示设备200。该应用程序可以在与智能设备关联的屏幕上通过直观的用户界面(ui,userinterface)为用户提供各种控制。
示例的,移动终端100b与显示设备200均可安装软件应用,从而可通过网络通信协议实现二者之间的连接通信,进而实现一对一控制操作的和数据通信的目的。如:可以使移动终端100b与显示设备200建立控制指令协议,将遥控控制键盘同步到移动终端100b上,通过控制移动终端100b上用户界面,实现控制显示设备200的功能;也可以将移动终端100b上显示的音视频内容传输到显示设备200上,实现同步显示功能。
如图1所示,显示设备200还可与服务器300通过多种通信方式进行数据通信。在本申请各个实施例中,可允许显示设备200通过局域网、无线局域网或其他网络与服务器300进行通信连接。服务器300可以向显示设备200提供各种内容和互动。
示例的,显示设备200通过发送和接收信息,以及电子节目指南(epg,electronicprogramguide)互动,接收软件程序更新,或访问远程储存的数字媒体库。服务器300可以是一组,也可以是多组,可以是一类或多类服务器。通过服务器300提供视频点播和广告服务等其他网络服务内容。
显示设备200,可以是液晶显示器、oled(organiclightemittingdiode)显示器、投影显示设备、智能电视。具体显示设备类型,尺寸大小和分辨率等不作限定,本领技术人员可以理解的是,显示设备200可以根据需要做性能和配置上的一些改变。
显示设备200除了提供广播接收电视功能之外,还可以附加提供计算机支持功能的智能网络电视功能。示例的包括,网络电视、智能电视、互联网协议电视(iptv)等。
如图1所述,显示设备上可以连接或设置有摄像头,用于将摄像头拍摄到的画面呈现在本显示设备或其他显示设备的显示界面上,以实现用户之间的交互聊天。具体的,摄像头拍摄到的画面可在显示设备上全屏显示、半屏显示、或者显示任意可选区域。
作为一种可选的连接方式,摄像头通过连接板与显示器后壳连接,固定安装在显示器后壳的上侧中部,作为可安装的方式,可以固定安装在显示器后壳的任意位置,能保证其图像采集区域不被后壳遮挡即可,例如,图像采集区域与显示设备的显示朝向相同。
作为另一种可选的连接方式,摄像头通过连接板或者其他可想到的连接器可升降的与显示后壳连接,连接器上安装有升降马达,当用户要使用摄像头或者有应用程序要使用摄像头时,再升出显示器之上,当不需要使用摄像头时,其可内嵌到后壳之后,以达到保护摄像头免受损坏。
作为一种实施例,本申请所采用的摄像头可以为1600万像素,以达到超高清显示目的。在实际使用中,也可采用比1600万像素更高或更低的摄像头。
当显示设备上安装有摄像头以后,显示设备不同应用场景所显示的内容可得到多种不同方式的融合,从而达到传统显示设备无法实现的功能。
示例性的,用户可以在边观看视频节目的同时,与至少一位其他用户进行视频聊天。视频节目的呈现可作为背景画面,视频聊天的窗口显示在背景画面之上。形象的,可以称该功能为″边看边聊″。
可选的,在″边看边聊″的场景中,在观看直播视频或网络视频的同时,跨终端的进行至少一路的视频聊天。
另一示例中,用户可以在边进入教育应用学习的同时,与至少一位其他用户进行视频聊天。例如,学生在学习教育应用程序中内容的同时,可实现与老师的远程互动。形象的,可以称该功能为″边学边聊″。
另一示例中,用户在玩纸牌游戏时,与进入游戏的玩家进行视频聊天。例如,玩家在进入游戏应用参与游戏时,可实现与其他玩家的远程互动。形象的,可以称该功能为″边看边玩″。
可选的,游戏场景与视频画面进行融合,将视频画面中人像进行抠图,显示在游戏画面中,提升用户体验。
可选的,在体感类游戏中(如打球类、拳击类、跑步类、跳舞类等),通过摄像头获取人体姿势和动作,肢体检测和追踪、人体骨骼关键点数据的检测,再与游戏中动画进行融合,实现如体育、舞蹈等场景的游戏。
另一示例中,用户可以在k歌应用中,与至少一位其他用户进行视频和语音的交互。形象的,可以称该功能为″边看边唱″。优选的,当至少一位用户在聊天场景进入该应用时,可多个用户共同完成一首歌的录制。
另一个示例中,用户可在本地打开摄像头获取图片和视频,形象的,可以称该功能为″照镜子″。
在另一些示例中,还可以再增加更多功能或减少上述功能。本申请对该显示设备的功能不作具体限定。
图2中示例性示出了根据示例性实施例中控制装置100的配置框图。如图3所示,控制装置100包括控制器110、通信器130、用户输入/输出接口140、存储器190、供电电源180。
控制装置100被配置为可控制所述显示设备200,以及可接收用户的输入操作指令,且将操作指令转换为显示设备200可识别和响应的指令,起到用户与显示设备200之间交互中介作用。如:用户通过操作控制装置100上频道加减键,显示设备200响应频道加减的操作。
在一些实施例中,控制装置100可是一种智能设备。如:控制装置100可根据用户需求安装控制显示设备200的各种应用。
在一些实施例中,如图1所示,移动终端100b或其他智能电子设备,可在安装操控显示设备200的应用之后,起到控制装置100类似功能。如:用户可以通过安装应用,在移动终端100b或其他智能电子设备上可提供的图形用户界面的各种功能键或虚拟按钮,以实现控制装置100实体按键的功能。
控制器110包括处理器112、ram113和rom114、通信接口以及通信总线。控制器110用于控制控制装置100的运行和操作,以及内部各部件之间通信协作以及外部和内部的数据处理功能。
通信器130在控制器110的控制下,实现与显示设备200之间控制信号和数据信号的通信。如:将接收到的用户输入信号发送至显示设备200上。通信器130可包括wifi模块131、蓝牙模块132、nfc模块133等通信模块中至少一种。
用户输入/输出接口140,其中,输入接口包括麦克风141、触摸板142、传感器143、按键144等输入接口中至少一者。如:用户可以通过语音、触摸、手势、按压等动作实现用户指令输入功能,输入接口通过将接收的模拟信号转换为数字信号,以及数字信号转换为相应指令信号,发送至显示设备200。
在一个具体的示例中,当显示设备200的显示器280上正在显示棋牌类应用的显示窗口时,麦克风141被配置为用于接收用户输入的第二语音,并将该第二语音发送给显示设备200的远场语音模块。
其中,在棋牌类应用中,玩家需要按照规定的次序依次执行出牌动作。示例性的,棋牌类应用包括但不限于围棋应用、象棋应用、国际象棋应用、五子棋应用、军棋应用、跳棋应用、飞行棋应用、麻将应用以及扑克应用等。
输出接口包括将接收的用户指令发送至显示设备200的接口。在一些实施例中,可以是红外接口,也可以是射频接口。如:红外信号接口时,需要将用户输入指令按照红外控制协议转化为红外控制信号,经红外发送模块进行发送至显示设备200。再如:射频信号接口时,需将用户输入指令转化为数字信号,然后按照射频控制信号调制协议进行调制后,由射频发送端子发送至显示设备200。
在一些实施例中,控制装置100包括通信器130和输出接口中至少一者。控制装置100中配置通信器130,如:wifi、蓝牙、nfc等模块,可将用户输入指令通过wifi协议、或蓝牙协议、或nfc协议编码,发送至显示设备200.
存储器190,用于在控制器110的控制下存储驱动和控制控制装置100的各种运行程序、数据和应用。存储器190,可以存储用户输入的各类控制信号指令。
供电电源180,用于在控制器110的控制下为控制装置100各元件提供运行电力支持。可以电池及相关控制电路。
图3中示例性示出了根据示例性实施例中显示设备200中硬件系统的硬件配置框图。
在采用双硬件系统架构时,硬件系统的机构关系可以图3所示。为便于表述以下将双硬件系统架构中的一个硬件系统称为第一硬件系统或a系统、a芯片,并将另一个硬件系统称为第二硬件系统或n系统、n芯片。a芯片包含a芯片的控制器和各类接口,n芯片则包含n芯片的控制器和各类接口。a芯片及n芯片中可以各自安装有独立的操作系统,从而使显示设备200中存在两个在独立但又存在相互关联的子系统。
如图3所示,a芯片与n芯片之间可以通过多个不同类型的接口实现连接、通信及供电。a芯片与n芯片之间接口的接口类型可以包括通用输入输出接口(general-purposeinput/output,gpio)、usb接口、hdmi接口、uart接口等。a芯片与n芯片之间可以使用这些接口中的一个或多个进行通信或电力传输。例如图3所示,在双硬件系统架构下,可以由外接的电源(power)为n芯片供电,而a芯片则可以不由外接电源,而由n芯片供电。
除用于与n芯片进行连接的接口之外,a芯片还可以包含用于连接其他设备或组件的接口,例如图3中所示的用于连接摄像头(camera)的mipi接口,蓝牙接口等。
类似的,除用于与n芯片进行连接的接口之外,n芯片还可以包含用于连接显示屏tcon(timercontrolregister)的vby接口,用于连接功率放大器(amplifier,amp)及扬声器(speaker)的i2s接口;以及ir/key接口,usb接口,wifi接口,蓝牙接口,hdmi接口,tuner接口等。
下面结合图4对本申请双硬件系统架构进行进一步的说明。需要说明的是图4仅仅是对本申请双硬件系统架构的一个示例性说明,并不表示对本申请的限定。在实际应用中,两个硬件系统均可根据需要包含更多或更少的硬件或接口。
图4中示例性示出了根据图3显示设备200的硬件架构框图。如图4所示,显示设备200的硬件系统可以包括a芯片和n芯片,以及通过各类接口与a芯片或n芯片相连接的模块。
n芯片可以包括调谐解调器220、通信器230、外部装置接口250、控制器210、存储器290、用户输入接口、视频处理器260-1、音频处理器260-2、显示器280、音频输出接口272、供电电源。在其他实施例中n芯片也可以包括更多或更少的模块。
其中,调谐解调器220,用于对通过有线或无线方式接收广播电视信号,进行放大、混频和谐振等调制解调处理,从而从多个无线或有线广播电视信号中解调出用户所选择电视频道的频率中所携带的音视频信号,以及附加信息(例如epg数据信号)。根据电视信号广播制式不同,调谐解调器220的信号途径可以有很多种,诸如:地面广播、有线广播、卫星广播或互联网广播等;以及根据调制类型不同,所述信号的调整方式可以数字调制方式,也可以模拟调制方式;以及根据接收电视信号种类不同,调谐解调器220可以解调模拟信号和/或数字信号。
调谐解调器220,还用于根据用户选择,以及由控制器210控制,响应用户选择的电视频道频率以及该频率所携带的电视信号。
在其他一些示例性实施例中,调谐解调器220也可在外置设备中,如外置机顶盒等。这样,机顶盒通过调制解调后输出电视音视频信号,经过外置装置接口250输入至显示设备200中。
通信器230是用于根据各种通信协议类型与外部设备或外部服务器进行通信的组件。例如:通信器230可以包括wifi模块231,蓝牙通信协议模块232,有线以太网通信协议模块233,及红外通信协议模块等其他网络通信协议模块或近场通信协议模块。
显示设备200可以通过通信器230与外部控制设备或内容提供设备之间建立控制信号和数据信号的连接。例如,通信器可根据控制器的控制接收遥控器100的控制信号。
外部装置接口250,是提供n芯片控制器210和a芯片及外部其他设备间数据传输的组件。外部装置接口可按照有线/无线方式与诸如机顶盒、游戏装置、笔记本电脑等的外部设备连接,可接收外部设备的诸如视频信号(例如运动图像)、音频信号(例如音乐)、附加信息(例如epg)等数据。
其中,外部装置接口250可以包括:高清多媒体接口(hdmi)端子251、复合视频消隐同步(cvbs)端子252、模拟或数字分量端子253、通用串行总线(usb)端子254、红绿蓝(rgb)端子(图中未示出)等任一个或多个。本申请不对外部装置接口的数量和类型进行限制。
控制器210,通过运行存储在存储器290上的各种软件控制程序(如操作系统和/或各种应用程序),来控制显示设备200的工作和响应用户的操作。
如图4所示,控制器210包括只读存储器ram213、随机存取存储器rom214、图形处理器216、cpu处理器212、通信接口218、以及通信总线。其中,ram213和rom214以及图形处理器216、cpu处理器212、通信接口218通过总线相连接。
rom213,用于存储各种系统启动的指令。如在收到开机信号时,显示设备200电源开始启动,cpu处理器212运行rom中系统启动指令,将存储在存储器290的操作系统拷贝至ram214中,以开始运行启动操作系统。当操作系统启动完成后,cpu处理器212再将存储器290中各种应用程序拷贝至ram214中,然后,开始运行启动各种应用程序。
图形处理器216,用于产生各种图形对象,如:图标、操作菜单、以及用户输入指令显示图形等。包括运算器,通过接收用户输入各种交互指令进行运算,根据显示属性显示各种对象。以及包括渲染器,产生基于运算器得到的各种对象,进行渲染的结果显示在显示器280上。
cpu处理器212,用于执行存储在存储器290中操作系统和应用程序指令。以及根据接收外部输入的各种交互指令,来执行各种应用程序、数据和内容,以便最终显示和播放各种音视频内容。
在一些示例性实施例中,cpu处理器212,可以包括多个处理器。所述多个处理器中可包括一个主处理器以及多个或一个子处理器。主处理器,用于在预加电模式中执行显示设备200一些操作,和/或在正常模式下显示画面的操作。多个或一个子处理器,用于执行在待机模式等状态下的一种操作。
通信接口,可包括第一接口218-1到第n接口218-n。这些接口可以是经由网络被连接到外部设备的网络接口。
控制器210可以控制显示设备200的整体操作。例如:响应于接收到用于选择在显示器280上显示ui对象的用户命令,控制器210便可以执行与由用户命令选择的对象有关的操作。
其中,所述对象可以是可选对象中的任何一个,例如超链接或图标。与所选择的对象有关操作,例如:显示连接到超链接页面、文档、图像等操作,或者执行与图标相对应程序的操作。用于选择ui对象用户命令,可以是通过连接到显示设备200的各种输入装置(例如,鼠标、键盘、触摸板等)输入命令或者与由用户说出语音相对应的语音命令。
本实施例提供的显示设备200中能够安装各种各样的应用程序,其中包括棋牌类应用和即时通讯应用。棋牌类应用程序被设置为安装在a芯片(即第一芯片)的第一系统中,即时通讯应用被设置为安装在n芯片(即第二芯片)的第二系统中。
在″边玩边聊″场景下,为了同时保证显示设备200中运行的棋牌类应用能够进行语音控制,以及保证即时通讯应用的正常通讯功能,本实施例中的显示设备200的n芯片中的控制器210还被配置为执行一种语音控制方法。
请参阅图5,本实施例提供的语音控制方法包括如下步骤s501-s503。
步骤s501,确定显示设备200中为当前交互界面中的显示窗口提供显示内容的应用程序。
在显示设备200中,应用程序所提供的内容展示在显示设备200当前交互界面的显示窗口内,不同的应用程序对应不同的显示窗口。并且,在当前交互界面中,同一时刻可以只显示一个应用程序的显示窗口,也可以同时显示两个正在运行的应用程序的显示窗口。例如,显示设备200的当前交互界面中只展示棋牌类应用的显示窗口,或者只显示即时通讯应用的显示窗口。再例如,显示设备200在同一时刻在当前交互界面中同时展示棋牌类应用的显示窗口和即时通讯应用的显示窗口。
控制器210在检测到显示设备200的当前交互界面中展示有显示窗口之后,便会确定向该显示窗口提供显示内容的应用程序的类型。具体地,控制器210需要确定该应用程序是棋牌类应用还是即时通讯应用。
步骤s502,响应于该应用程序为棋牌类应用,控制器210从近场语音模块获取第一语音信息,并根据第一语音信息控制棋牌类应用执行出牌动作。
在本实施例中,为了保证第一系统和第二系统可以同时运行两个应用程序,例如棋牌类应用和即时通讯应用,控制器210中还被配置为接收第一系统或者第二系统中安装的应用程序在切换应用状态之后发送的当前状态信息,实现对该显示设备200上当前运行的所有应用程序的当前状态信息进行管控。
应用程序切换应用状态包括应用启动、应用场景切换等。并且,无论是第一系统还是第二系统中的应用程序,其在切换应用状态之后,都需要将其当前状态信息发送至控制器210。
在示例一中,当第一系统中的扑克牌应用启动后,该扑克牌应用向控制器210发送其当前状态信息,以指示其当前为初始启动状态。
在示例二中,当第一系统中的扑克牌应用执行完一次出牌动作之后,该扑克牌应用向控制器210发送其当前状态信息,以指示其当前的牌局状态。
在示例三中,当第二系统中的微信启动后,微信向控制器210发送其当前状态信息,以指示其当前为初始启动状态。
在示例四中,当第二系统中的微信关闭后,微信向控制器210发送其当前状态信息,以指示其当前为应用关闭状态。
基于上述内容,控制器210在确定为当前交互界面中的显示窗口提供显示内容的应用程序的是棋牌类应用之后,可以首先需要确定棋牌类应用的第一状态信息,其中,该第一状态信息用于指示棋牌类应用的当前状态,例如对弈状态、游戏模式选择状态等。如果第一状态信息指示该棋牌类应用处于对弈状态,则从近场语音模块获取第一语音信息,避免冗余的语音获取操作。
控制器210在从近场语音模块获取第一语音信息之后,能够根据该第一语音信息控制棋牌类应用执行出牌动作。
在一种可能的实现方式中,控制器210在根据该第一语音信息控制棋牌类应用执行出牌动作时,首先将第一语音信息发送至云端服务器,以便通过云端服务器对第一语音信息的语音进行识别。其次,控制器210接收云端服务器返回的第一语音信息的识别结果。最后,控制器210该识别结果发送给棋牌类应用,该识别结果用于控制棋牌类应用执行出牌动作。
在一个示例中,对于上述示例二中提供的当前状态信息,当控制器210接收到的云端服务器发送的识别结果″打出两张a″时,控制器210将其发送给扑克牌应用,以便扑克牌应用根据该是被结果执行打出两张a的操作。
在另一种可能的实现方式中,控制器210在根据该第一语音信息控制棋牌类应用执行出牌动作时,将第一语音信息发送给棋牌类应用,以由棋牌类应用自行识别第一语音信息,并根据识别结果执行出牌动作。具体地,棋牌类应用被配置为接收第一语音信息并将第一语音信息发送给云端服务器,接收云端服务器返回的语音信息的识别结果,以及根据识别结果执行出牌动作。
在一个示例中,对于上述示例二中提供的当前状态信息,当控制器210接收到的第一语音信息时,将第一语音信息发送给扑克牌应用。扑克牌应用在接收到该第一语音信息之后,首先将该第一语音信息发送给云端服务器,对第一语音信息进行识别。随后,扑克牌应用接收云端服务器发送的识别结果″打出两张a″。最后,扑克牌应用根据该识别结果执行打出两张a的操作。
步骤s503,响应于该应用程序为即时通讯应用,从远场语音模块获取第二语音信息,并将第二语音信息发送给即时通讯应用的通讯对端。
控制器210在确定为当前交互界面中的显示窗口提供显示内容的应用程序的是即时通讯应用之后,可以首先需要确定即时他通讯应用的第二状态信息。其中,该第二状态信息用于指示棋牌类应用的当前状态,例如聊天状态、好友选择状态、应用设置状态等。如果第二状态信息指示该即时通讯应用处于聊天状态,则从远场语音模块获取第二语音信息,以避免冗余的语音获取操作。
控制器210在从远场语音模块获取第二语音信息之后,能够将第二语音信息发送给即时通讯应用,以其将第二语音信息发送给通讯对端,实现两端或者多端之间语音信息的传输。
在本实施例中,需要说明的是,当显示设备200上的当前交互界面中显示棋牌类应用的显示窗口时,控制器210只执行步骤s501-s502,而不执行步骤s503。此外,在该场景下,远场语音通讯模块不工作,或者远场语音通讯模块工作但其生成的第二语音信息不被控制器210响应。
当显示设备200的当前交互界面中只显示即时通讯类应用的显示窗口时,控制器210只执行步骤s501和s503,而不执行步骤s502。此外,在该场景下,近场语音通讯模块不工作,或者近场语音通讯模块工作但其生成的第一语音信息不被控制器210响应。
当显示设备200的当前交互界面中同时显示类应用和即时通讯类应用的显示窗口时,控制器被配置为在执行步骤s501之后,根据预设的顺序,执行步骤s502和步骤s503。示例性的,控制器210可以先执行步骤s502,也可以先执行步骤s503。
本实施例提供的语音控制方法及显示设备,能够从近场语音模块获取控制棋牌类应用的第一语音信息,以及,从远场语音模块获取即使通讯应用通讯过程中的语音信息,实现融合场景下对同时运行的不同应用程序的管控或服务。
存储器290,包括存储用于驱动和控制显示设备200的各种软件模块。如:存储器290中存储的各种软件模块,包括:基础模块、检测模块、通信模块、显示控制模块、浏览器模块、和各种服务模块等。
其中,基础模块是用于显示设备200中各个硬件之间信号通信、并向上层模块发送处理和控制信号的底层软件模块。检测模块是用于从各种传感器或用户输入接口中收集各种信息,并进行数模转换以及分析管理的管理模块。
例如:语音识别模块中包括语音解析模块和语音指令数据库模块。显示控制模块是用于控制显示器280进行显示图像内容的模块,可以用于播放多媒体图像内容和ui界面等信息。通信模块,是用于与外部设备之间进行控制和数据通信的模块。浏览器模块,是用于执行浏览服务器之间数据通信的模块。服务模块,是用于提供各种服务以及各类应用程序在内的模块。
同时,存储器290还用于存储接收外部数据和用户数据、各种用户界面中各个项目的图像以及焦点对象的视觉效果图等。
用户输入接口,用于将用户的输入信号发送给控制器210,或者,将从控制器输出的信号传送给用户。示例性的,控制装置(例如移动终端或遥控器)可将用户输入的诸如电源开关信号、频道选择信号、音量调节信号等输入信号发送至用户输入接口,再由用户输入接口转送至控制器;或者,控制装置可接收经控制器处理从用户输入接口输出的音频、视频或数据等输出信号,并且显示接收的输出信号或将接收的输出信号输出为音频或振动形式。
在一些实施例中,用户可在显示器280上显示的图形用户界面(gui)输入用户命令,则用户输入接口通过图形用户界面(gui)接收用户输入命令。或者,用户可通过输入特定的声音或手势进行输入用户命令,则用户输入接口通过传感器识别出声音或手势,来接收用户输入命令。
视频处理器260-1,用于接收视频信号,根据输入信号的标准编解码协议,进行解压缩、解码、缩放、降噪、帧率转换、分辨率转换、图像合成等视频数据处理,可得到直接在显示器280上显示或播放的视频信号。
示例的,视频处理器260-1,包括解复用模块、视频解码模块、图像合成模块、帧率转换模块、显示格式化模块等。
其中,解复用模块,用于对输入音视频数据流进行解复用处理,如输入mpeg-2,则解复用模块进行解复用成视频信号和音频信号等。
视频解码模块,用于对解复用后的视频信号进行处理,包括解码和缩放处理等。
图像合成模块,如图像合成器,其用于将图形生成器根据用户输入或自身生成的gui信号,与缩放处理后视频图像进行叠加混合处理,以生成可供显示的图像信号。
帧率转换模块,用于对输入视频的帧率进行转换,如将输入的24hz、25hz、30hz、60hz视频的帧率转换为60hz、120hz或240hz的帧率,其中,输入帧率可以与源视频流有关,输出帧率可以与显示器的更新率有关。输入有通常的格式采用如插帧方式实现。
显示格式化模块,用于将帧率转换模块输出的信号,改变为符合诸如显示器显示格式的信号,如将帧率转换模块输出的信号进行格式转换以输出rgb数据信号。
显示器280,用于接收源自视频处理器260-1输入的图像信号,进行显示视频内容和图像以及菜单操控界面。显示器280包括用于呈现画面的显示器组件以及驱动图像显示的驱动组件。显示视频内容,可以来自调谐解调器220接收的广播信号中的视频,也可以来自通信器或外部设备接口输入的视频内容。显示器220,同时显示显示设备200中产生且用于控制显示设备200的用户操控界面ui。
以及,根据显示器280类型不同,还包括用于驱动显示的驱动组件。或者,倘若显示器280为一种投影显示器,还可以包括一种投影装置和投影屏幕。
在一个具体的示例中,显示器280用于在显示设备200与用户的当前交互界面中展示显示窗口,该显示窗口的显示内容是由对应的应用程序提供的。示例性的,显示器280可以用于显示棋牌类应用的显示窗口,或者,即时通讯应用的显示窗口。
此外,需要说明的是,显示器280可以在同一时刻在当前交互界面中只展示一个显示窗口,例如只显示棋牌类应用的显示窗口或者即时通讯应用的显示窗口,也可以在同一时刻在当前交互界面中同时展示两个显示窗口,例如同时展示棋牌类应用的显示窗口和即时通讯应用的显示窗口。
音频处理器260-2,用于接收音频信号,根据输入信号的标准编解码协议,进行解压缩和解码,以及降噪、数模转换、和放大处理等音频数据处理,得到可以在扬声器272中播放的音频信号。
在本实施例中,音频处理器260-2包括近场语音模块和远场语音模块。其中,近场被配置为处理遥控器接收到的第一语音,以及根据该第一语音生成第一语音信息。远场语音模块被配置为处理麦克风接收到的第二语音,以及根据该第二语音生成第二语音信息。
音频输出接口270,用于在控制器210的控制下接收音频处理器260-2输出的音频信号,音频输出接口可包括扬声器272,或输出至外接设备的发生装置的外接音响输出端子274,如:外接音响端子或耳机输出端子等。
在其他一些示例性实施例中,视频处理器260-1可以包括一个或多个芯片组成。音频处理器260-2,也可以包括一个或多个芯片组成。
以及,在其他一些示例性实施例中,视频处理器260-1和音频处理器260-2,可以为单独的芯片,也可以与控制器210一起集成在一个或多个芯片中。
供电电源,用于在控制器210控制下,将外部电源输入的电力为显示设备200提供电源供电支持。供电电源可以包括安装显示设备200内部的内置电源电路,也可以是安装在显示设备200外部的电源,如在显示设备200中提供外接电源的电源接口。
与n芯片相类似,如图4所示,a芯片可以包括控制器310、通信器330、检测器340、存储器390。在某些实施例中还可以包括用户输入接口、视频处理器、音频处理器、显示器、音频输出接口。在某些实施例中,也可以存在独立为a芯片供电的供电电源。
通信器330是用于根据各种通信协议类型与外部设备或外部服务器进行通信的组件。例如:通信器330可以包括wifi模块331,蓝牙通信协议模块332,有线以太网通信协议模块333,及红外通信协议模块等其他网络通信协议模块或近场通信协议模块。
a芯片的通信器330和n芯片的通信器230也有相互交互。例如,n芯片的wifi模块231用于连接外部网络,与外部服务器等产生网络通信。a芯片的wifi模块331用于连接至n芯片的wifi模块231,而不与外界网络等产生直接连接。因此,对于用户而言,一个如上述实施例中的显示设备至对外显示一个wifi账号。
检测器340,是显示设备a芯片用于采集外部环境或与外部交互的信号的组件。检测器340可以包括光接收器342,用于采集环境光线强度的传感器,可以通过采集环境光来自适应显示参数变化等;还可以包括图像采集器341,如相机、摄像头等,可以用于采集外部环境场景,以及用于采集用户的属性或与用户交互手势,可以自适应变化显示参数,也可以识别用户手势,以实现与用户之间互动的功能。
外部装置接口350,提供控制器310与n芯片或外部其他设备间数据传输的组件。外部装置接口可按照有线/无线方式与诸如机顶盒、游戏装置、笔记本电脑等的外部设备连接。
控制器310,通过运行存储在存储器390上的各种软件控制程序(如用安装的第三方应用等),以及与n芯片的交互,来控制显示设备200的工作和响应用户的操作。
如图4所示,控制器310包括只读存储器rom313、随机存取存储器ram314、图形处理器316、cpu处理器312、通信接口318、以及通信总线。其中,rom313和ram314以及图形处理器316、cpu处理器312、通信接口318通过总线相连接。
rom313,用于存储各种系统启动的指令。cpu处理器312运行rom中系统启动指令,将存储在存储器390的操作系统拷贝至ram314中,以开始运行启动操作系统。当操作系统启动完成后,cpu处理器312再将存储器390中各种应用程序拷贝至ram314中,然后,开始运行启动各种应用程序。
cpu处理器312,用于执行存储在存储器390中操作系统和应用程序指令,和与n芯片进行通信、信号、数据、指令等传输与交互,以及根据接收外部输入的各种交互指令,来执行各种应用程序、数据和内容,以便最终显示和播放各种音视频内容。
通信接口,可包括第一接口318-1到第n接口318-n。这些接口可以是经由网络被连接到外部设备的网络接口,也可以是经由网络被连接到n芯片的网络接口。
控制器310可以控制显示设备200的整体操作。例如:响应于接收到用于选择在显示器280上显示ui对象的用户命令,控制器210便可以执行与由用户命令选择的对象有关的操作。
图形处理器316,用于产生各种图形对象,如:图标、操作菜单、以及用户输入指令显示图形等。包括运算器,通过接收用户输入各种交互指令进行运算,根据显示属性显示各种对象。以及包括渲染器,产生基于运算器得到的各种对象,进行渲染的结果显示在显示器280上。
a芯片的图形处理器316与n芯片的图形处理器216均能产生各种图形对象。区别性的,若应用1安装于a芯片,应用2安装在n芯片,当用户在应用1的界面,且在应用1内进行用户输入的指令时,由a芯片图形处理器316产生图形对象。当用户在应用2的界面,且在应用2内进行用户输入的指令时,由n芯片的图形处理器216产生图形对象。
图6中示例性示出了根据示例性实施例中显示设备的功能配置示意图。
如图6所示,a芯片的存储器390和n芯片的存储器290分别用于存储操作系统、应用程序、内容和用户数据等,在a芯片的控制器310和n芯片的控制器210的控制下执行驱动显示设备200的系统运行以及响应用户的各种操作。a芯片的存储器390和n芯片的存储器290可以包括易失性和/或非易失性存储器。
对于n芯片,存储器290,具体用于存储驱动显示设备200中控制器210的运行程序,以及存储显示设备200内置各种应用程序,以及用户从外部设备下载的各种应用程序、以及与应用程序相关的各种图形用户界面,以及与图形用户界面相关的各种对象,用户数据信息,以及各种支持应用程序的内部数据。存储器290用于存储操作系统(os)内核、中间件和应用等系统软件,以及存储输入的视频数据和音频数据、及其他用户数据。
存储器290,具体用于存储视频处理器260-1和音频处理器260-2、显示器280、通信接口230、调谐解调器220、输入/输出接口等驱动程序和相关数据。
在一些实施例中,存储器290可以存储软件和/或程序,用于表示操作系统(os)的软件程序包括,例如:内核、中间件、应用编程接口(api)和/或应用程序。示例性的,内核可控制或管理系统资源,或其它程序所实施的功能(如所述中间件、api或应用程序),以及内核可以提供接口,以允许中间件和api,或应用访问控制器,以实现控制或管理系统资源。
示例的,存储器290,包括广播接收模块2901、频道控制模块2902、音量控制模块2903、图像控制模块2904、显示控制模块2905、音频控制模块2906、外部指令识别模块2907、通信控制模块2908、光接收模块2909、电力控制模块2910、操作系统2911、以及其他应用程序2912、浏览器模块等等。控制器210通过运行存储器290中各种软件程序,来执行诸如:广播电视信号接收解调功能、电视频道选择控制功能、音量选择控制功能、图像控制功能、显示控制功能、音频控制功能、外部指令识别功能、通信控制功能、光信号接收功能、电力控制功能、支持各种功能的软件操控平台、以及浏览器功能等各类功能。
存储器390,包括存储用于驱动和控制显示设备200的各种软件模块。如:存储器390中存储的各种软件模块,包括:基础模块、检测模块、通信模块、显示控制模块、浏览器模块、和各种服务模块等。由于存储器390与存储器290的功能比较相似,相关之处参见存储器290即可,在此就不再赘述。
示例的,存储器390,包括图像控制模块3904、音频控制模块2906、外部指令识别模块3907、通信控制模块3908、光接收模块3909、操作系统3911、以及其他应用程序3912、浏览器模块等等。控制器210通过运行存储器290中各种软件程序,来执行诸如:图像控制功能、显示控制功能、音频控制功能、外部指令识别功能、通信控制功能、光信号接收功能、电力控制功能、支持各种功能的软件操控平台、以及浏览器功能等各类功能。
区别性的,n芯片的外部指令识别模块2907和a芯片的外部指令识别模块3907可识别不同的指令。
示例性的,由于摄像头等图像接收设备与a芯片连接,因此,a芯片的外部指令识别模块3907可包括图形识别模块2907-1,图形识别模块3907-1内存储有图形数据库,摄像头接收到外界的图形指令时,与图形数据库中的指令进行对应关系,以对显示设备作出指令控制。而由于语音接收设备以及遥控器与n芯片连接,因此,n芯片的外部指令识别模块2907可包括语音识别模块2907-2,图形识别模块2907-2内存储有语音数据库,语音接收设备等接收到外界的语音指令或时,与语音数据库中的指令进行对应关系,以对显示设备作出指令控制。同样的,遥控器等控制装置100与n芯片连接,由按键指令识别模块与控制装置100进行指令交互。
图7a中示例性示出了根据示例性实施例中显示设备200中软件系统的配置框图。
对n芯片,如图7a中所示,操作系统2911,包括用于处理各种基础系统服务和用于实施硬件相关任务的执行操作软件,充当应用程序和硬件组件之间完成数据处理的媒介。
一些实施例中,部分操作系统内核可以包含一系列软件,用以管理显示设备硬件资源,并为其他程序或软件代码提供服务。
其他一些实施例中,部分操作系统内核可包含一个或多个设备驱动器,设备驱动器可以是操作系统中的一组软件代码,帮助操作或控制显示设备关联的设备或硬件。驱动器可以包含操作视频、音频和/或其他多媒体组件的代码。示例的,包括显示器、摄像头、flash、wifi和音频驱动器。
其中,可访问性模块2911-1,用于修改或访问应用程序,以实现应用程序的可访问性和对其显示内容的可操作性。
通信模块2911-2,用于经由相关通信接口和通信网络与其他外设的连接。
用户界面模块2911-3,用于提供显示用户界面的对象,以供各应用程序访问,可实现用户可操作性。
控制应用程序2911-4,用于控制进程管理,包括运行时间应用程序等。
事件传输系统2914,可在操作系统2911内或应用程序2912中实现。一些实施例中,一方面在在操作系统2911内实现,同时在应用程序2912中实现,用于监听各种用户输入事件,将根据各种事件指代响应各类事件或子事件的识别结果,而实施一组或多组预定义的操作的处理程序。
其中,事件监听模块2914-1,用于监听用户输入接口输入事件或子事件。
事件识别模块2914-1,用于对各种用户输入接口输入各类事件的定义,识别出各种事件或子事件,且将其传输给处理用以执行其相应一组或多组的处理程序。
其中,事件或子事件,是指显示设备200中一个或多个传感器检测的输入,以及外界控制设备(如控制装置100等)的输入。如:语音输入各种子事件,手势识别的手势输入子事件,以及控制装置的遥控按键指令输入的子事件等。示例的,遥控器中一个或多个子事件包括多种形式,包括但不限于按键按上/下/左右/、确定键、按键按住等中一个或组合。以及非实体按键的操作,如移动、按住、释放等操作。
界面布局管理模块2913,直接或间接接收来自于事件传输系统2914监听到各用户输入事件或子事件,用于更新用户界面的布局,包括但不限于界面中各控件或子控件的位置,以及容器的大小或位置、层级等与界面布局相关各种执行操作。
由于a芯片的操作系统3911与n芯片的操作系统2911的功能比较相似,相关之处参见操作系统2911即可,在此就不再赘述。
如图7b中所示,显示设备的应用程序层包含可在显示设备200执行的各种应用程序。
n芯片的应用程序层2912可包含但不限于一个或多个应用程序,如:视频点播应用程序、应用程序中心、游戏应用等。a芯片的应用程序层3912可包含但不限于一个或多个应用程序,如:直播电视应用程序、媒体中心应用程序等。需要说明的是,a芯片和n芯片上分别包含什么应用程序是根据操作系统和其他设计确定的,本发明无需对a芯片和n芯片上所包含的应用程序做具体的限定和划分。
直播电视应用程序,可以通过不同的信号源提供直播电视。例如,直播电视应用程可以使用来自有线电视、无线广播、卫星服务或其他类型的直播电视服务的输入提供电视信号。以及,直播电视应用程序可在显示设备200上显示直播电视信号的视频。
视频点播应用程序,可以提供来自不同存储源的视频。不同于直播电视应用程序,视频点播提供来自某些存储源的视频显示。例如,视频点播可以来自云存储的服务器端、来自包含已存视频节目的本地硬盘储存器。
媒体中心应用程序,可以提供各种多媒体内容播放的应用程序。例如,媒体中心,可以为不同于直播电视或视频点播,用户可通过媒体中心应用程序访问各种图像或音频所提供服务。
应用程序中心,可以提供储存各种应用程序。应用程序可以是一种游戏、应用程序,或某些和计算机系统或其他设备相关但可以在显示设备中运行的其他应用程序。应用程序中心可从不同来源获得这些应用程序,将它们储存在本地储存器中,然后在显示设备200上可运行。
图8中示例性示出了根据示例性实施例中显示设备200中用户界面的示意图。如图8所示,用户界面包括多个视图显示区,示例的,第一视图显示区201和播放画面202,其中,播放画面包括布局一个或多个不同项目。以及用户界面中还包括指示项目被选择的选择器,可通过用户输入而移动选择器的位置,以改变选择不同的项目。
需要说明的是,多个视图显示区可以呈现不同层级的显示画面。如,第一视图显示区可呈现视频聊天项目内容,第二视图显示区可呈现应用层项目内容(如,网页视频、vod展示、应用程序画面等)。
可选的,不同视图显示区的呈现存在优先级区别,优先级不同的视图显示区之间,视图显示区的显示优先级不同。如,系统层的优先级高于应用层的优先级,当用户在应用层使用获取选择器和画面切换时,不遮挡系统层的视图显示区的画面展示;以及,根据用户的选择使应用层的视图显示区的大小和位置发生变化时,系统层的视图显示区的大小和位置不受影响。
也可以呈现相同层级的显示画面,此时,选择器可以在第一视图显示区和第二视图显示区之间做切换,以及当第一视图显示区的大小和位置发生变化时,第二视图显示区的大小和位置可随及发生改变。
由于a芯片及n芯片中可能分别安装有独立的操作系统,从而使显示设备200中存在两个在独立但又存在相互关联的子系统。例如,a芯片和n芯片均可以独立安装有安卓(android)及各类app,使得每个芯片均可以实现一定的功能,并且使a芯片和n芯片协同实现某项功能。
下面将以″边玩边聊″场景为例,结合上述双系统显示设备,对本实施例提供的另一种语音控制方法进行说明。该方法应用于显示设备中的状态同步模块,该状态同步模块设置在第二系统中,请参阅图9,该方法具体包括如下步骤s901-s903。
步骤s901,状态同步模块接收应用程序在切换应用状态之后发送的当前状态信息,该应用程序为第一系统或者第二系统中安装的应用程序。
在本实施例中,应用程序切换应用状态包括应用启动、应用场景切换等。并且,无论是第一系统还是第二系统中的应用程序,其在切换应用状态之后,都需要将其当前状态信息发送至状态同步模块,以便该状态同步模块对该显示设备上当前运行的所有应用程序的当前状态信息进行管控。
示例一,当第一系统中的扑克牌应用启动后,该扑克牌应用向状态同步模块发送其当前状态信息,以指示其当前为初始启动状态。
示例二,当第一系统中的扑克牌应用执行完一次出牌动作之后,该扑克牌应用向状态同步模块发送其当前状态信息,以指示其当前的牌局状态。
示例三,当第二系统中的聊天应用启动后,该聊天应用向状态同步模块发送其当前状态信息,以指示其当前为初始启动状态。
示例四,当第二系统中的聊天应用关闭后,该聊天应用向状态同步模块发送其当前状态信息,以指示其当前为应用关闭状态。
步骤s902,状态同步模块根据当前状态信息,获取语音模块的语音信息。
状态同步模块在接收到一个当前状态信息之后,需要对该当前状态信息进行解析,确定其对应的应用程序以及该应用程序的状态类型。
例如,当状态同步模块在接收到上述示例二中示出的当前状态信息之后,对该当前状态信息进行解析,确定出其为扑克牌应用的特定牌局状态后,从第二系统中的语音模块实时获取当前的语音信息。
又例如,当状态同步模块在接收到上述示例三中示出的当前状态信息之后,对该当前状态信息进行解析,确定出其为录音应用的初始启动状态之后,从第二系统中的语音模块实时获取当前的语音信息。
值得说明的是,在″边玩边聊″的融合场景中,状态同步模块会接收到扑克牌应用和聊天应用分别发送的当前状态信息。状态同步模块从语音模块实时获取语音信息之后,将语音信息分离成两路,分别为扑克牌应用和聊天应用提供服务。
其中,需要说明的是,该语音模块可以为远场语音模块,例如显示设备的麦克风,也可以为近场语音模块,例如显示设备遥控器的麦克风,本实施例对此不进行限制。
步骤s903,状态同步模块根据当前状态信息和语音信息控制应用程序。
在″边玩边聊″的融合场景中,扑克牌等游戏应用在每切换一次场景,例如每一次出牌之后,便会切换一次应用状态,向语音模块请求一次语音信息;而聊天场景在启动和关闭之间,通常只需要向语音模块发送一次录音请求,之后,便可以持续性地接收语音信息。因此,在该融合场景中,必然会涉及到游戏应用和聊天应用同时请求语音模块的语音信息的场景。
此时,当状态同步模块接收到语音模块发送的语音信息之后,会将该语音信息进行分离,获得两路语音信息。
状态同步模块将其中一路发送至聊天应用,以由聊天应用发送至当前聊天的对端设备,以维持当前的聊天服务。
状态同步模块将另一路语音信息发送至云端服务器,以由云端服务器对其进行识别,并返回识别结果。状态同步模块在接收到识别结果之后,根据该识别结果和游戏应用的当前状态信息,向游戏应用发送控制指令。
在一个示例中,对于上述示例二中提供的当前状态信息,当状态同步模块获得的识别结果是″打出两张a″时,状态同步模块会向发送控制指令,指示扑克牌应用执行打出两张a的操作。
值得注意的是,在该扑克牌应用打出两张a之后,其应用状态便切换了,此时,该扑克牌应用会跳转至执行步骤s901,再次将当前的状态信息发送给状态同步模块。
可选的,本实施提供的基于双系统融合场景的语音控制方法,在步骤s901之前,还包括如下步骤s1001-s1002。
步骤s1001,状态同步模块接收第一系统或者第二系统的应用程序发送的应用启动请求。
在本实施例中,该状态同步模块用于对第一系统和第二系统中的所有的应用程序的状态进行管理,并对被管理的应用程序的状态切换进行管控。因此,第一系统和第二系统中的每一个应用程序在启动的时,都需要向该状态同步模块发送一个应用启动请求。
在一个示例中,当用户通过遥控器控制启动第一系统中的扑克牌应用时,该扑克牌应用会向状态同步模块发送一个应用启动请求。
在另一示例中,当用户通过显示设备的语音控制模块启动第二系统的聊天应用时,该聊天应用会向状态同步模块发送一个应用启动请求。
步骤s1002,状态同步模块向应用程序发送应用启动指令。
应用程序在接收到该应用启动指令之后,启动应用程序。
在一个示例中,第一系统中的扑克牌应用,在接收到第二系统中的状态同步模块发送的应用启动指令之后,启动该扑克牌应用。
在另一示例中,第二系统中的聊天应用,在接收到第二系统中的状态同步模块发送的应用启动指令之后,启动该聊天应用。
通过本实施例提供的语音控制方法,在″边玩边聊″等融合场景中,显示设备通过一个状态同步模块同时管控两个系统的当前状态信息,并将语音模块的语音信息分为两路进行处理,从而根据同一语音信息对双系统中的两个应用程序同时进行管控。
请参阅图11,本实施例提供的一种显示设备,该显示设备包括第一系统和第二系统。这两个系统之间能够通过rpc通信机制进行通讯。其中,第二系统被配置为该显示设备的主系统,能够获取用户的语音信息,并运行聊天等应用程序,第一系统被配置为该显示设备的辅助系统,能够运行游戏等应用程序。
在第一系统中,设有第一状态管理模块1101和第一通信模块1102。在第二系统中,设有第一通信模块1103、状态同步模块1104、语音模块1105以及第二通信模块1106。
第一状态管理模块1101,用于在第一系统的应用程序切换应用状态之后,并将应用程序的当前状态信息发送至状态同步模块1104。
第一通信模块1103,用于在第二系统的应用程序切换应用状态之后,并将应用程序的当前状态信息发送至状态同步模块1104。
状态同步模块1104,用于接收第一系统或第二系统应用程序的当前状态信息;根据当前状态信息,获取语音模块1105的语音信息;以及,根据当前状态信息和语音信息控制应用程序。
语音模块1105,用于获取用户的语音信息。
可选的,状态同步模块1104还用于,接收应用程序发送的应用启动请求;向应用程序发送应用启动指令。
可选的,当应用程序不是聊天应用时,状态同步模块1104还用于,将语音信息发送至云端服务器;接收云端服务器返回的识别结果;根据识别结果和当前状态信息,控制该应用程序。
可选的,当应用程序是聊天应用时,状态同步模块1104还用于,根据当前状态信息,将语音信息发送给该应用程序。
本实施例提供的显示设备,在″边玩边聊″等融合场景中,能够通过一个状态同步模块同时管控两个系统的当前状态信息,并将语音模块的语音信息分为两路进行处理,从而根据同一语音信息对双系统中的两个应用程序同时进行管控。
基于本申请中示出的示例性实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。此外,虽然本申请中公开内容按照示范性一个或几个实例来介绍,但应理解,可以就这些公开内容的各个方面也可以单独构成一个完整技术方案。
应当理解,本申请中说明书和权利要求书及上述附图中的术语″第一″、″第二″、″第三″等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,例如能够根据本申请实施例图示或描述中给出那些以外的顺序实施。
此外,术语″包括″和″具有″以及他们的任何变形,意图在于覆盖但不排他的包含,例如,包含了一系列组件的产品或设备不必限于清楚地列出的那些组件,而是可包括没有清楚地列出的或对于这些产品或设备固有的其它组件。
最后应说明的是:以上各实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述各实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的范围。
起点商标作为专业知识产权交易平台,可以帮助大家解决很多问题,如果大家想要了解更多知产交易信息请点击 【在线咨询】或添加微信 【19522093243】与客服一对一沟通,为大家解决相关问题。
此文章来源于网络,如有侵权,请联系删除