Press "Enter" to skip to content

微软和佐治亚理工学院的研究人员推出TongueTap:使用头戴式设备进行多模式舌头手势识别

在迅速发展的可穿戴技术领域,追求平滑、无需手动操作的交互方式产生了突破性的发现。TongueTap是一种通过同步多个数据流实现舌头手势识别来控制佩戴式设备的技术,它是一项有前景的发展。这种方法使用户能够静默地进行交互,无需使用手或眼睛,也无需需要通常放置在口内或接近口腔的特殊接口。

在与美国华盛顿州雷德蒙德的微软研究院合作下,乔治亚理工学院的研究人员将两个商业头戴式设备中的传感器(Muse 2和Reverb G2 OE设备)进行了整合,创建了一种舌头手势接口(TongueTap)。这两个头戴式设备都包含IMU和光电测量(PPG)传感器。其中一个头戴设备还包括脑电图(EEG)、眼动追踪和头部追踪传感器。两个头戴设备的数据使用“实验室流式层(LSL)”进行了同步,该系统是用于多模式脑-计算机界面常用的时间同步系统。

团队在其流程中使用了SciPy对EEG信号进行了128Hz低通滤波和独立分量分析(ICA)处理,同时对其他传感器分别应用了主成分分析(PCA)。为了进行手势识别,他们使用Scikit-Learn中的支持向量机(SVM)方法,使用径向基函数(RBF)核函数和超参数C=100、gamma=1进行二元分类,判断一个移动窗口的数据是否包含手势或非手势。

他们通过与16名参与者合作,收集了用于评估舌头手势识别的大型数据集。研究中最有趣的结果是哪些传感器在分类舌头手势时最有效。Muse上的IMU传感器是最有效的传感器,单独使用可以达到80%的准确率。多模态组合,包括Muse IMU传感器,效率更高,多种PPG传感器的准确率达到94%。

基于表现最佳的传感器,研究人员观察到,耳后的IMU是一种低成本的舌头手势检测方法,其位置可以与以往的口腔感应方法相结合。使舌头手势成为产品的关键步骤之一是建立可靠的、用户无关的分类模型。为了使手势在更现实的环境中适应,需要进行更生态有效的研究设计,包括多次实验和在不同环境之间进行移动。

TongueTap是朝着平滑、直观的可穿戴设备交互方向迈出的一大步。它利用商业可购买的技术来识别和分类舌头手势,为实现离散、准确和用户友好的佩戴式设备控制打下了基础。舌头交互的最有前景的应用是控制增强现实界面。研究人员计划通过将其用于增强现实头盔,并与其他注视交互方式进行比较,进一步研究这种多器官交互。

Leave a Reply

Your email address will not be published. Required fields are marked *