News

新闻动态

科研聚焦

专题报道:走进陈霏老师实验室系列之VR/AR应用中的听觉感知

日期2017-05-09/ 科研聚焦

虚拟现实(Virtual Reality, VR)技术近年来逐渐为消费者所接受, 尤其是在过去的2016年, VR之风盛况空前, "史称"VR元年. VR技术借助计算机系统以及传感器技术生成一个3D环境, 通过调动用户的各种感官(如视觉、听觉、触觉、嗅觉等), 结合崭新的人机交互设计, 创造出虚拟而逼真的身临其境体验. 把VR虚拟信息叠加到现实世界, 就是增强现实(Augmented Reality, AR).

近年来, 随着硬件性能的提升和成本的不断降低, VR/AR产品才逐渐获得广泛发展. 在2016年美国消费电子展(CES)上, VR金鼓喧阗, 一时成为展会的绝对主角. 不过, VR快速发展时间很短, 虽然在很多领域的实际应用已相对成熟, 但总体来说, 仍然处于初级发展阶段, 尚存在不少有待解决的问题. 工信部《2016中国虚拟现实产业白皮书》就指出VR应用过程中仍存在诸多挑战, 例如, 在虚拟世界的感知方面, 有关视觉合成研究多, 听觉、触觉(力觉)关注较少, 真实性与实时性不足,而成熟的VR技术应当是多感觉协同感知, 包括视觉、听觉和触觉等.

虚拟听觉空间(Virtual Auditory Space)通过音频信号处理技术,将按照空间分布的扬声器,基于人耳的一些特殊声学效应,通过声学相关算法计算模拟,将声源重建在3D空间中的任一位置,实现声源方位的重现, 从而使听者产生逼真的虚拟的听觉感知.

如果没有成熟的虚拟听觉技术, VR用户将无法准确感知声音的方向和距离,听觉和视觉系统失调, 无法本能地协同反应, 就会造成眩晕疲劳感(另一眩晕感的重要原因是视觉延迟), 影响用户体验(就像是分分钟"出戏"的那种感觉).

比之虚拟视觉的发展, 虚拟听觉研究和应用相对落后, 学界3D声效研究和业界的虚拟听觉设备研发正在阔步前进. 例如, Oculus就配备了相应的听觉处理装置, 苹果、微软也已经开始布局虚拟听觉.

近来研究发现, VR世界中的距离感知相对现实世界中的, 压缩性会被显著放大(现实中, 正常人对距离的听觉和视觉感知一般情况下存在压缩性, 即感觉到物体的距离比实际的要近). 这就给VR应用带来一个难题, 怎样设计可以缩小甚至消除VR中的距离感知压缩性误差, 以获取更加逼真的体验? 在VR环境下需要快速完成和准确定位的交互动作, 如接住飞来的物体, 跨越前方的障碍等, 尤其需要准确的距离判断.

针对VR应用中存在的听觉距离感知失真的问题, 基于多年言语识别、听觉感知和助听技术方面的信号处理和听力学研究经验, 电子系陈霏老师的团队目前部分研究工作试图探索, 在虚拟环境下, 包括视觉/听觉障碍者以及正常受试者等在内的不同群体, 对不同声音刺激和声音环境的听觉距离感知(近体距离和远体距离, 相对距离和绝对距离等)的失真现象和机理. 相应研究正在开展, 欢迎兴趣的同学前来了解和参与实验, 收获研究经验和/或实验酬劳(受试者将获得具有竞争力的劳务报酬^_^).

附注: 电子系陈霏老师实验室(南山智园A7栋-1111室)的研究包括言语识别和听觉感知、脑电/心电/肌电、以及呼吸/脉搏波等生理信号检测等, 后期将陆续介绍, 等不及的小伙伴速来参与实验^_^.

图片1.jpg

左图: 实验室內建声学屏蔽室; 右上: 火材盒3D音效(soku.com搜索"3D音效测试"); 右下: 声音刺激测试程序

文字:冯永

电子系微信公众号

首页

地址:广东省深圳市南山区学苑大道1088号
          南方科技大学工学院南楼

邮箱:eee@sustech.edu.cn

© 2016 All Rights Reserved.网站设计支持 粤ICP备14051456号