科(kē)技日报讯 （记者史俊斌）记者5月18日从西安電(diàn)子科(kē)技大學(xué)获悉，由该校计算机科(kē)學(xué)与技术學(xué)院教授赵伟领衔的智能(néng)媒體(tǐ)计算机团队，通过数据可(kě)信重建以及弱监督深度學(xué)习框架，破解了数据质量低及标注数据稀缺难题，进一步揭示了神经网络的决策机制，有(yǒu)效提升了现有(yǒu)可(kě)信人工智能(néng)方法的鲁棒性、可(kě)解释性和安全性。相关论文(wén)《可(kě)信冲突多(duō)模态學(xué)习算法》日前获國(guó)际人工智能(néng)领域顶级學(xué)术会议AAAI 2024杰出论文(wén)奖。

人工智能(néng)已经日益深入人们生活。在医疗、自动驾驶等复杂场景中，人工智能(néng)对决策任務(wù)的误判可(kě)能(néng)造成重大损失。传统可(kě)信人工智能(néng)多(duō)关注单模态数据，无法满足实际场景中多(duō)模态数据分(fēn)析决策需求，单模态数据有(yǒu)限的信息量导致单模态智能(néng)可(kě)信度存在瓶颈。

為(wèi)此，团队打破单模态数据思路，提出冲突多(duō)模态學(xué)习算法，并通过数据可(kě)信重建以及弱监督深度學(xué)习框架算法，实现了证据层面的冲突多(duō)模态数据可(kě)信融合。这能(néng)在提升人工智能(néng)决策性能(néng)的同时，可(kě)靠地度量决策置信度。此外，团队从理(lǐ)论上证明，该方法能(néng)够量化冲突模态带来的负面影响。这有(yǒu)利于解决当前研究面临的数据质量低、决策不可(kě)信等难题，為(wèi)后续研究提供了重要的理(lǐ)论基础和技术支撑。

团队成员徐偲副教授解释，这种算法在给出置信度的同时，还会给出多(duō)模态数据的冲突度，实现了多(duō)模态信息的“去伪存真”。若置信度不高且冲突度较高时，人工智能(néng)的决策便明显不太可(kě)信。