未来大模型:更多(duō)能(néng) 更轻量 更亲民(mín)
来源: 科(kē)技日报 作者: 发布时间: 2024-04-25

去年起,全球掀起以大模型為(wèi)代表的生成式人工智能(néng)行业浪潮,人工智能(néng)迈向全面应用(yòng)新(xīn)阶段。國(guó)外以OpenAI、微软為(wèi)代表,谷歌、Meta等巨头一个不落,國(guó)内头部科(kē)技企业则悉数入场。

近日,國(guó)家数据局局長(cháng)刘烈宏表示,中國(guó)10亿参数规模以上的大模型数量已超100个,行业大模型深度赋能(néng)電(diàn)子信息、医疗、交通等领域,形成上百种应用(yòng)模式,赋能(néng)千行百业。

大模型技术日新(xīn)月异,产业化脚步追星赶月。在这个热闹夹杂争议的行业,不同的技术路線(xiàn)和选择正在延展开来。

多(duō)模态正成标配

360集团董事長(cháng)周鸿祎在关于2024大模型发展的十大趋势判断中明确表示,多(duō)模态将成為(wèi)大模型标配。未来,大模型不仅能(néng)听会说,还能(néng)看懂图片和视频,更能(néng)识别理(lǐ)解。

中國(guó)科(kē)學(xué)院自动化研究所研究员刘静在《GPT-4对多(duō)模态大模型在多(duō)模态理(lǐ)解、生成、交互上的启发》一文(wén)中谈到,模态是指表达或感知事物(wù)的方式,例如人类的听觉、视觉、触觉等。在人工智能(néng)领域,多(duō)模态是指利用(yòng)多(duō)种模态的信息来进行感知和理(lǐ)解。多(duō)模态技术可(kě)以让机器同时接收并处理(lǐ)不同模态信息,如文(wén)本、图像、音频等,从而提高机器感知和理(lǐ)解能(néng)力。

刘静进一步解释,相比传统的单模态大模型,多(duō)模态大模型更加符合人类的多(duō)渠道认知方式。它能(néng)将不同模态信息相互补充,提高信息的完整性和准确性,从而更好地应对复杂环境、场景和任務(wù)。如在语音识别中,多(duō)模态大模型可(kě)以结合语音和文(wén)本信息,让机器更准确地识别和理(lǐ)解语音内容。在图像识别中,图像和文(wén)本信息的结合可(kě)以让机器更深入地理(lǐ)解图像内容。

刘静介绍,落实到应用(yòng)层面,多(duō)模态能(néng)使机器更好地理(lǐ)解人类的意图和需求,提供精准、个性化服務(wù)。例如,在目前智能(néng)技术已经深入落地的客服领域,多(duō)模态大模型可(kě)以根据用(yòng)户的文(wén)本和语音信息,综合理(lǐ)解用(yòng)户问题并提供解决方案。在智能(néng)家居领域,多(duō)模态大模型通过与智能(néng)家居设备的交互,可(kě)以根据用(yòng)户需求智能(néng)调整家居环境。在医疗领域,多(duō)模态大模型则可(kě)以融合医學(xué)图像、病历文(wén)本等信息,辅助医生进行疾病诊断、制定治疗方案。

结合國(guó)内大模型产业布局,多(duō)模态大模型是近年主流厂商(shāng)普遍选择的发力方向。如“紫东太初”2.0全模态大模型可(kě)实现文(wén)本、图片、语音、视频、3D点云、传感信号等不同模态的统一表征和學(xué)习。

落地应用(yòng)越来越“轻”

為(wèi)提升大模型性能(néng)、增进用(yòng)户體(tǐ)验,大模型正以肉眼可(kě)见的速度越来越“大”。开源模型的参数从几百亿增加到几千亿,闭源模型也在沿着尺度定律路径不断升级,在千亿参数的基础上向着万亿参数攀登。但与此同时,人工智能(néng)产业算力吃紧,难以满足大模型参数规模的指数级增長(cháng)。

為(wèi)加速大模型落地应用(yòng),人工智能(néng)领域正尝试对大模型进行轻量化,通过打造更小(xiǎo)型、更高效、成本更低的模型吸引行业客户,让模型在更广泛的场景有(yǒu)更高应用(yòng)价值。

大模型轻量化通过降低模型的计算复杂度和内存占用(yòng),实现模型性能(néng)与资源消耗的平衡。这不仅有(yǒu)助于提高计算效率,降低运行时资源消耗,还可(kě)以减轻计算系统的硬件和软件压力,提高系统的可(kě)靠性和稳定性。此外,轻量化还有(yǒu)助于提高模型部署的灵活性和可(kě)扩展性,為(wèi)模型在各种场景下的应用(yòng)提供更多(duō)可(kě)能(néng)性。

轻量化主要通过模型压缩来实现。模型压缩是指在不降低模型性能(néng)的前提下,减小(xiǎo)模型的计算复杂度和内存占用(yòng)。模型压缩的方法有(yǒu)很(hěn)多(duō),剪枝、低秩分(fēn)解等是业界常用(yòng)的方法。具體(tǐ)来看,剪枝是指删除一些不必要或冗余的参数,低秩分(fēn)解是指将高维数据或高维模型分(fēn)解為(wèi)低维数据或低维模型。这些方法都是通过降低模型的复杂度,减少参数和计算量,来达到让模型“更轻”的目的。

轻量化不仅有(yǒu)助于提高计算效率,降低运行时资源消耗,还可(kě)以减轻计算系统的硬件和软件压力,提高系统的可(kě)靠性和稳定性。

对于通用(yòng)大模型服務(wù)垂直领域、行业大模型落地应用(yòng)来说,轻量化更是关键步骤——通过合理(lǐ)的数据准备、模型选择、超参数设置和训练验证过程,可(kě)以使模型更好地适应特定领域,提高模型性能(néng)。

联想集团副总裁、联想研究院技术战略与创新(xīn)平台总经理(lǐ)王茜莺曾表示,用(yòng)好大模型主要有(yǒu)三个要素,第一是场景化,第二是隐私化,第三是轻量化。轻量化不仅是将个人大模型进行压缩并部署到用(yòng)户设备上,还包括企业内部的轻量化,甚至云端的轻量化。轻量化意味着使用(yòng)成本的降低。

端侧成厂商(shāng)新(xīn)“角力场”

去年以来,大模型正逐步走向“智能(néng)终端侧”,國(guó)内外一些厂商(shāng)纷纷宣布加速推进大模型在移动终端的部署。端侧大模型,正成為(wèi)行业热词。

所谓端侧,是指模型服務(wù)不部署在云端,而直接存储在终端内部的芯片中,利用(yòng)芯片算力生成结果。这样的大模型服務(wù)不需要联网,数据也不需要被上传到云端。

相比于云端大模型,端侧大模型的优势主要在于:无需云端处理(lǐ)信息,安全隐私性更好;不消耗云成本,高频使用(yòng)下的成本更可(kě)控;弱网和无网环境下也可(kě)以使用(yòng),用(yòng)户无需担心云端服務(wù)器宕机,交互體(tǐ)验更稳定。

中國(guó)工程院院士邬贺铨表示,通过模型压缩和定制人工智能(néng)芯片提升算力,将具有(yǒu)百亿参数大模型的推理(lǐ)能(néng)力嵌入手机,可(kě)以提供低成本、低时延、高安全的智能(néng)助手服務(wù)。

相比ChatGPT、Midjourney等人工智能(néng)应用(yòng)依赖云端服務(wù)器提供服務(wù),端侧大模型主打在本地实现智能(néng)化。甚至有(yǒu)厂商(shāng)提出,让每个人在手机上都拥有(yǒu)“个人大模型”。

目前,在中國(guó)手机市场份额排名前五的企业中,除了苹果公司,其余均已发布自有(yǒu)端侧大模型产品。手机厂商(shāng)提出的包括通话记录自动生成、人工智能(néng)图像处理(lǐ)等应用(yòng)场景,日渐成為(wèi)消费者的日常。

端侧大模型同样是个人電(diàn)脑产品发布时的高频词。在相关宣传中,端侧大模型不仅能(néng)够提升日常使用(yòng)及办公效率,还是保护隐私和数据安全的最优解。

艾媒咨询CEO兼首席分(fēn)析师张毅表示,人工智能(néng)可(kě)能(néng)成為(wèi)今年度的手机新(xīn)卖点,尤其是手机的社交价值功能(néng)呈现方面,将有(yǒu)更多(duō)故事可(kě)讲。对于手机厂商(shāng)而言,大模型是公认的未来发展赛道和方向。尽管现在人工智能(néng)在智能(néng)手机终端的应用(yòng)仍较為(wèi)初级,但未来的普及和推广仍值得期待。

不过,现有(yǒu)技术条件下,要做好端侧大模型并不容易。目前条件下,手机性能(néng)遠(yuǎn)遠(yuǎn)不足以支撑大模型运行。对于大模型来说,参数量是模型能(néng)力的直观體(tǐ)现,如今云端大模型的参数量均在千亿级别,而手机端最高参数规模则不过百亿。

联想集团董事長(cháng)兼CEO杨元庆认為(wèi),未来十年是人工智能(néng)的十年,人工智能(néng)将改造所有(yǒu)业務(wù)。将来人人都会有(yǒu)自己的智能(néng)體(tǐ),后者通过交互學(xué)习越来越懂用(yòng)户,最终成為(wèi)每个人的“人工智能(néng)双胞胎”。

但他(tā)也不讳言市场的不确定性。在他(tā)看来,内置个人智能(néng)體(tǐ)需要更高配置,如果这些对用(yòng)户不是刚需,可(kě)能(néng)就不需要这么高配置。

國(guó)际数据公司认為(wèi),未来人工智能(néng)终端将在创作与创意、游戏和虚拟世界、语音合成与转换、视觉和图像处理(lǐ)、聊天机器人等十大领域广泛落地发展。(记者 崔 爽


地方动态

中國(guó)信息协会会長(cháng)王金平参加第七届数字中國(guó)建设峰会

全國(guó)大學(xué)生创新(xīn)发明大赛暨“英创工程”启动

赋能(néng)未来,共创数智化新(xīn)纪元:中國(guó)信息协会集团企业数字化工作委员会正式成立

中國(guó)信息协会第四届信息技术服務(wù)业应用(yòng)技能(néng)大赛新(xīn)闻发布会在京召开

  • 协会要闻
  • 通知公告