日期: 2024-12-28 类型:智能硬件
联发科官方宣告,联发科天玑系列移动渠道现已针对微软最新推出的Phi-3.5小言语模型(SLM)进行了专门适配与优化。
该优化现在现已落地天玑9400、天玑9300两款旗舰芯片,以及天玑8300次旗舰芯片,而包含天玑8400在内的未来的生成式AI技能芯片也都会支撑。
开发人员能够终究靠微软Azure AI模型目录,以及联发科的NeuroPilot SDK开发工具包,运用微软Phi-3.5进行有关开发,尤其是在内置NPU AI引擎的联发科渠道上进行和优化生成式AI推理。
所谓小言语模型,便是相对于大言语模型(LLM)而言,最大差异便是参数量更少,从数千亿乃至数万亿参数,通常会削减到几百万至几十亿,然后大幅度降低了模型体积与复杂度,运转功率愈加高,获取更简单,还能够优化定制。
因而,小言语模型很合适智能手机这样处理器、内存等硬件资源相对有限的设备。
跟着生成式AI尤其是端侧AI的快速开展和大范围的使用,AI正在全面改造现代人的日子、文娱、工作方式。
事实上,在生成式AI浪潮降临之前,联发科就现已深耕端侧AI生态的推进,天玑移动渠道每一代都在演进NPU AI硬件引擎,从始至终坚持旗舰级功能,苏黎世AI Benchmark测验中简直一向都是AI功能冠军。
强壮的端侧AI功能,叠加联发科在生态开发方面的继续投入,为天玑渠道智能手机的AI智能化体会打下了强壮软硬件根底。
为了加快端侧AI使用落地、遍及,联发科还打造了全新的“天玑AI智能体化引擎”,经过强壮的端侧AI功能,将传统使用转化为愈加智能化的AI使用,现已与多款闻名使用达到深度协作,让年轻人的各方面日子都更才智、更好玩。
未来,联发科也会继续推进端侧AI的深入开展,带来更为丰厚的端侧AI使用。