K8凯发中国官方网站 英特尔复旧的存储本领让仅有16GB内存的PC也能驱动260亿参数模子

新的内存膨大本领使PC能在土产货启动更大的智能模子,同期缩小内存需求。

群联电子暗示,其新的内存膨大本领能让一台仅有16GB内存的PC启动260亿参数的讲话模子,从而可能让更先进的智能软件在土产货启动,而无需严重依赖云基础设施。
该公司在台北举行的Computex 2026上发布了这项名为aiDAPTIV的本领,这是与英特尔协作的一部分。该系统吞并了英特尔酷睿Ultra系列3处理器与群联基于存储建造的内存膨大平台,以复旧破费级PC上更大的模子和更永劫期启动的责任负载。
星空体育(中国)官方网站跟着智能专揽变得越来越弘大,它们需要越来越多的内存来处理更大的模子、保养会话历史并现实多按次任务。很多现时的PC零落满盈的DRAM来高效启动这些责任负载,迫使用户依赖基于云的就业。
群联暗示,aiDAPTIV通过将责任内存从传统DRAM膨大到高性能NAND闪存存储,来处分这一适度。该本领使用公司称为Pascari aiDAPTIV Cache Memory的组件,为土产货责任负载提供非凡的内存资源。
冲破内存适度
据群联称,里面测试披露,启用aiDAPTIV时,一个260亿参数的模子不错在配备16GB DRAM的系统上启动。而在交流的测试要求下,要是不使用该本领,相同的责任负载需要32GB DRAM。
该公司暗示,该平台还复旧KV缓存重用等启动时功能,K8凯发(中国)这有助于保留来自先前交互的信息,并减少重迭处理交流数据的需求。
与英特尔的协作要点是在搭载酷睿Ultra处理器的英特尔AI PC平台上启用aiDAPTIV。两家公司还在努力于于复旧英特尔的OpenVINO用具套件,并正在评估优化的负载,以便异日进行性能演示。
“AI PC正在演变为启动更复杂土产货AI责任负载的平台,这些责任负载包括智能体专揽和更大的MoE模子,它们对内存容量和反映速率提议了越来越高的要求,”群联电子首席现实官兼独创东谈主潘健成(KS Pua)暗示。
“通过与英特尔的协作,aiDAPTIV有助于膨大英特尔AI PC平台上可供AI责任负载使用的必要内存,让OEM、设备者和最终用户好像在土产货启动更弘大的AI专揽,同期保捏秘籍和基础设施效果。”
土产货模子膨大
在Computex上,两家公司演示了一个土产货聊天界面,启动着一个时时超出可用系统内存的羼杂内行模子。群联还展示了一个基于开源智能体框架OpenClaw构建的羼杂大讲话模子路由系统。
该演示允许更大的模子在土产货启动,仅在更复杂的央求需要非凡处理时才使用云资源。
英特尔暗示,内存仍然是在客户端硬件上启动先进模子的主要胁制之一。
“越来越多的用户和企业但愿在土产货启动AI——更快、更奥秘,且无需将所稀有据发送到云霄的资本,”英特尔客户端诡计业绩部高档副总裁兼总司理Jim Johnson暗示。
“咱们与群联的协作使英特尔AI PC平台好像以更神圣的内存设立复旧更大的土产货AI责任负载,这么客户就能以更低的总资本将本身数据转动为灵验的专揽和真正的买卖价值。”
这一音尘是在台北Computex 2026上晓喻的。
要是一又友们可爱K8凯发中国官方网站,敬请温雅“知新显着”!