模型
-
本地跑大模型这件事,终于有点“像买游戏主机”了:技嘉 AI TOP ATOM 上京东
这一合作对关注本地AI落地的开发者与企业而言,意义尤为显著:过去,搭建一套能够顺畅运行大模型训练与推理的本地环境,往往意味着开发者需要自行拼凑硬件、调试驱动、配置复杂环境,
101 -
显存终于不再“卡脖子”?NVIDIA新招KVTC:把大模型对话内存压到1/20,首帧最高快8倍
这一突破有望解决大型语言模型长对话推理时的内存不够用问题,大大降低企业使用AI的硬件成本,同时还能把模型首次生成回应的时间,最高提速8倍。 简单来说,KVTC技术的核心就是压缩大型
69 -
技嘉联手趋境科技上马AMaaS:本地大模型部署,终于更像“装个游戏”那么顺了
趋境科技长期聚焦大模型基础设施与管理平台建设,AMaaS在模型管理、图形化操作与资源调度方面具备成熟能力,可为本地大模型部署提供更便捷的支持。趋境科技副总裁关嘉伟表示:“通过技
61 -
阿里“千问”掌舵人卸任背后:一个90后技术大佬和他做的大模型
阿里千问 3 月 2 日开源 4 款 Qwen3.5 小尺寸模型系列,分别是 Qwen3.5-0.8B/2B/4B/9B。小模型发布后,在海外社交媒体上获得了马斯克的关注。林俊旸则在 X 上感谢马斯克的点赞。 据每日经济新闻报道
107 -
阿里“千问”掌舵人卸任背后:一个90后技术大佬和他做的大模型
阿里千问 3 月 2 日开源 4 款 Qwen3.5 小尺寸模型系列,分别是 Qwen3.5-0.8B/2B/4B/9B。小模型发布后,在海外社交媒体上获得了马斯克的关注。林俊旸则在 X 上感谢马斯克的点赞。 据每日经济新闻报道
194
感谢你浏览了全部内容~