AMD X3D搞AI居然比打游戏还猛!8核暴打16核 领先达88%
据GiggleHD实际测试,比打AMD X3D处理器在RAG(检索增强生成)AI基准测试中展现出远超预期的游戏性能表现,最高领先非X3D芯片达88%。还猛核暴
RAG AI通过外部向量数据库检索信息来增强大模型的打核达回答质量,与纯LLM推理不同,领先向量搜索的比打大量计算负载落在CPU而非GPU上。
随着Agentic AI工作负载的游戏推进,搜索驱动的还猛核暴任务流越来越多,CPU的打核达延迟瓶颈问题日益突出。
HNSW(分层可导航小世界)搜索算法就是领先典型例子,在GPU执行LLM推理的比打同时,CPU负责图检索,游戏更大的还猛核暴缓存意味着更短的检索时间。
GiggleHD使用开源的打核达X3D RAG基准测试,针对个人PC和小团队单节点场景(约100K-200K向量),领先对AMD锐龙9000X3D系列及多款非X3D芯片进行了实测。


结果显示,在100K向量批量搜索中,X3D CPU最高比非X3D芯片快88%;在200K向量测试中,同为8核的锐龙7 9850X3D比锐龙7 9700X快50%以上,且8核X3D芯片的速度超过了16核的锐龙9 9950X。


索引构建方面,100K向量测试时间缩短50%,200K向量缩短39%,并发RAG吞吐量同样由X3D芯片领跑。


差距较小的项目是TTFT(首Token时间)吞吐量,因为该任务主要依赖GPU而非CPU。

(责任编辑:焦点)
推荐文章
-
魔怪大咖强化维生素C果味饮料,何以分食国内千亿功能饮料市场?
发布者:沛琦 浏览量:17199发布时间:2018/6/28 16:06:22 在如今功能饮料市场“百家争鸣”的竞争环境中,先来者未必能站稳脚跟,后到者也有机会冲到前面,比如
...[详细]
-
医疗美容,要最佳效果也要防不良后果 编辑:汤晓雪 来源:人民日报
...[详细]
-
去年聲勢浩大的十五家新銀行,開張一年後成績如何?是否改寫金融排行榜?
...[详细]
-
导读: 2021哪家保险的医疗险好?百万医疗险保费低,保额高,保障全。在保险市场中颇受人们青睐。我们在选择一款产品时,首要应该从产品本身出
...[详细]
-
导读: 为什么说45岁就不要买重疾险了,45岁不建议买重疾险。买保险时我们会发现,随着年龄的增长,保费会越来越贵同时可供自己选择的保险也会
...[详细]
-
不管民進黨的菁英是否準備好,民進黨可能執政的說法已愈來愈流行。從未執政過的民進黨一旦執政,可能會對台灣造成什麼樣的衝擊?
...[详细]
-
日本游戏杂志《Fami通》公布了第 1920期杂志的新作游戏评分,此次有五款游戏获得评分,其中《掘地求升》团队打造的PC步行模拟冒险游戏《一步一脚印》获得了31分的评价,除此之外还有代南梦宫推出的《块
...[详细]
-
郑州地铁17号线市域快线开工发布时间:2018-02-09 12:29 来源:豫都网 我要投稿[摘要]此为郑州航空港区至许昌市域铁路工程郑州段),计划2020年9月底完成全线联调 河南商报讯记者 陈诗
...[详细]
-
导读: 35岁女重疾险多少钱?35岁女重疾险要花多少钱?到了35岁,一般上有老下有小,压力还是蛮大的。不少朋友因此会考虑购买一份重疾险,但
...[详细]
-
记者日前获悉,泉州市各级财政部门抓紧抓早收入组织工作,财政收入取得“开门红”。据了解,1月份,全市一般公共预算总收入完成90.17亿元,增收13.05亿元,比增16.9%;一般
...[详细]
热点阅读

交通意外险保险,交通意外险保险公司可以先行垫付医疗费吗?
英特尔Arc B770显卡曝光:300W超大TDP、BMG
广州抗癌药报销,百万医疗险可以报销抗癌药吗?医疗险推荐
登輝元年.美麗島|天下雜誌
安意保意外险,安意保意外险怎么样?
