▼支持多种模型下载

▼其次,主机还内置了 ai top utility ,这是技嘉专门为为本地 ai 训练而生的全方位解决方案,它不仅支持高达 236b 参数规模的 ai 模型,同时直观的 gui(图形用户界面)也让用户上手更轻松,操作更直观,整个的操作流程像使用普通软件一样简单。
注意,这个并非开机内置软件需要自己下载和调试。

▼同样可以自由下载各种模型。

▼另外,技嘉的合作伙伴趋境科技提供了适配atom的自研大模型管理平台,对于非专业用户更容易上手。它内置智谱glm-4.5-air-106b大语言模型、glm-4.6v-106b 多模态大模型及其他主流大模型与趋境自研的推理引擎、模型运维平台,开机即用,无需耗时配置。此外还能作为 autoglm 的本地后端使用。

▼然后是模型管理中,可以看到预装的一系列ai大模型,并对其进行了整合分类。
而且 amaas 支持智能调整 / 检测模型,以及查看 token 数。
比如图中的 glm-4.6v-106b 千亿参数多模态大模型,这是首次在模型架构中将function call(工具调用)能力原生融入视觉模型,打通从“视觉感知”到“可执行行动”(action)的链路,为真实业务场景中的多模态 agent 提供统一的技术底座。

▼部署完成后,amaas 的实验场景可以对对话、文本、图形等资料进行测试
比如选择模型“glm-4.5-air-nvfp4”
对话“桌子上有 3 只朝上的茶杯,每次翻转 2 只,能否经过若干次翻转使得 3 只被子的杯口全部朝下呢?”
最后的结果是不可能(正确答案),每秒输出 22.32 tokens

▼技嘉 ai top atom不仅提供强大的模型推理能力,还内置了 ready-to-use 的开发环境与实用工具,涵盖从模型定制到智能应用的完整链路:
比如趋境 · 智问就是最常用的 ai 工具,它提供本地知识库与ai对话功能,可直接管理私密科研资料与工作文档,打造完全私有的智能办公体验。真正是的使用界面是趋镜·智问,这里提供了对话、ai应用、长文写作、知识库等多种场景

▼比如问它“魂类游戏的定义是什么,举例几款典型游戏”
结果出来的很快,定义也很清晰

桌面的“超算中心”

“小体积、大算力”是对技嘉 ai top atom 最直观的评价,但其背后的意义远超硬件本身。
过去,涉足大模型意味着巨额的服务器投入与昂贵的算力租赁,今天,技嘉 ai top atom 将这种“大厂专利”浓缩进了一个极致紧凑的机身中。正如几十年前个人电脑将算力从机房带向桌面一样,atom 正在降低 ai 创新的准入门槛。 凭借极致的能效比与稳健的本地表现,ai top atom 不仅是一台性能怪兽,更是通往“个人超算”未来的必经之路。
发表评论