- 首页 amd公司:用户可本地化运行llm和ai聊天机器人

amd公司:用户可本地化运行llm和ai聊天机器人

科技
小彩圈
3/7/2024 18:0
842

3月7日消息,AMD公司今天发布公告,表示用户可以本地化运行基于GPT的大语言模型(LLM),从而构建专属的AI聊天机器人。

AMD表示用户可以在包括采用AMD新XDNANPU的Ryzen7000和Ryzen8000系列APU,以及内置AI加速核心的RadeonRX7000系列GPU设备上,本地运行LLM和AI聊天机器人。

amd公司:用户可本地化运行llm和ai聊天机器人

AMD在公告中详细介绍了运行步骤,例如运行70亿参数的Mistral,搜索并下载“TheBloke/ OpenHermes-2.5-Mistral-7B-GGUF”;如果运行70亿参数的LLAMAv2,搜索并下载“TheBloke/Llama-2-7B-Chat-GGUF”。

amd公司:用户可本地化运行llm和ai聊天机器人

AMD并不是第一个这样做的公司,英伟达(NVIDIA)最近也推出了"ChatwithRTX",这是一个由GeForceRTX40和RTX30系列GPU支持的人工智能聊天机器人。它采用TensorRT-LLM功能集进行加速,基于本地化数据集提供快速生成的人工智能结果。


北美美国华人导航网 提供最新的华人资讯及最便利的网站提交 请多关注小彩圈网


同类新闻

小彩圈网- 致力于打造成为美国华人访问量最大美国网址大全, 北美美国里最专业的华人导航网站,专门为在美国的华人及留学生设计的美国网址导航。我们平台提供大量的华人/中文网站等相关资源,精准的信息搜索,改善了用户体验和对移动平台的支持。