AMD推出自家首款小语言模型“Llama-135m”，助力深度学习发展
更新时间：2024-09-29 19:32:44作者：czlaby
9 月 29 日消息，AMD 在 Huggingface 平台公布了自家首款“小语言模型”AMD-Llama-135m，该模型具有推测解码功能，拥有 6700 亿个 token，采用 Apache 2.0 开源许可，附模型地址如下（点此访问）。
据介绍，这款模型主打“推测解码”能力。其基本原理是使用小型草稿模型生成一组候选 token，然后由更大的目标模型进行验证。这种方法允许每次前向传递生成多个 token，而不会影响性能，从而显著减少 RAM 占用，实现效率提升。
AMD 表示，这款模型在四个 AMD Instinct MI250 节点训练了六天，其“编程专用版本”变体 AMD-Llama-135m-code 则额外耗费了四天时间进行微调。
AMD推出自家首款小语言模型“Llama-135m”，助力深度学习发展相关教程
-
Phi-2：小语言模型媲美Llama 2 7B，微软新模型展现惊人威力2023-12-13
-
微软AI革新：训练成本减半，微小模型引领语言学习新纪元最新2024-03-11
-
微软推出首款自制AI芯片，发布自定义AI助手平台，引领智能助手技术发展2023-11-19
-
NVIDIA NeMo是什么,有哪些功能-深度学习语音合成工具2023-12-25
- AMD专利探索多芯粒设计，多模式推进RDNA图形架构未来：AMD图形架构发展趋势深度解析
- 专为XDNA/XDNA2 NPU设计，AMD发布Peano开源LLVM编译器，助力人工智能发展
- 微软全新自主智能体功能国际版助力客户拓展团队能力
- 微软重组OpenAI董事会，助力进一步发展
- TensorRT LLM加速Gemma！NVIDIA与谷歌牵手，RTX助推AI聊天：NVIDIA推出最新AI聊天技术，谷歌合作加速发展
- 如何利用人工智能基础模型加速科学发现？
- 微软发力！暴雪首次为其他游戏打广告，大秘境难度再次下调
- 亚马逊畅销排行榜：AMD一统江湖，全球最热门的10款CPU推荐！
- 电脑的CPU 都有哪些品牌，你知道几个？ - 了解电脑CPU的常见品牌
- 如何正确更新NVIDIA显卡驱动以提升性能和稳定性：详细教程
- 微软游戏业务负责人：未来还会继续推出Xbox游戏机，打造更多优秀游戏体验
- 微软GraphRAG AI提效：改善数据检索，tokens成本降低77%的全面指南
微软资讯推荐
- 1 微软发力！暴雪首次为其他游戏打广告，大秘境难度再次下调
- 2 电脑的CPU 都有哪些品牌，你知道几个？ - 了解电脑CPU的常见品牌
- 3 如何正确更新NVIDIA显卡驱动以提升性能和稳定性：详细教程
- 4 微软游戏业务负责人：未来还会继续推出Xbox游戏机，打造更多优秀游戏体验
- 5 微软GraphRAG AI提效：改善数据检索，tokens成本降低77%的全面指南
- 6 英伟达AI大模型被曝不及预期，国产GPU能否平替？
- 7 如何查看电脑的显卡型号和性能信息？快速了解电脑显卡配置方法
- 8 微软推送Win10服务器端更新，Win11 24H2升级推荐速度快
- 9 如何正确更新NVIDIA显卡驱动以提升性能和稳定性？
- 10 台式电脑CPU天梯图2024年11月新版 桌面CPU性能排行榜：最新CPU性能排名
win10系统推荐
系统教程推荐