返回新闻库
AI 市场快讯OpenAI News

OpenAI与博通推出LLM优化推理芯片

OpenAI和博通推出Jalapeño,一款专为LLM推理优化的定制AI芯片,提升性能和效率。

33 词内容信号
AI 快讯

OpenAI News

OpenAI与博通推出LLM优化推理芯片

情报摘要

6
相关新闻
3
FAQ
1
来源

新闻解读

事件要点与影响

摘要

OpenAI和博通推出了一款名为Jalapeño的定制AI芯片,专门针对大型语言模型(LLM)推理进行了优化。该芯片旨在提高AI系统的性能、效率和可扩展性。

重要性

随着AI模型规模和复杂性的增长,专用硬件对于经济高效和节能的部署变得至关重要。Jalapeño芯片代表了OpenAI减少对通用GPU依赖、针对其特定推理工作负载定制硬件的战略举措。与半导体设计领导者博通的合作,可能加速定制AI加速器的采用,并为LLM推理性能设定新基准。

相关工具

对AI工具/模型的影响

Jalapeño的推出可能通过实现更快、更高效的推理来影响AI工具和模型的发展。这可能导致实时应用延迟降低、基于云的AI服务运营成本减少,以及在边缘设备上部署更大模型的能力。其他AI公司可能效仿设计自己的定制芯片,加剧AI硬件市场的竞争。

关注要点

常见问题

问:新芯片的名称是什么? 答:Jalapeño。

问:该芯片针对什么进行了优化? 答:LLM推理。

问:哪些公司合作开发了该芯片? 答:OpenAI和博通。

搜索问答

常见问题

常见问题

新芯片的名称是什么?
Jalapeño。
该芯片针对什么进行了优化?
LLM推理。
哪些公司合作开发了该芯片?
OpenAI和博通。

继续追踪

相关新闻

新闻库
OpenAI News

我们对待政府与国家安全合作伙伴关系的方法

OpenAI News

我们对待政府与国家安全合作伙伴关系的方法

OpenAI 概述了其针对政府和国家安全合作伙伴关系的框架,强调在高风险环境中负责任地使用人工智能、民主问责制和公共安全的原则。

OpenAI News

美国通过州和联邦层面的行动推进人工智能安全

OpenAI News

美国通过州和联邦层面的行动推进人工智能安全

OpenAI 倡导一种“逆向联邦主义”模式,即州级人工智能法规共同 informs 并加强一个连贯的国家框架,以实现安全、民主的人工智能治理。

OpenAI News

OpenAI与Hugging Face合作应对模型评估期间的安全事件

OpenAI News

OpenAI与Hugging Face合作应对模型评估期间的安全事件

OpenAI和Hugging Face分享了在AI模型评估期间发现的安全事件的初步调查结果,强调了先进的网络能力以及为开发者提供的防御性经验教训。

OpenAI News

推出面向小型企业的ChatGPT计划

OpenAI News

推出面向小型企业的ChatGPT计划

OpenAI推出一项专为小型企业设计的计划,助力企业家利用ChatGPT Work培养AI能力、优化运营并实现规模化增长。

OpenAI News

GPT-Red:解锁自我提升以增强鲁棒性

OpenAI News

GPT-Red:解锁自我提升以增强鲁棒性

OpenAI 推出了 GPT-Red,这是一种利用自我对弈技术来增强 AI 安全性、对齐能力以及防御提示词注入的自动化红队测试系统。

OpenAI News

数据科学团队如何使用 ChatGPT Work

OpenAI News

数据科学团队如何使用 ChatGPT Work

OpenAI 推出 ChatGPT Work,使数据科学团队能够直接从实际工作输入中生成根本原因简报、影响评估、KPI 备忘录、范围分析以及仪表板规范。

站内探索

继续探索 AI 生态

看完这条新闻后,可以继续查看相关工具、模型和榜单,快速判断这件事对你的选择有没有影响。