MangoBoost发布AI推理平台，与AMD MI355X组合后性能超英伟达B300

摘要：搭载LLM Boost的MI355X推理速度比英伟达B300快5.1倍，吞吐量高1.25倍。

产联社编译

7月28日，据韩国媒体《首尔经济》报道，韩国AI基础设施优化企业MangoBoost宣布，在日前举行的AMD Advancing AI 2026大会上，其AI推理优化软件LLM Boost与AMD最新AI加速器MI355X完成联合测试，在开源大语言模型（LLM）环境下实现优于英伟达B300平台的推理性能。

测试结果显示，搭载LLM Boost软件的AMD MI355X完成推理任务耗时28秒，而英伟达B300平台耗时142秒，推理速度提升约5.1倍；此外，在相同测试条件下，工作负载处理能力（吞吐量）较B300高出1.25倍。

与此同时，MangoBoost正式发布无服务器AI推理平台“Mango Inference”。该平台支持开发者通过API直接调用最新AI模型，无需自行部署和维护GPU基础设施，以降低AI应用开发和部署门槛。

MangoBoost首席执行官金章宇表示，公司竞争优势并非开发更大的模型，而是构建能够稳定、高效、低成本运行AI模型的基础设施。通过与AMD的合作以及Mango Inference平台，公司希望进一步拓展全球AI基础设施市场。

公开资料显示，MangoBoost成立于2022年，专注于AI基础设施优化和推理加速技术，2023年完成700亿韩元融资，企业估值约4030亿韩元，投资方包括Stonebridge Ventures和IMM Investment。公司目前正寻求新一轮融资，以进一步扩大业务规模。

商务合作/报料，请联系微信号：18801065284