搜索
英特尔 Gaudi 2D AI 加速器为 DeepSeek Janus Pro 模型进行优化
4 天前
DeepSeek公司发布了Janus Pro模型，该模型集成了多模态理解和生成功能，采用统一的Transformer架构，提供10亿和70亿参数版本。英特尔的Gaudi 2D AI加速器针对Janus Pro模型进行了优化，提供了2.45TB/秒的带宽和96GB的HBM内存，显著提升了图像生成批处理任务的吞吐性能，缩短了处理时间。同时，结合英特尔的Optimum-Habana框架优化，文生图任务的吞吐性能和推理效率也得到了显著提升，能够在10秒内生成16张高质量图片，降低了开发门槛和迁移成本。此外，DeepSeek的蒸馏模型也在英特尔的至强和Gaudi平台上得到了支持。
