跳转至

LLM

英特尔“芯”AI,赋能云边端|第五期:MedGemma-4B 赋能智能医疗,基于 Core Ultra 的高效部署

经过前四期的深入探索,我们已全面展示了 YiCoreAI 平台的云边端 AI 闭环实力:从 YIAISTUDIO 依托 Arc A770 GPU 高效训练 YOLOv8/v11 和 Qwen-7B,到 YiCONNECT 通过 Kubernetes 实现智能模型管理,再到 YiEDGE 利用 Core Ultra iGPU/NPU 实现低至 40ms 的边缘推理。在 2025 年的 AI 浪潮中,上海亿琪软件有限公司的 YiCoreAI 平台正凭借这一闭环赋能企业与组织的数字化转型。本期,我们将聚焦 Intel Core Ultra 系列处理器在大模型部署中的独特优势,其强大的神经处理单元(NPU)不仅显著提升大模型的推理效率,还通过低功耗设计和实时性能优化,为医疗、教育等行业带来突破性应用,邀请开发者加入我们的开源社区,共同推动 AI 生态建设。借助 IPEX-LLM 优化与 Gradio WebUI,开启医疗 AI 验证新模式。