10000张卡的单池，支持万亿大模型训练，首批用户落户
作者/IT Times 记者 郝俊辉
编辑/孙彦
3月22日，中国电信宣布，易云上海临港国内万卡算力池正式开通，人工智能研究院、上海西宇科技（）、百川智能、尖睿科技等8家人工智能研究机构和企业入驻首批用户。
就在三天前，3月19日，上海市发改委等部门联合印发《关于上海市新基建项目息息贴现管理的指导意见（2024版）》（以下简称《指导意见》），鼓励合作银行设立上海新基建优惠利率信贷基金， 总规模超过1000亿元，重点支撑新网络、新算力、新数据、新设施、新终端五大领域。促进新型优质生产力发展的紧迫性。
作为上海“新算力”建设的重要一极，中国电信响应上海市政府要求，加快建设多元化供应、云侧协同、按需调度、高效绿色的高性能城市算力网络体系。
此次正式投产的算力池是国内首个正式投产的国内单池万卡液冷算力集群，也是行业领先的云智融合国家公共智慧计算中心。
“从理论上讲，集群规模越大，大型模型的训练速度就越快。首批落户企业联合创始人兼首席科学家于凯对《IT时报》记者表示，中国电信国产万卡算力集群的上线，将有助于解决国内大型示范企业的可持续发展难题。
发布会上，上海市副市长陈杰、中国电信副总经理唐珂共同点亮了算力池。上海市政府副秘书长庄木笛、中国电信市场部总经理陈文军、上海电信总经理龚波、上海市发改委副主任邱文进、上海市通信管理局副局长何峰、易云公司副总经理黄洪波、陈志宏、 上海电信副总经理、上海电信高级经理张康出席会议。
单个 10,000 张卡片池支持数万亿次大型模型训练
全球人工智能发展正在进入“深水区”。
随着生成式AI的迭代和发展，大型模型的规模正在以惊人的速度扩大，数万亿个参数几乎成为通用大型模型的标准配置。
在不久前召开的两届全国人大会议上，《政府工作报告》提出“适度推进数字基础设施建设，加快形成国家综合计算体系”。
作为国有企业和国家云平台建设者，中国电信早在三年前就提前布局，在临港新区成立临港算力（上海）科技有限公司，加快临港计算中心建设，为长三角提供更多优质、普惠的智能计算公共服务。
今天，结果开始显现。
中国最大的单池液冷万卡计算集群在上海临港智能计算园区正式交付并投入商业运营。
据《IT时报》报道，天一云上海临港国产单池万卡液冷算力集群创新采用“魔方”型网络中心和算力分层，实现单集群万卡高速互联，可满足万亿级参数大模型训练所需的多机多卡并行、高吞吐、无损通信等需求。
同时，为实现绿色低碳目标，全面采用集液冷服务与IDC基础设施于一体的新一代智能计算液冷直流舱，实现数据中心能效与智能计算集群算力的双重提升，为“人工智能+”提供智能灵活的绿色算力。
“国产新品”新算力
提升算力自主创新能力，实现国产算力技术和能力突破，建立云网协同高性能计算基础设施，是“新型算力”的核心基石。
中国电信这次拿出的“新算力”，是妥妥的“国产新品”。在易云临港的国产算力池中，除了硬件全部采用国产芯片和设备外，智能计算云的操作系统、智能计算服务平台和算力网络也实现了全栈自研。
黄洪波介绍，此次投产的公共智能计算中心是以中国电信e云自主研发的4.0为基础，搭载e云算力配电网平台“西洋”、智能计算基础设施平台“云霄”、一站式智能计算服务平台“汇聚”，构建算力聚配新模式， 实现全栈能力的自主可控性、安全可信性，为大型模型企业提供从算力供电、算力出达、算力调度到模型训练和推理应用的一站式服务。
其中，“云霄”支持多种国产芯片和上层框架，可管理万卡规模的智能计算集群，实现超大规模集群的稳定运行。目前已管理上海多家智能计算厂商，为上海本土企业提供普惠智能计算调度服务。
“在算力方面，国内大型示范企业面临两大挑战，一是有没有，二是能否使用，我们希望中国电信建设的国产万卡算力池和公共智能计算云服务能够帮助我们解决第一个问题。”俞凯告诉记者，预计算力租赁相关补贴配套政策将陆续出台，从而降低算力成本。
赋能大模型全产业链
发布会上，八家合作伙伴作为首批用户进入临港国产算池，包括百川智能、上海西宇科技、尖睿科技、通用语言大模型公司天阳智能，以及深耕金融领域的行业大模型金盛琊、国内领先的企业级AI-Agent平台公司蓝马科技， AI创新型生物制药公司赛龙生物科技与承担上海人工智能研发转化培育建设重要任务的上海人工智能研究院。基本覆盖了基础层、技术层、应用层等人工智能全产业链。
作为国内对话式人工智能技术研发的龙头企业，于2022年获批打造“国家级新一代人工智能语言计算开放式创新平台”，公司自主研发的行业语言模型DFM-2已通过《生成式人工智能服务管理暂行办法》和《中国深度综合服务算法》。
据了解，DFM-2在临港国产算力池中完成了初步适配，实测结果表明，迁移后集群的训练效率基本可以与原集群对标，通过配套高效的RDMA网络和亚毫秒级延迟的并行文件存储，有效释放了算力。
随着“人工智能+”首次被写入政府工作报告，人工智能行业的机遇正在加速增长。根据《上海人工智能产业发展“十四五”规划》，到2025年，上海将基本建成具有国际影响力的人工智能产业创新发展高地，年均增速超过12%，达到4000亿元。
2月19日，国务院国资委召开“人工智能赋能产业更新”央企人工智能专题推介会，会议强调央企要把人工智能发展放在总体工作中，统筹规划，加快建设一批智能计算中心， 并开展AI+专项行动。
在中国电信的智能计算中心布局中，上海是重要的核心枢纽节点之一，或将继续迎来算力建设的高潮。
排版 / 季佳莹
照片：上海电信
来源/《IT时报》公众号
东 N D
版权说明：平台部分文章信息及图片来源于网络。本页面仅负责文章的调整、排版和编辑。如果权利人发现自己的作品被歪曲，请及时与我们联系。经核实确认后，将尽快处理。
