Deprecated: Creation of dynamic property db::$querynum is deprecated in /www/wwwroot/shsymjj.com/inc/func.php on line 1413

Deprecated: Creation of dynamic property db::$database is deprecated in /www/wwwroot/shsymjj.com/inc/func.php on line 1414

Deprecated: Creation of dynamic property db::$Stmt is deprecated in /www/wwwroot/shsymjj.com/inc/func.php on line 1453

Deprecated: Creation of dynamic property db::$Sql is deprecated in /www/wwwroot/shsymjj.com/inc/func.php on line 1454
上海电信发布首个商用级AI公共算力服务平台 为“模都”加速_产品中心_乐鱼真人注册_官网登录

乐鱼真人乐鱼真人注册

乐鱼真人官网登录

H

热销产品

C

联系我们
  • 乐鱼真人
  • 联系人:兰生
  • 手机:13929138988
  • 传真:
  • E-mail:1006626703@qq.com
  • 网站:www.shsymjj.com
  • 地址:佛山市顺德区江义大道东五路
产品中心

上海电信发布首个商用级AI公共算力服务平台 为“模都”加速

时间: 2024-06-28 02:43:35 来源:乐鱼真人 作者:乐鱼真人官网登录

  1月22日上午,中国电信上海公司(以下简称上海电信)联合徐汇区政府共同举办的“算力惠模都 万兆连速城”人工智能公共算力服务产品发布会展区,人潮涌动,讲解员忙不迭回复着来自四面八方参观者的提问,而会场里早已座无虚席。“自几天前在朋友圈发布预热海报后,便不停有人打电话给我,要求参加这个活动。”一位上海电信工作人员告诉《IT时报》记者。

  岁末年初,上海市连续吹响进军人工智能高地的号角,《上海市推动人工智能大模型创新发展若干措施(2023—2025年)》《上海市促进在线新经济健康发展的若干政策措施》……从魔都到“模都”,上海站在了向AI时代跃迁的关键时刻,而大规模的普惠算力,是此轮“城市进化”的关键基石。

  “我们将以公共普惠、创新领先的算力供给,算、存、运一体的综合算力服务模式,全面赋能上海市AI产业生态。”发布会上,上海电信总经理龚勃如是表示。

  当日,上海电信点亮了15000卡的全国规模最大运营商级智算中心,同时发布一系列人工智能公共算力服务产品。

  当上海全力奔赴具有国际影响力的AI产业高地和大模型生态高地征途时,作为这座“国际数都”建设的主力军,上海电信再次成为“关键先生”。

  让算力成为水、电一样的公共资源,随取随用,是1961年“人工智能之父”约翰·麦卡锡对未来的预见。一甲子后,随着2022年12月Open AI掀起的大模型狂潮席卷全球,智能算力的需求井喷,如何让中小企业、个人能用到低门槛、普惠的算力成为国家科技、经济发展的关键,算力成为普惠大众的公共服务资源,即将照入现实。

  一如既往,上海电信比时代要求“先行一步”。从光网城市到千兆之城,再到双千兆和双万兆,“第一”的位置从未旁落。

  2022年,上海电信在全球率先启动“全城上云”,打造云网边端安一体化的新一代综合性智能化信息基础设施——“智云上海”,以新网络重塑城市智算底座,并在全国电信运营商中第一个提出向社会提供公共算力产品试用服务,推动算力服务公共化。

  如今,随着大模型进一步改变了算力供需关系,加上技术演进、市场酝酿和产品的迭代升级,时隔一年半,基于中国电信的“天翼云自研CloudOS4.0底座”,上海电信再次推出人工智能公共算力服务平台,以及一系列商用级“人工智能公共算力服务产品”。

  所谓算力产品,就是为人工智能提供智算基础服务和产品。此次上海电信共发布了“4+1+1+1”七个产品,包括四个智算产品、一个弹性算网、一个算网调度系统和一个政务大模型,相较一年半前,产品形态变得丰富许多,面向各类企业,覆盖算力供给、算力输送、算力调度、训练推理等各类需求,高性能计算、大模型训练推理、AI for Science、各类算力租赁、图形渲染、潮汐式突发性算力需求等场景,也都在“射程”范围之内。

  “可见即可用,可用即可得。”据上海电信资深经理张慷现场介绍,此次推出的算力产品均已是成熟的商用产品,包括标准化套餐和定制化开发两种,客户既可以在线自行下单,亦可以线下咨询后按需订购,并面向全市各类人工智能生态企业开售。

  对于大规模的公司和高校、科研院所等AI for Science客户,上海电信提供定制化的专用算力集群服务,支持自主研发大模型,适用于训练、推理各类场景。

  此次上海电信在临港点亮的全国规模最大运营商级AIDC,可以为上海乃至长三角的大模型公司可以提供丰富的算力资源,尤其是国内首个单池万卡规模的国产液冷算力集群,将有效解决目前算力“卡脖子”难题。

  据张慷介绍,一家国内AI企业已经将其大模型迁移至临港的国产资源池内,算内采用ROCE网络,算间跨省点对点专线,并配套高性能文件存储,整个迁移过程用了一周,运行效率可比肩原算力方案。

  此外,面对大模型企业临时性的训练扩容需求,上海电信还推出了智能算力车方案,每辆算力车可搭载8台异构AI算力服务器底座,提供高达64卡约20PFLOPS的AI算力,支持百亿参数级别的大模型训练和微调。目前已经在雄安新区等地区为客户完成了定制训练。

  针对那些提供垂直大模型或行业大模型的企业,上海电信推出了云主机智算产品,实现了算力的卡级租赁。这一些企业往往不需要从零开始训练模型,只需云端租赁相应算力,即可满足需求,不仅节约了成本,还提高了计算效率。

  对于小型科创企业和有算力需求的学校等机构而言,“批量计算”容器级智算产品是一个理想的选择。这款产品预置了各类AI计算作业的开发环境,企业可跳过烦琐的环境配置调优,直接上传计算作业任务并进行调优,即使使用者没有很高的AI和大模型技术储备,也能够实现训练任务,从而让AI变得触手可及。

  通过上海电信的人工智能公共算力服务平台,用户无需关心自己使用了多少张算力卡或是这些算力卡位于哪个资源池,只需提交训练任务,平台便会智能调度任务并充分的利用本地、外地资源池的闲置算力卡,不仅提高了算力的利用效率,还使得算力成本下降了约30%,让算力、算法真正成为普惠性生产工具,让人工智能发挥赋能城市和千行百业的“乘数效应”。

  此次发布会由上海电信与上海市徐汇区政府联合举办,徐汇区重点打造的全国首个大模型专业孵化和加速载体“模速空间”,成为上海电信人工智能公共算力服务产品落地的首批园区之一。

  “我们接触过很多算力服务商,但可提供一站式服务的供应商非常少,上海电信在这方面有整体优势。”开放传神联合发起人张家庆和记者说,2023年9月,开放传神入驻“模速空间”,并陆续将服务从国外云商迁移至上海电信的算力服务,“在不改变原先计算负载的情况下,整体成本降低了60%”。

  大模型是AI时代的里程碑式技术。此轮人工智能浪潮之所以掀起巨浪,在于大模型呈现出的“智能涌现”,将给人类历史带来颠覆性的影响,全球都在用AI重塑内核,抢占AI产业和算力高地。

  “上海拥有全国最好最丰富的AI应用场景,”发布会上,上海市人工智能行业协会副秘书长沈涛指出,上海的AI产业在全国有着非常明显领先优势。

  截至2023年底,上海AI企业已超过3000家,2023年上半年全市人工智能规上产业规模1800亿元,年均增长超30%。当前,上海人工智能已形成从基础算法、核心芯片、智能软硬件产品到行业应用的全栈产业链,超过60家研发主体发布了70余款大模型和相关产品。

  然而,能否有一个强大的城市智算承载底座和提供普惠性、大众化服务的公共算力服务平台,是上海能否继续保持AI产业优势的基石。

  “大模型彻底改变了人机交互的模式,随着大模型能力的逐步提升,未来,或许人人都是程序员,人人都可以用AI实现自身的创意。”张家庆认为,只有充分降低企业和普通人应用AI的门槛,才会打造出一个拥有创造力激情的AI城市,一个普惠、大众的算力公共服务平台必不可少。

  这也是此次发布会非常关注的关键。据了解,自2022年启建“全城上云”的“智云上海”之后,上海电信正逐步利用“算力+网络+平台+服务”的综合优势,联合产业生态合作伙伴,助力打造“全城AI”的“智能上海”。

  “希望上海电信依托丰富的应用场景和客户优势,搭建各类合作平台,与芯片、算力、网络、大模型、公共服务等上下游各类企业一同挖掘机会,形成长期稳定共赢的产业链。”上海市经信委副主任张宏韬如是表示。