World Of Tech 2023
出品人详情
2023/11/24-25 深圳·前海JEN酒店
王亚晨
腾讯云 副总裁

腾讯网络平台负责人,负责腾讯数据中心网络、骨干网络、云网络、AI/HPC高性能计算网络、DPU/智能网卡、5G与物联网等领域的研发、建设和运营工作。 现任Linux基金会OPI社区董事会董事,CCSA TC12副主席,通信学会网络委员会副主任委员。曾任LF Network开源董事会总裁、ITU-T国际电信联盟5G工作组副主席、Linux基金会LF Edge董事会董事。多次荣获ITU-T国际电信联盟杰出贡献奖、中国通信学会科技创新一等奖、中国通信标准化协会CCSA科技进步一等奖。发布超20余项国际技术标准与40余项技术专利。

专题:AI超级底座

JEN1厅

大模型推动AI进入新纪元,对计算、存储、网络、数据检索,及调度容错等等,都提出了更高要求。 腾讯云AI超级底座,软硬自研领先,为AI加速而生。本专场聚焦云基础设施产品技术,重点针对大模型训练、推理等AI场景,为您解读腾讯云如何通过领先业界的软硬自研,实现基础设施性能、速率、容错、调度等的跨越式升级。
叶帆
腾讯云 异构计算研发负责人
AI大模型云上异构算力加速指南
主题介绍:\n 随着集群规模的增加,无论训练还是推理对硬件性能的利用均呈现指数难度上升,需要精细的软硬件协同来提升性能。腾讯云的Taco-LLM开箱即用性能方案基于Continuous Batching、预测解码、模型量化等技术,提高吞吐的同时,也降低了客户端延迟,并全面兼容hugging face主流大语言模型,可保障复杂多变的公有云应用场景。\n \n 主题大纲:\n 1. 大模型时代AI基础设施的机会和挑战;\n 2. 腾讯云自研计算、存储、网络架构;\n 3. 长稳训练;\n 4. 基于TKE的AI集群管理及故障自愈;\n 5. Nemo on TKE;\n 6. 客户案例;\n \n 听众收益:\n 1. 了解大模型时代“蒸汽机”:云上大规模算力集群的来龙去脉;\n 2. 交流大模型推理优化腾讯云的实战经验及独门秘诀;\n 3. 畅谈国产化替代背景下云计算及AI发展的思考;\n
余波
腾讯云 网络研发专家
打造AI时代下的网络信息高速公路
主题介绍:\n 对于参数达到千亿、万亿级别的AI大模型来说,大带宽、低延时、广覆盖、少抖动的网络是实现高效训练的关键因素之一。腾讯云星脉高性能计算网络具备业界最高的3.2T通信带宽,可为AI大模型的训练提供高速公路级别的网络通道。\n \n 主题大纲:\n 1. 通过vtix控制调度系统,打造极致的低延时、高稳定公网访问体验;\n 2. 通过5G、IX/CX、合作POP等全球接入点布局,用户方便快捷网络接入;\n 3. 基于vdci/CCN精细化选路,打造云上端到端最短延时选路,提供最快端到端加速通道;\n \n 听众收益:\n 1. 新型钱包:推出EIP/WanIP节省计划,以预存钱包的形式提供更优惠的网络数据传输方案;\n 2. 套餐丰富:提供多种不同类型的套餐(全额预付/部分预付/0预付;全产品/单产品),满足不同需求用户的预期;\n 3. AI场景专属套餐:专门为高性能应用服务HAI定制了专属带宽+流量包套餐,应对AI场景下的模型和数据集的下载需求;\n
何世友
腾讯云 云原生产品中心函数产品负责人
企业级云原生 Serverless:深度融合FaaS和容器生态,加速推动AGI创新落地
主题介绍:\n 大模型时代,训练、微调、推理都对算力和调度相较于此前的 CPU 计算提出了更严苛的要求。而 GPU 又是昂贵而稀缺的,如何利用有限的资源搞定模型从训练到推理应用发布全生命周期,是每一个工程团队急需解决的难题。本次分享聚焦该问题,探讨云原生 severless 浪潮下的行之有效的解法。\n \n 主题大纲:\n 1、Serverless 发展十年,服务百万开发者后,新的挑战与机遇是什么?\n 2、云原生 Serverless,深度融合 FaaS 和容器生态的全新架构,将如何赋能企业应用场景?\n 3、AIGC 火热,加剧了 GPU 算力紧缺昂贵与 AI 应用的训练微调推理部署运维的痛点难题,云原生 Serverless 如何一一化解,加速 AGI 创新落地?\n \n 听众收益:\n 针对大模型的训练、微调、推理场景的痛点问题一一拆解,从 GPU 资源准备到调度优化全过程解决方案讲解。\n
雷伟
腾讯云 存储产品总监
AGI时代下的高性能存储技术&实践
主题介绍:\n 本次分享主要讲述了腾讯云高性能文件存储CFS Turbo针对AGI时代下各类新兴的场景和需求,所做的技术优化和实践经验。 技术分享包含腾讯云高性能文件存储CFS Turbo数据条带化处理,一致性缓存、弹性扩展等技术,帮助用户实现TB级带宽、千万级IOPS的极致性能,加速AI应用的创新和发展。\n \n 主题大纲:\n 1. AGI时代下对存储的挑战和机遇;\n 2. AGI时代下存储的技术要素;\n 3. 腾讯云高性能并行文件存储 CFS Turbo 核心技术能力;\n 4. 腾讯云高性能并行文件存储 CFS Turbo 实践经验&案例;\n \n 听众收益:\n 了解AGI场景下对存储的各类要求,以及落地的实践经验。\n
陈薏竹
腾讯云 向量数据库产品经理
向量数据库,AGI时代的数据枢纽
主题介绍:\n 腾讯云向量数据库同时具备的性能和规模优势,支持高达10亿级的向量检索规模,延迟则控制在毫秒级,比传统单机插件式数据库检索规模提升了10倍。同时,腾讯云向量数据库还具备百万级每秒查询(QPS)的峰值能力,经腾讯内部海量场景实践,数据接入AI的效率比传统方案提升10倍,运行稳定性高达99.99%。\n \n 主题大纲:\n 1. 大模型时代数据库的机会&挑战;\n 2. 腾讯云向量数据库技术架构解析;\n 3. 腾讯云向量数据库能力介绍;\n 4. 典型客户案例;\n