World Of Tech 2023
出品人详情
2023/11/24-25 深圳·前海JEN酒店
王亚晨
腾讯云 副总裁

腾讯网络平台负责人,负责腾讯数据中心网络、骨干网络、云网络、AI/HPC高性能计算网络、DPU/智能网卡、5G与物联网等领域的研发、建设和运营工作。 现任Linux基金会OPI社区董事会董事,CCSA TC12副主席,通信学会网络委员会副主任委员。曾任LF Network开源董事会总裁、ITU-T国际电信联盟5G工作组副主席、Linux基金会LF Edge董事会董事。多次荣获ITU-T国际电信联盟杰出贡献奖、中国通信学会科技创新一等奖、中国通信标准化协会CCSA科技进步一等奖。发布超20余项国际技术标准与40余项技术专利。

专题:AI超级底座

JEN1厅

大模型推动AI进入新纪元,对计算、存储、网络、数据检索,及调度容错等等,都提出了更高要求。 腾讯云AI超级底座,软硬自研领先,为AI加速而生。本专场聚焦云基础设施产品技术,重点针对大模型训练、推理等AI场景,为您解读腾讯云如何通过领先业界的软硬自研,实现基础设施性能、速率、容错、调度等的跨越式升级。
叶帆
腾讯云 异构计算研发负责人
AI大模型云上异构算力加速指南
主题介绍:
随着集群规模的增加,无论训练还是推理对硬件性能的利用均呈现指数难度上升,需要精细的软硬件协同来提升性能。腾讯云的Taco-LLM开箱即用性能方案基于Continuous Batching、预测解码、模型量化等技术,提高吞吐的同时,也降低了客户端延迟,并全面兼容hugging face主流大语言模型,可保障复杂多变的公有云应用场景。

主题大纲:
1. 大模型时代AI基础设施的机会和挑战;
2. 腾讯云自研计算、存储、网络架构;
3. 长稳训练;
4. 基于TKE的AI集群管理及故障自愈;
5. Nemo on TKE;
6. 客户案例;

听众收益:
1. 了解大模型时代“蒸汽机”:云上大规模算力集群的来龙去脉;
2. 交流大模型推理优化腾讯云的实战经验及独门秘诀;
3. 畅谈国产化替代背景下云计算及AI发展的思考;
余波
腾讯云 网络研发专家
打造AI时代下的网络信息高速公路
主题介绍:
对于参数达到千亿、万亿级别的AI大模型来说,大带宽、低延时、广覆盖、少抖动的网络是实现高效训练的关键因素之一。腾讯云星脉高性能计算网络具备业界最高的3.2T通信带宽,可为AI大模型的训练提供高速公路级别的网络通道。

主题大纲:
1. 通过vtix控制调度系统,打造极致的低延时、高稳定公网访问体验;
2. 通过5G、IX/CX、合作POP等全球接入点布局,用户方便快捷网络接入;
3. 基于vdci/CCN精细化选路,打造云上端到端最短延时选路,提供最快端到端加速通道;

听众收益:
1. 新型钱包:推出EIP/WanIP节省计划,以预存钱包的形式提供更优惠的网络数据传输方案;
2. 套餐丰富:提供多种不同类型的套餐(全额预付/部分预付/0预付;全产品/单产品),满足不同需求用户的预期;
3. AI场景专属套餐:专门为高性能应用服务HAI定制了专属带宽+流量包套餐,应对AI场景下的模型和数据集的下载需求;
何世友
腾讯云 云原生产品中心函数产品负责人
企业级云原生 Serverless:深度融合FaaS和容器生态,加速推动AGI创新落地
主题介绍:
大模型时代,训练、微调、推理都对算力和调度相较于此前的 CPU 计算提出了更严苛的要求。而 GPU 又是昂贵而稀缺的,如何利用有限的资源搞定模型从训练到推理应用发布全生命周期,是每一个工程团队急需解决的难题。本次分享聚焦该问题,探讨云原生 severless 浪潮下的行之有效的解法。

主题大纲:
1、Serverless 发展十年,服务百万开发者后,新的挑战与机遇是什么?
2、云原生 Serverless,深度融合 FaaS 和容器生态的全新架构,将如何赋能企业应用场景?
3、AIGC 火热,加剧了 GPU 算力紧缺昂贵与 AI 应用的训练微调推理部署运维的痛点难题,云原生 Serverless 如何一一化解,加速 AGI 创新落地?

听众收益:
针对大模型的训练、微调、推理场景的痛点问题一一拆解,从 GPU 资源准备到调度优化全过程解决方案讲解。
雷伟
腾讯云 存储产品总监
AGI时代下的高性能存储技术&实践
主题介绍:
本次分享主要讲述了腾讯云高性能文件存储CFS Turbo针对AGI时代下各类新兴的场景和需求,所做的技术优化和实践经验。 技术分享包含腾讯云高性能文件存储CFS Turbo数据条带化处理,一致性缓存、弹性扩展等技术,帮助用户实现TB级带宽、千万级IOPS的极致性能,加速AI应用的创新和发展。

主题大纲:
1. AGI时代下对存储的挑战和机遇;
2. AGI时代下存储的技术要素;
3. 腾讯云高性能并行文件存储 CFS Turbo 核心技术能力;
4. 腾讯云高性能并行文件存储 CFS Turbo 实践经验&案例;

听众收益:
了解AGI场景下对存储的各类要求,以及落地的实践经验。
陈薏竹
腾讯云 向量数据库产品经理
向量数据库,AGI时代的数据枢纽
主题介绍:
腾讯云向量数据库同时具备的性能和规模优势,支持高达10亿级的向量检索规模,延迟则控制在毫秒级,比传统单机插件式数据库检索规模提升了10倍。同时,腾讯云向量数据库还具备百万级每秒查询(QPS)的峰值能力,经腾讯内部海量场景实践,数据接入AI的效率比传统方案提升10倍,运行稳定性高达99.99%。

主题大纲:
1. 大模型时代数据库的机会&挑战;
2. 腾讯云向量数据库技术架构解析;
3. 腾讯云向量数据库能力介绍;
4. 典型客户案例;