主会场1:数字转型 架构演进
在生成式AI的时代,数据中心成为了计算机,成为了AI算力平台的基础计算单元,高性能网络成为了定义数据中心性能和新型AI算力平台性能的关键。本演讲介绍了NVIDIA专门为生成式AI而打造的 Spectrum-X 以太网网络平台和 NVIDIA Quantum InfiniBand 网络平台,通过其独有的动态路由、性能隔离、网络计算等创新技术,在大规模 AI 集群中显著提升训练性能、优化和加速数据中心部署,并提供了完整的参考设计方案。
NVIDIA网络亚太区高级总监,原Mellanox公司亚太区市场开发高级总监,首席架构师,技术总监。
腾讯云分布式数据库TDSQL PG是腾讯内部深度实践的分布式数据库,历经金融、游戏、广告、社交等业务打磨10年之久,逐步推广到千行百业落地应用。TDSQL团队十年磨一剑,当前在面对数据库升级和替换过程中的机遇和挑战,将会和业界一起打磨共创商业数据库语法兼容生态和开源生态,更好的助力企业数字化转型,应对海量数据的高性能和高可用的挑战,以及降低用户的使用门槛,本次将为大家分享TDSQL PG深度去O能力和项目实践
曾任百度DBA、数据库运维平台研发、公有云数据库产品研发;目前负责腾讯云数据库TDSQL PG产品业务线整体产品和研发。
向量数据库在大模型时代的RAG应用中扮演着关键角色。伴随LLM的爆发,RAG应用快速盛行,但许多客户在开发Demo和实际生产中面临效果偏差大的问题。腾讯云向量数据库团队在过去一年中,通过深度优化,帮助客户在不同业务场景中取得了显著成效。同时,腾讯云向量数据库的新架构通过存算分离,显著提升了系统的效率和可靠性。通过数据拆分和计算转移,腾讯云向量数据库在不断增长的数据量和并发写入压力下,依然能提供稳定的访问体验。此外,新架构还增强了系统的扩展性和灵活性,使其能够更好地适应复杂多变的业务需求。这一创新架构为客户在不同业务场景中带来了卓越的效果。
腾讯云向量数据库内核研发。
1、单体架构的问题
2、双活架构的升级
3、第三中心的出现
4、多云架构
应阔浩,自如副总经理。推动自如云原生体系落地,SLA实现3个9到4个9的突破;从0到1搭建自如的技术氛围建设工作,成立了自如技术学院、架构委员会,推动技术规范、行业新技术落地;牵头打造自如技术新人训课程,加速新人的快速融入;绘制自如工程师技能图谱,员工发展、晋升提供可落地的举措。
多模态大模型是2024年的发展方向,随着5月14日,OpenAI发布了最新的多模态大模型GPT4-O :「o」代表着「omni」,意味着OpenAI朝着更自然的人机交互迈出了重要一步。在短短232毫秒内,GPT-4o就能对音频输入做出反应,平均为320毫秒。这个反应时间,已经达到了人类的级别!并且,它可以将文本、音频、图像任何组合作为输入和输出。多模态大模型,不仅可以对文本、图像、音频等多内容格式进行理解,还可以产出对应的文本、图像和视频。在在线旅游领域,有很多的酒店、景点数据,但是这些数据大多数都是以文字图片形式存在,在这个多媒体时代,短视频成为用户主流的获取信息方式,如何通过多模态大模型来将这些图文数据转化为视频数据,用一种信息密度更高的方式呈现在用户面前,获取更多的点击和下单成为这个领域一个重要的方向。尤其在国际酒店和门票的场景,国人出境游的过程中,第一站就是选择酒店,但是对于境外熟悉度不如国内,另外国外的环境,文化和国内差距巨大,需要视频的方式更好的展示酒店的特色,以及相关的注意事项。门票的场景更关注对于人文景点的介绍,对于一些历史古迹,普通人往往知之甚少,可以通过多模态的方式将图文音三者结合起来,生成视频讲解,让用户更好的了解景点信息。
1.多模态大模型简介
2.专业视频生成的全流程
3.基于分镜和多模态大模型的视频生成
4.国际酒店以及门票视频生成实践
去哪儿网基础架构师,曾在58同城担任架构负责人,在去哪儿网,主导了公司APM系统以及AIOPS的开发与落地工作,对高并发高可靠性系统架构有深入研究,最近一年主要方向是LLM在赋能业务以及研发效率领域的探索,主导了公司级的利用多模态大模型视频生成落地:酒店展示视频生成项目,以及智能代码补全工具Copilot、智能Chat以及其他软件工程领域大模型赋能项目落地。
专题研讨会1:多活多云架构设计
在云时代,企业正努力探索一个全面的解决方案来应对多云、多活的挑战。虽然云原生工具非常适合在单个云服务商内,但随着越来越多的应用跨多个云环境部署,它们无法提供所需的互操作性以实现应用到应用的通信和连接。F5分布式云为企业提供了一种基于SaaS的平台,可以快速在任何环境中连接、交付、保护和操作多云网络和应用。以当前炙热的AI为例,F5将分享如何快速部署、保护和运维多云AI应用?
拥有超过20年应用交付领域工作经验,先后就职于多家应用交付领域知名企业,2010年加入F5,主要负责金融及企业应用服务架构的创新研究、方案设计和咨询,帮助多家金融机构设计两地三中心架构,实现敏捷运维,精通私有云,公有云,容器云等架构设计。此外,还担任CTO办公室创新项目Greenhouse在亚太区的大使,支持员工把创新想法变成现实。
近年来,业内机房级事故频发,也为各大互联网公司敲响了警钟,而转转公司还在使用传统的单机房模式,存在巨大的安全风险。基于此,我们通过业内的对标选型,并结合公司的技术现状,选择了一个轻量级的同城多活方案,该方案通过实现基建能力的云多活,使得在发生机房级故障时以可接受成本和时间下弹性扩充资源,实现服务恢复,同时又简化了技术架构和中间件的改造成本,对中小公司有较大的参考借鉴价值。
转转架构部负责人,转转技术委员会执行主席,腾讯云TVP。负责服务治理、MQ、云平台、APM、IM、分布式调用链路追踪、监控系统、配置中心、分布式任务调度平台、分布式ID生成器、分布式锁等基础组件。热爱架构,热爱分享,多次参加行业大会和专题出品。
1、多云或混合云的管理
2、跨云数据同步与管理
3、同城双活架构管理
4、异地多活架构的设计与管理
5、多云或混合云是否会增加企业成本
研讨嘉宾:董晓聪作业帮 基础架构负责人(主持人)
杜云杰转转 架构部负责人,技术委员会执行主席,腾讯云TVP
常 征北京首信科技股份有限公司 资深架构师
李秋博 58商业 架构师
宋子龙叮当快药 事业部总经理
秦贵飞滴滴出行 架构团队/技术专家
封林尚航 研发总监
谭智超58同城 框架组件部负责人
应阔浩自如集团 技术中心负责人
专题研讨会2:大数据平台与应用架构实践
1. 数据湖在快手的应用历程:问题与挑战、技术选型、应用过程、推广策略、生态建设
2. 数据湖在带来的架构升级:规模、效率、成本视角
3. 数据湖在快手的应用案例:CDC数据同步、批流结合业务加速
目前负责生产、社交、孵化数据团队;10年+数据相关工作经验,曾主导滴滴、美团核心业务数据体系建设及公司级BI产品的规划及落地;擅长OLAP技术和数据湖技术并多场景实践落地。
1、离线数据与实时数据治理
2、企业是否需要实时数仓的标准和痛点
3、对于企业实时要求,如何进行技术选型?
研讨嘉宾:王作敬中国银河证券股份有限公司 数据规划总监(主持人)
叶壹力嘉实基金 大数据部总监
张大伟北汽研究总院 资深技术专家
张晓龙高途 大数据平台、数仓负责人
申贤强 腾讯 技术专家
刘俊宏 美团 技术专家
张博亚360 数据开发高级专家
李颖欣腾讯 高级开发
王 毅某央企医疗数字科技公司 研发负责人
王治江京东物流 数据平台部负责人
王军伟京东物流 实时数仓和资产负责人
专题研讨会3:大模型技术平台架构设计
1. 从设计模式到架构模式
2. 对大模型的理解
3. 大模型应用的特点
4. 面向大模型应用的架构模式
曹洪伟,百度DuerOS原首席布道师,原渡鸦科技CTO,目前任联想诺谛智能首席架构师,从事基于大模型的应用系统研发。20多年软硬件产研经验,拥有50多项国内外专利,著有《BREW进阶与精通》,《一书读懂物联网》和《深入分布式缓存》的联合作者,《持续架构》《基于混合方法的自然语言处理》《语音优先》《精益DevOps》《基础设施即代码》《计算机网络问题与解决方案》《区块链应用开发实战》等书的共同译者,日常维护着公众号wireless_com和CSDN同名博客。
1、是否所有企业都需要大模型?
2、面向中小企业如何建立自己大模型?
3、私有大模型的建设面临平台,训练等技术如何突破?
研讨嘉宾:申贤强腾讯 技术专家(主持人)
史海峰方正证券 架构平台负责人
张大伟北汽研究总院 资深技术专家
曹洪伟联想诺谛智能 首席架构师
叶 峰瓜子二手车 技术负责人
周鹏程某公司 AI架构工程师
陈兴振 58同城 AI计算平台负责人
谈元鹏 中国电力科学研究院有限公司
周小三 某头部保险公司 技术负责人
刘尉良 北京福佑多多信息技术有限公司 集团大数据算法负责人
孙 杰企商在线 高级解决方案总监
王少星快手 技术负责人
耿云涛Alluxio 解决方案架构师
专题研讨会4:团队研发效能提升
1. 技术团队,为什么量化管理这么难?
2. 技术团队,如何建立量化的指标管理体系?
3. 技术团队,如何持续迭代提升效能指标?
4. 快狗打车,效能指标体系与效能提升最佳实践
沈剑,快狗打车CTO,互联网架构技术专家,“架构师之路”微信公众号作者。曾任百度高级工程师,58同城技术委员会主席,高级架构师,技术学院优秀讲师,DTCC中国数据库技术大会、SACC中国系统架构师大会专家顾问。
面对移动开发的持续挑战,我们成功地对团队协作流程进行了深度优化,并引入了一系列技术创新,显著提升了需求交付的迅捷性。通过动态化配置工具,我们赋予了非技术人员自主更新页面内容的权利,实现了内容的实时更新,极大地缩短了发布周期。同时,D2C工具的引入,将设计稿自动转化为代码,不仅提高了开发效率,还显著降低了错误率。
孙宇,汽车之家,资深研发工程师。2011年起,他深耕于移动互联网开发领域,积累了丰富的实践经验。2015年加入汽车之家,专注于移动App插件化基础设施的建设。2021年,他转入汽车之家业务组,专注于看车技术的研发,成功结合业务需求和技术特点,提升了用户体验和业务效果。近年来,他着重于提高业务开发效率和质量,通过引入原生动态化、AIGC等先进技术,显著提升了团队的开发效率和代码质量。
研发效能提升之路是一场“无限游戏”,工具技术、协作流程和团队文化三者形成的效能提升三角是一个不断螺旋上升的过程。以业务价值为目标去衡量研发效能提升带来的收益,如今变得越来越重要。研发组织只有在正确的方向上正确地做事,才是实现效能提升地正确之道。如今随着大模型技术在软件工程领域地应用场景越来越丰富,给研发效能提升带来的新的机遇和方向。将通过该主题和你一起探讨如何建立以价值为导向的度量体系,分享研发过程和质量保障实现从自动化到智能化的应用实践案例,以及畅想大模型时代对研发效能带来的跨越性的改变。
360技术中台效能工程部高级产品专家,目前主要负责面向集团研发的效能洞察平台建设。曾在京东担任高级产品经理、架构师和测试开发专家等角色,从事DevOps平台产品规划和自动化测试子平台的建设工作,负责过百人规模团队内部的持续集成和代码质量提升落地。
1、研发团队如何保障产能稳定?
2、软件工程研发质量的指标如何量化?标准如何制定?
3、研发效能的瓶颈点和问题是什么?
研讨嘉宾:侯圣文天翼云 首席专家(主持人)
熊志男 360 研发效能专家
李佳奇 去哪儿网 机票团队TC主席,机票团队AI实践主导者
李秋博58集团 二手车事业部架构师,拍卖业务技术负责人
白永伟东兴证券 架构师
专题研讨会5:AIGC落地实践探索
大模型技术产生了创造性的破坏,大模型的浪潮将持续10年甚至更长,应用层机会巨大,大量的应用将重新做一遍。AIGC对教育将会带来重大的变革:AIGC技术能够生成丰富的教育资源,如教学视频、互动课件和电子书籍等,辅助教师进行教学;AIGC已出现各种个性化教学应用,提供因材施教的学习模式,提高学习效率;AIGC可以让优质教育资源以更低成本的方式获取,从而促进教育公平。有道子曰大模型是国内首个教育领域的垂直大模型,子曰落地了2个大型应用和6个创新类应用,2个大型应用Hi Echo虚拟人口语教练和小P老师(全科答疑AI老师)提供了一对一、苏格拉底式的因材施教教学模式。子曰大模型在教育创新中落地了新应用,并将探索更多的应用落地,为用户提供高效的学习模式。
分享大纲:
1、AIGC简介
2、大模型落地挑战
3、子曰大模型在教育创新中的落地实践
分享要点:1)大模型落地有哪些挑战;2)通过Hi Echo和小P老师两个大型应用,介绍子曰大模型落地特点,如何采用LLM+RAG、大小模型结合、云端结合等方法实现大模型的高质量、低成本落地。
张广勇,高级技术经理,10余年高性能计算从业经验。
曾任浪潮高性能计算研发工程师,负责科学计算、机器学习等行业的高性能应用软件的开发和优化工作,开发过万卡集群分布式应用程序。后续在某创业公司担任高性能计算架构师,负责CPU+GPU异构平台的分布式数据库研发。
2018年1月加入网易有道,担任AI团队高性能计算负责人,负责AI训练性能优化、云侧和端侧AI推理引擎开发和优化工作。实现GPU和NPU多平台上在线或离线NMT、OCR、ASR、TTS、LLM等推理引擎,把AI引擎落地有道翻译、词典笔、学习机等多款产品上。
在这个数字化的时代,AI正以前所未有的速度,迅速地渗入到各行各业中去。其中,传统运维领域也越来越多地借助AI的能力,来解决以往一些传统手段难以解决的问题。接下来,围绕AI在监控领域的落地实践与探索”话题,分享内容主要包含三个部分:传统监控手段遇到的一些场景挑战、结合AI落地的一些案例分析、未来发展趋势和展望。
邢华康,快手技术负责人,曾就职于百度等企业。深耕专注于从事监控、部署、云原生等领域的相关工作,对监控系统、Serverless平台有较为深厚的经验积累。
1、AIGC如何赋能IT行业
2、AI技术目前在行业中案例剖析?
3、AI技术落地到具体行业还有哪些需要完善?
4、BI+AI-构建企业决策新大脑
研讨嘉宾:巴 川竞技世界 首席数据科学家(主持人)
王植萌去哪儿网 技术高级总监、基础架构团队负责人
张广勇网易有道 高级技术经理
王 浩北京数原数字化城市研究中心 高级算法工程师
李佳奇去哪儿网 机票团队TC主席,机票团队AI实践主导者
叶 峰瓜子二手车 技术负责人
王建强前快手 数据科学总监
周小三某头部保险公司 技术负责人
熊志男360 研发效能专家
谢 鹏某公司 部门负责人
周鹏程某公司 AI架构工程师
李 忠58同城 AI Lab应用算法部负责人
李 斌联想(北京)有限公司 IT总监,主任架构师
李 慧竞技世界 资深数据挖掘工程师
刘彦辰京东物流 大数据架构师
谈元鹏中国电力科学研究院有限公司
杨经纬百度工程效能部 研发经理
甄 琰转转 履约业务研发负责人
石 鹏美图 高级运维经理
专题研讨会6:云原生架构设计与行业架构应用创新
在云原生时代下,Kubernetes 和 Service Mesh 等技术基本已经成为主流的技术选型。但是在此架构模式下,业务容器存活时间相对较短,且其 IP 会动态变更,这样就导致曾经简单的反向代理不再适合云原生架构,需要更加动态化的解决方案。同时,企业流量不仅包含南北向,还有东西向服务间流量的管理也变得愈发重要。
本次分享将会介绍云原生时代下,企业流量管理方面的机遇与挑战,如何高度动态化的进行企业 API 和流量管理,涉及 API 的全生命周期管理,东西向和南北向流量管理的解决方案,以及如何在 AI 浪潮中保持技术的先进性。
张晋涛,云原生技术专家, Kubernetes ingress-nginx maintainer,containerd/Docker/Helm/Kubernetes/KIND 等众多开源项目 contributor, 『K8S 生态周报』的维护者,微软 MVP, CNCF Ambassador。对 Docker 和 Kubernetes 等容器化技术有大量实践和深入源码的研究,业内多个知名大会讲师,PyCon China 核心组织者,写有 《Kubernetes 上手实践》、《Docker 核心知识必知必会》和《Kubernetes 安全原理与实践》等专栏。 公众号:MoeLove
1、传统业务架构用云原生架构替代是否可行?
2、云原生架构将是未来技术主导?
3、集中式架构、分布式架构、云原生架构企业如何选?
研讨嘉宾:韩 锋SphereEx 联合创始人(主持人)
张晋涛Kong Inc. 云原生技术专家
童子龙挚文集团 基础平台负责人
董 江中国移动云能力中心 高级系统架构专家
秦贵飞滴滴出行 架构团队/技术专家
卞昊穹中国人民大学 PixelsDB云数仓研发负责人
赵 新奇虎360 云平台基础架构部负责人
白永伟东兴证券 架构师
刘丹冰好未来 服务端高级专家
孔再华民生银行 数据库专家
刘晓鹏滴滴 资深架构师
专题研讨会7:服务架构治理专场
近几年随着知乎业务规模和团队规模增长,新增了大量微服务应用及服务,由于缺少良好服务 建设规划以及明确拆分策略,造成了大量服务存在耦合的现状。单个需求实现往往涉及多个服务开发联调测试,增加了大量的研发成本。本次分享对微服务架构进行分析拆解,指出好服务 的标准,明确微服务的拆分原则和策略,并探索接口优先的架构原则,进行微服务的动态治理 工作,力图逐步解决上述微服务建设过程中的带来的弊端。
闫珠珠 知乎 知学堂平台架构团队负责人。曾担任会员事业部的商业架构负责人,负责订单支付的交易底层建设,知乎实体电商交易,会员订阅交易,三方渠道合作等等。在知乎架构组负责知乎微服务架构的理论培训,以及知乎架构治理方面的探索工作。目前主要负责知乎知学堂平台架构团队,并持续进行微服务的架构治理与研发提效。
行业各公司随着业务体量的增长,都会进行架构微服务的拆分和治理。服务在1个、100个、1万个、10万个不同量级,用户在千万、上亿不同规模阶段,面临的服务治理的痛点也不同。但是在服务治理过程中,各公司都偏向于自己的摸索,大家面临什么共性的痛点问题要治理、做到什么程度算是好的架构、以及怎么治理到好的架构,期望拉通认知、进行深度经验交流,互通有互、促进公司内治理的效率和行业水平提升,进而提升架构水平。
现任快手资深架构师,面向多条业务线、各基础平台推动横向架构治理工作,架构涉及领域:研发效能、监控诊断治理、稳定性系统保障、同城多活/异地多活架构、工程服务架构治理。曾任职VIPKID、猎聘、搜狗等,负责基础架构平台研发、业务系统研发等。
1、业务架构膨胀过程中遇到哪些痛点问题?
2、怎么定义算是好的架构?
3、要从哪些方面治理架构?
4、领域划分、服务规划、工程治理、代码清洁、服务SLA、存储/数据结构、部署多机房容灾等?
5、怎么治理?有什么重点的经验?
研讨嘉宾:刘中兵快手 资深架构师(主持人)
杨 晶上海本来生活信息科技有限公司 技术总监
罗广明字节跳动 服务框架团队架构师、CloudWeGo开源负责人
刘晓成京东零售 技术架构部技术专家
李元哲阿里巴巴-本地生活集团-饿了么 架构师
周磊去哪儿网 火车票技术负责人
邱珍珍去哪儿网 高级JAVA研发工程师
闫珠珠知乎 研发经理
王 帅知乎 技术专家
陈 峻本来生活 研发中心总经理
钟世波去哪儿网 高级服务端工程师
童子龙挚文集团 基础平台负责人