为8千名产品工程师构建企业级生成式AI解决方案
为8千名产品工程师构建企业级生成式AI解决方案
关键字: [Amazon Web Services re:Invent 2024， 亚马逊云科技， 生成式AI， Tell Me， Product Design Enhancement， Knowledge Access， Data Summarization， Enterprise-Level Ai， Scalable Architecture， Data Ingestion Strategies， Generative Ai Assistant， User Experience Optimization， Data Vectorization Techniques， Ai Maturity Framework]
导读
探索Capgemini和亚马逊云科技如何为一家制造公司开发了一个由生成式AI驱动的企业级对话式AI平台，以加速超过8，000名工程师的技术研究和产品开发。Capgemini和亚马逊云科技共同为这家制造公司转变产品研究和开发能力，将数百万份研究文档整合到一个直观的企业级对话式AI平台中，使工程生产力提高了近10倍。本演示由亚马逊云科技合作伙伴Capgemini为您带来。
演讲精华
以下是小编为您整理的本次演讲的精华。
在创新蓬勃发展的领域，科技先锋卡珍公司与云计算巨头亚马逊云科技展开了一场非凡的合作。他们的使命是解决全球电子制造业巨头TE Connectivity面临的复杂挑战。TE Connectivity在三大洲设有业务，年收入高达160亿美元。这个强大的联盟旨在赋能TE Connectivity的8，000至10，000名产品工程师，他们负责持续改进和定制每年制造的2，350亿件产品。
TE Connectivity面临的复杂性是多方面的。大量文档分散在各个地点，这给新工程师寻求获取企业集体知识带来了重大障碍。加之主题专家(SME)的有限可用性，他们的时间主要用于解决关键问题。因此，这些工程师往往需要大量培训才能达到一定的熟练水平，从而影响了他们的生产力和分析能力。
在短时间内访问大量结构化和非结构化数据，这是一项超出人类能力的任务。此外，数据分类级别因角色而异，高级主管、架构师、经理和工程师可以访问不同的数据集，在将这些多样化的数据源整合到人工智能领域时增加了另一层复杂性。
认识到这些挑战，TE Connectivity寻求一种解决方案，可以大幅提高产品研究效率、加快数据收集和总结、并为产品改进提供建议。此外，他们还希望改善设计周期寿命、促进识别替代组件(如适合特定温度或速度条件的更可持续选择)、并建立企业知识的一站式商店。
卡珍公司开发了基于生成式人工智能的“Tell Me”平台，旨在简化信息检索并加快工程和产品开发团队的决策过程。在1.0生产版本中，“Tell Me”摄取了250万份文档，并采用了受流行聊天工具启发的简单直观的用户界面。安全访问是一个基本要求，该平台跨多个亚马逊云科技区域进行扩展，以确保全球可用性和可扩展性，利用Amazon Lambda和Amazon Lambda函数等亚马逊云科技服务。
在1.1开发阶段，卡珍公司与亚马逊云科技合作进一步增强了“Tell Me”。宏伟目标是摄取高达7，500万份文档，下一个目标定为800万份。用户界面经过精心设计，指导用户如何有效提问，同时提供引用以建立信任和透明度。
一个关键新功能是能够上传文件，允许用户与尚未矢量化并纳入架构的文档进行交互并获取信息。这一创新补充确保了访问最新信息，增强了用户体验并确保了无缝知识共享。
此外，卡珍公司旨在将“Tell Me”转变为一个通用的人工智能助手，能够处理超出TE Connectivity数据范围的查询，如规划前往拉斯维加斯的亚马逊云科技 re:Invent等活动。这一扩展是通过智能地根据所提问题将查询路由到不同数据库而实现的，利用了Amazon Bedrock代理等亚马逊云科技服务的强大功能。
在演示过程中，现场演示展示了“Tell Me”的高级搜索功能，用户可以快速访问结构化和非结构化数据，无论是搜索特定零件号、技术指南还是复杂文档。该平台不仅提供相关结果，还总结了复杂文档并链接到原始来源，使用户在必要时可以深入探索。数据使用Amazon OpenSearch高效存储和检索。
数据安全是一个至关重要的考虑因素，TE Connectivity实施了从一般访问到高度限制访问的四个安全级别。基于角色的访问控制确保用户只能查看他们被授权访问的文档信息，从而保持与公司政策的合规性并保护敏感数据。
“Tell Me”旨在实现扩展，支持8，000至10，000名日常用户跨区域使用，并计划扩展到为全球80，000名TE员工服务。通过将来自多个来源的数据整合到一个平台，“Tell Me”帮助TE Connectivity消除了冗余工具，简化了运营，提高了效率，最终实现了更快的决策、安全的信息访问和跨团队的生产力提升。
“Tell Me”背后的架构是一个工程奇迹，结合了亚马逊云科技服务，智能地将查询路由到适当的数据源，无论是存储在Amazon OpenSearch中的TE Connectivity数据还是外部来源。采用了数据摄取、预处理、矢量化、分块、索引和重新索引策略，以准备数据以便高效检索和响应生成。
从一开始，可扩展性和经济效益就是关键考虑因素，架构建立在Amazon Lambda函数之上，并利用了跨区域推理功能。这一功能确保了无缝地将流量路由到其他区域，而无需数据离开VPC，保持了一致且快速的响应，同时只需按需付费。
“Tell Me”平台的成果超出了预期，用户接受率高达72%，超过了最初50%的目标。这一成功可归因于直观的用户界面、提示工程以及作为产品工程师编码伙伴的能力。
重要的一个经验教训是，在开发生成式人工智能应用程序时，数据策略至关重要。适当的数据维护、矢量化和选择性数据存储和刷新对于确保解决方案的有效性和经济效益至关重要。
卡珍公司还强调考虑人工智能成熟度状态和应用程序所利用的能力的重要性。他们开发了一个四级能力模型:感知(观察和识别问题)、分析(解释问题发生的原因)、规定(提供解决方案)和闭环人工智能(自主解决)。
演示最后播放了TE Connectivity首席转型官Philip Gilchrist的录制讯息。他对“Tell Me”项目表现出了热情，认为该平台有望成为TE知识产权知识的主要知识库，代表了公司跨6，600个不同数据库和个人笔记本电脑的7，500万份文档的集体工程专业知识。
Gilchrist强调，在这片广阔且分散的数据景观中，找到俗语中的“针在棉垛里”是一个重大挑战。“Tell Me”旨在通过在几秒钟内提供相关信息的即时访问来解决这一挑战，而不是花费数小时筛选无关文档。他赞扬了团队对理解的反应灵敏、彻底和预见性，称卡珍公司和亚马逊云科技是TE Connectivity的正确解决方案。
在这场非凡的合作中，“Tell Me”平台成为一股变革力量，解决了TE Connectivity产品工程师面临的复杂挑战。通过高级搜索、总结和安全数据集成功能，“Tell Me”实现了高效的产品设计、知识共享、数据访问和决策。这一努力的成功凸显了生成式人工智能在简化运营、提高生产力和促进大型企业创新方面的变革潜力，为技术与人类创造力融合、开拓超乎想象的工程可能性铺平了道路。
下面是一些演讲现场的精彩瞬间：
演讲者介绍了一个已在生产环境中为客户实施的特定用例。
该业务旨在实现产品研究X%的增长，加快数据收集、总结和产品改进建议的速度，同时改善设计周期寿命并为特定应用程序寻找可持续的组件，最终努力成为企业的一站式知识中心。
推出了一款用户友好、安全且可扩展的人工智能应用程序，该应用程序摄取了250万份文档，并在多个亚马逊云科技区域提供了直观的类ChatGPT界面。
亚马逊云科技的跨区域复制功能可以无缝地在高流量节流期间跨区域路由流量，确保服务不间断，成本低于预配置的吞吐量。
推出了一个可扩展的平台，具有用户友好的界面和提示工程功能，在8000名工程师中获得了72%的接受率，并在创纪录的时间内提供了编码伴侣体验。
Andy Jassy在其reInvent 2024主题演讲中强调，拥有健全的数据策略和适当的数据维护对于成功的生成式人工智能应用程序至关重要。
一段强有力的视频信息捕捉了reInvent2024演讲中的一个关键时刻。
总结
卡珀济尼公司着手开展了一项开创性的努力，为全球电子制造巨头T-Connectivity(拥有8，000名产品工程师)构建了一个企业级的生成式人工智能解决方案。挑战在于通过利用人工智能的力量从跨多个位置和数据分类的大量结构化和非结构化数据存储库中提炼知识，从而简化产品设计和研究流程。
“Tell Me”平台应运而生，成为一个巧妙的基于人工智能的搜索和总结平台。最初摄取250万份文档，计划扩展到7500万份，“Tell Me”利用亚马逊云科技服务(如Lambda、OpenSearch和Bedrock)智能路由查询并提供相关的上下文响应。其直观的用户界面、安全访问和跨区域复制确保了可扩展性、节俭性和稳定的性能。
“Tell Me”交付了72%的接受率，超出预期，已成为企业知识的一站式商店，加速了产品研究、优化了设计周期，并成为工程师的编码伙伴。然而，其成功有赖于健全的数据策略、矢量化技术以及与卡珀济尼人工智能成熟度模型相一致的分阶段方法，从感知到闭环人工智能。
卡珀济尼的愿景是不断发展“Tell Me”，使其成为一个能够处理从产品设计到旅行规划等各种查询的生成式人工智能助手，通过智能利用多种数据源和人工智能功能，最终改变企业利用知识和推动创新的方式。
亚马逊云科技（Amazon Web Services）是全球云计算的开创者和引领者。提供200多类广泛而深入的云服务，服务全球245个国家和地区的数百万客户。做为全球生成式AI前行者，亚马逊云科技正在携手广泛的客户和合作伙伴，缔造可见的商业价值 – 汇集全球40余款大模型，亚马逊云科技为10万家全球企业提供AI及机器学习服务，守护3/4中国企业出海。
