光速美国：AI基础设施层的未来在哪

在过去的十年里，美国老牌基金 Lightspeed 一直在 AI/ML 领域与杰出的公司、他们建立的平台以及他们服务的客户合作，以更好地了解企业是如何思考 Gen-AI 的。具体来说， Lightspeed 研究了基础模型生态系统，并提出了如“最好的模型会有赢者通吃的动态吗？”和“企业的使用案例都默认调用 OpenAI 的 API，还是实际使用会更多样化？”等问题。

如果您需要相关服务，可以找天津天迅达科技有限公司，我们的业务有Web开发、iOS APP、Android APP、微信开发、HTML5开发等，天迅达——您身边的App个性化定制专家！

 一、模型生态系统分类

 根据我们的学习，我们相信 AI 中即将出现一场模型的寒武纪大爆发。开发者和企业会选择最适合“要完成的任务”的模型，尽管在探索阶段的使用可能看起来更为集中。企业采纳的可能路径是使用大型模型进行探索，随着他们对使用案例的了解逐渐增加，逐渐转移到生产时使用的较小的专用（调整+提炼）模型。

下图概述了我们如何看待基础模型生态系统的演变。 类别一：“大脑”模型 这些是最好的模型，代表着模型的最前沿。这是那些令人兴奋的神奇演示的来源。开发者在尝试探索 AI 为他们的应用程序所能做到的极限时，通常首先考虑的是这些模型。这些模型的训练成本高，维护和扩展复杂。开发者目前正在这些模型上进行实验，并评估 AI 在企业应用程序中的使用。 但是，通用模型使用昂贵、且推理延迟高，并且对于定义明确的有约束的使用案例可能是过度的。

第二个问题是这些模型是通才，可能在专业任务上不太准确。(可参考这篇 Cornell 的论文) 最后，在几乎所有情况下，它们也是黑盒子，对于正努力利用这些模型而不放弃其数据资产的企业来说，这可能会带来隐私和安全挑战。 

类别二：“挑战者”模型 这些同样是高能力的模型，其技能和能力仅次于前面的通用大模型。Llama 2 和 Falcon 是这一类别中的最佳代表。它们通常与从训练通用模型的公司出来的 Gen“N-1” 或 “N-2” 模型一样好。 类别三：“长尾”模型 这些“专家”模型。它们被建造用来为一个具体的目的服务，比如分类文档、识别图像或视频中的特定属性、识别业务数据中的模式等。这些模型灵活，训练和使用成本低，可以在数据中心或边缘运行。

 二、基础适配与实用案例

 尽管仍然处于早期阶段，但我们已经看到一些领先的开发团队和企业已经以这种细致的方式思考生态系统。人们希望将来使用与最佳可能的模型相匹配。甚至使用多个模型来服务一个更复杂的使用案例。 评估哪个模型/模型用于使用的因素通常包括以下内容： 数据隐私和合规性要求：这影响了模型是否需要在企业基础设施中运行，或者数据是否可以发送到外部托管的推理端点 模型是否允许微调 所需的推理“性能”级别（延迟、精度、费用等）

 三、机会在哪里？

 1. 模型评估框架：

企业将需要获得工具和专业知识，以帮助评估针对哪种用例使用哪种模型。开发人员需要决定如何以最佳方式评估特定模型是否适合 “待完成的工作”。评估需要考虑多个因素，不仅包括模型的性能，还包括成本、可实施的控制水平等。

 2. 运行和维护模型：

帮助企业训练、微调和运行模型（尤其是第三类长尾模型）的平台将会出现。传统上，这些平台被广泛称为 ML Ops 平台，我们预计这一定义也将扩展到生成式人工智能。诸如 Databricks、Weights and Biases、Tecton 等平台都在迅速朝这个方向发展。

 3. 增强系统：

模型，尤其是托管的 LLM，需要检索增强生成以提供理想的结果。这就需要做出一系列辅助决策，包括： 数据和元数据提取：如何连接到结构化和非结构化的企业数据源，然后提取数据以及访问策略等元数据。 数据生成和存储嵌入：使用哪种模型为数据生成嵌入。然后如何存储它们：使用哪种矢量数据库，特别是基于所需的性能、规模和功能？ 

现在有机会建立企业级 RAG 平台，从而消除选择和拼接这些平台的复杂性： 操作工具： 企业 IT 将需要为工程团队建立防护栏、管理成本等；他们现在处理的所有软件开发任务现在都需要扩展到人工智能的使用。IT 部门感兴趣的方面包括 可观察性：模型在生产中的表现如何？它们的性能是否随着时间的推移而提高/降低？是否存在可能影响未来版本应用程序模型选择的使用模式？

 安全性：如何保证人工智能本地应用程序的安全。这些应用程序是否容易受到需要新平台的新型攻击载体的攻击？ 合规性：我们预计人工智能原生应用和 LLM 的使用将需要符合相关管理机构已经开始制定的框架。这是对现有的隐私、安全、消费者保护、公平等合规制度的补充。企业将需要能够帮助他们保持合规、进行审计、生成合规证明及相关任务的平台。

总结：天津天迅达科技有限公司从业多年，积累丰富项目经验，能帮助您做出您想要的产品。
以上所有设计图和部分文字均来自网络，如有侵权，请call我删除，感谢~
天津天迅达科技有限公司经过多年来对APP、小程序、以及网站建设的探索，已经帮助每一个客户快速开发出属于自己的APP、小程序、网站，是万千企业之选。
标签：天迅达科技 天津APP开发 天津网站建设 网站建设