谈谈在B端落地第三方大模型的步骤

一、引言 

如果您需要相关服务，可以找天津天迅达科技有限公司，我们的业务有Web开发、iOS APP、Android APP、微信开发、HTML5开发等，天迅达——您身边的App个性化定制专家！

 奇绩创坛创始人兼CEO陆奇博士曾经提出过“三位一体”的结构模型：“信息 + 模型 + 行动”。其解释了人类、组织等有机体的运作方式，也可用于概括互联网产品的组成结构： 图片引用于陆奇《我的大模型世界观》 对于 B端，我们可以采取“信息+模型+行为”的架构，对其进行规划并运用人工智能功能。

以企业生产的数据为输入，对其进行规则汇总，再由该模型对其进行预测，从而使该系统能够对企业进行有效的决策。比如，我们可以使用人工智能的语言处理能力来完成翻译，也可以使用人工智能对客户服务问题的汇总来完成客户服务的智能化。最终目的是利用人工智能技术，为 B端企业提供更低的成本、更高的效率。

 随着生成性人工智能的兴起，很多中小企业都想通过引入第三方的大规模建模功能，实现“再用 AI制造”的目标。大部分 B端的产品经理都被上级要求使用已有的大规模人工智能模型，以满足相应的需求。 但是，人工智能在实际应用中是否真的适用于自己的业务、怎样选取合适的大规模模型、怎样在保证实际应用效果的同时，避免目前人工智能在应用中遇到的不可控制问题等都是亟待解决的问题。文章就如何实现人工智能的落地，做了一些思考。 

二、落地难点 

但实际上，大部分的中小型企业都不具备自己的大模型培训能力，在实际应用过程中，往往要依靠外部供应商的帮助才能完成需求的开发。这样的话，就会出现以下几个问题，会对企业的人工智能应用产生影响：

 1）AI的黑盒特性导致的不可控问题 当前人工智能技术还处在二代系统的阶段，与 AGI相比还有很大差距。所以，人工智能在功能上还存在着一些限制，例如： 回答的可靠性：因为人工智能是对现有知识的精炼与归纳，所以在面对新的问题与情景时，人工智能不一定能够给出有效的回答。特别是对于垂直领域的人工智能，它不一定能够提供有价值的信息。 答案的合规性不确定：AI是一种基于统计学的结果预测，本质上没有明确的是非判断能力。因此，在涉及道德、法律等层面的问题上，AI无法进行甄别或判断，容易给企业带来负面影响。 

2）“大模型百家争”下的技术方案不确定性 目前，世界上一些著名的大公司正在大力开发大数据，其中就包括了“文心一言”、“通义千问”、“盘古”、“星火”等几十个大公司。然而，由于缺乏对大数据的认知，导致在人工智能应用中存在“该用哪个大数据”、“怎样用哪个大数据”等问题，加大了人工智能应用决策的成本。 图片来源于网络

 三、实施步骤 

人工智能技术在 B端的应用场景非常多，而本课题将重点探讨如何找到一种切实可行的方法，并将其付诸实践，以应对第三方人工智能技术带来的不可控性与不确定性。下面是我个人对“落地”步骤的概括：

 1. 快速验证可行性 在确定了将人工智能应用到 B端系统中的特定任务之后，就需要对其进行迅速的可行性验证。虽然还没有决定要选择哪一个规模更大的模式，但是可以先用一个比较好的规模来确认，然后再让技术组和业务组来做评估。要快速确认，你可以建立一个能够快速确认商业确认的示范版本。为了避免开发成本的浪费，本文提出了一种基于开放源码的、只需要付出一定代价就可以实现的技术方案。这样一来，就可以大大的降低研发的成本，提升研发的效率。 其中测试的时候有两种验证方法可供尝试：

 1）角色扮演法：在 B端，测试人员作为一个使用者，在 B端，仿真服务的互动过程，并输入相关的数据，来判断 AI反馈的数据是否满足服务需求。比如，可以建立一个模型，让使用者向一个智能机器人提出一个问题，然后看 AI反馈的问题能否达到服务需求，然后再根据这个问题来判断 AI能否为这个场景提供一个解决方案。

 2）数据模拟法：从网上收集到的实际样本资料，再经过人工筛选，找出有代表性的个案资料。然后，将所得到的数据成批地输入人工智能模型，得到最终的结果，并对其进行大规模的评价。

 2. 建立指标体系进行模型选型 在确认了 B端可以实施人工智能技术后，接下来我们要做的就是评估该技术的存取效果。在这里，我们需要以业务梳理模型评估体系为基础，使用量化的指标，便于对多个大模型进行对比，从而能够综合考量，最后选择出一个合适的大模型提供商。综合指数如下： 

1）召回率 在数据挖掘过程中，经常使用的一种测量方法，即“查全率”。简单来说，就是“你能从原来的数据中，得到多少数据”。

 2）准确率 精确度是一个概念，在模型的训练中，用来测量模型的预测值是正确的。说白了，就是看模型的准确度。 当数据规模较大时，召回率与精度之间存在某种矛盾。想要做出全面的判断，失误的可能性就更大了。而要做出准确的判断，就必须要有一些情况。 回收效率和精确度是影响大规模数据模型服务能力的关键因素。 

3）安全性 由于是第三方服务，B端企业需要考虑到数据的安全问题，评估模型能否保护用户数据的隐私和安全，并符合相关的数据保护法规和标准。 

4. 确保兜底逻辑，规避AI的不可控风险 当涉及到 C端的商业场景时，人工智能的输出结果会产生难以控制的后果。为此，本公司应采取如下应对措施，以防范可能出现的风险。

 1)构建自主的人工智能结果侦测系统，截取无效的输出结果：构建人工智能结果侦测系统，可以侦测到哪些内容会对服务有影响。利用词典、正规匹配等技术，我们能够识别并截取人工智能产生的假结果。如果有错误，则反复进行人工智能产生逻辑，直到得到正确的结果。

 2)针对对使用者有影响的内容，提出了“人力保护”机制：对于对使用者没有直接影响的内容，我们可以直接使用人工智能的评判结果。 但是，对那些可能会影响到用户的内容，还是要靠人来控制。比如，在审核过程中，我们可以采用“机审”与“人审”相结合的方式，利用“机审”来完成对内容的初步筛选，利用“人审”来解决人工智能不能精确判定的问题。再比如，在“智慧客服”这一部分，我们可以通过“人工入口”的方式，来保证在机器处理不了的时候，能够及时地向人求助，同时也不会影响到用户的使用体验。 

四、总结 

总之，第三方大规模模式的使用会给中小企业在 B端的实施带来很多困难，比如，第三方技术的不可控，会给中小企业在 B端的实施带来极大的困难。 要解决这些问题，就需要在选择落地方案时，采用建立评估系统的方法，对落地方案进行快速的可行性论证和筛选。与此同时，为了应对人工智能技术可能存在的隐患，他必须做好两手准备。

 总结：

天津天迅达科技有限公司从业多年，积累丰富项目经验，能帮助您做出您想要的产品。

 以上所有设计图和部分文字均来自网络，如有侵权，请call我删除，感谢~ 

天津天迅达科技有限公司经过多年来对APP、小程序、以及网站建设的探索，已经帮助每一个客户快速开发出属于自己的APP、小程序、网站，是万千企业之选。

 标签：天迅达科技 天津APP开发 天津网站建设 网站建设