不管人工智能系统有多复杂它仍然需要人类的监督

2020-05-26 10:05:55

人工智能和机器学习模型可以非常出色地工作——直到它们不能工作为止。然后他们往往会一败涂地。据《麻省理工学院技术评论》报道,这是从COVID-19危机中得出的教训。正如作者Will Douglas Heaven所说,消费者和B2B购买行为的突然、剧烈变化“导致了运行在库存管理、欺诈检测、市场营销等幕后的算法出现问题”。以正常人类行为为训练对象的机器学习模型现在发现,正常情况已经发生了变化,有些模型不再正常工作。”

机器学习模型“是为了响应变化而设计的,”他继续说。“但大多数也很脆弱;当输入的数据与他们所训练的数据相差太大时,他们的表现就会很差。假设你可以建立一个人工智能系统然后离开,这是错误的。”

很明显,我们离完全自我管理的系统还有一段距离,如果有的话。如果当前的情况告诉我们什么的话,那就是人类的洞察力将永远是人工智能和机器学习等式的重要组成部分。

最近几个月,我一直在与行业领袖探讨人工智能和机器学习的潜在范围,以及人类需要扮演什么样的角色。我听到的很多东西都预示着铁锈色的剧变。SUSE全球产品和解决方案营销主管杰森•菲彭(Jason Phippen)表示:“总是存在这样的风险,即人工智能系统做出了糟糕的假设,降低了性能或数据的可用性。”“也有可能,来自不良相关性和学习的数据被用来做出不正确的业务或治疗决策。”更糟糕的情况显然是,该系统可以自由运行,它将数据转移到冷或冷的存储器,导致生命或肢体的损失。”

人工智能和机器学习不能简单地放到现有的基础设施或一组过程中。DataKitchen的首席执行官Chris Bergh警告说,现有的系统需要进行调整和调整。“在传统架构中,人工智能和机器学习系统消耗数据环境来满足数据需求,”他说。“我们需要让人工智能来管理数据环境,从而对这种架构进行轻微的改变。”这种转变必须平稳进行,以防止现有系统发生灾难性故障,并实现健壮的系统。”

人工智能和机器学习系统“正在开发,以管理数据环境,必须被视为关键任务系统,开发必须非常谨慎,”Bergh继续说。“由于数据是当今业务决策的驱动力,数据环境将成为业务的核心。因此,即使是数据管理上的一个小失误,也会造成运营时间、其他资源和用户信任的损失,给业务带来巨大的成本。”

Bergh还指出“数据专业人员和人工智能和机器学习专家在人工智能和机器学习和数据管理领域的知识差距。”

最重要的是,有技能的人将永远是管理数据流的关键,并确保输入人工智能和机器学习系统的数据的质量和及时性。数据管理的机制将是自主的,但是数据的上下文需要人的参与。“我们可以看看例子像自动驾驶汽车和数据中心能源优化利用DeepMind谷歌和相当自信,最终会有一些并行数据库管理的机会,”埃里克·布朗说,一名高级主管在西方的技术实践梦露合作伙伴,业务/技术咨询公司。“然而,在不久的将来,完全自主的数据库很可能是一种延伸;人类的参与应该变得更具战略性,并专注于人类最擅长利用时间的领域。”

完全自主的数据环境“可能需要很多年才能实现,”West Monroe技术实践部门的高级架构师Jeremy Wortz表示同意。“机器学习远不能解决复杂而广泛的问题。然而,随着时间的推移,开发窄而深的用例的方法将会有所不同,并将开始自我管理系统的旅程。大多数组织可以采用这种方法,但是需要确保他们有一种方法来列举狭窄的用例,用正确的技术和人才来实现这些用例。”

组织越依赖人工智能,就越需要更多的人来加强和监督进入这些系统的数据,以及正在产生的见解。人工智能和机器学习中80%或更多的工作“通常是为复杂模型寻找数据、翻译、验证和准备,”Brown说。“随着这些模型向更关键的业务用例(欺诈检测、患者生命周期管理)提供信息,对数据管理人员的需求将继续增加。”

布朗说,除了谷歌和亚马逊之外,几乎没有什么数据环境是真正准备好了的。“这对大多数行业来说都是一个巨大的增长机会。数据是存在的,但是协作的、跨职能的组织结构和灵活的数据管道还没有准备好有效地利用它。”

管理人工智能系统并不一定要有数据科学家的学位——所需要的是对学习和利用新技术的兴趣。Nuxeo的产品营销总监艾伦•波特(Alan Porter)表示:“人工智能技术正在推动公民数据科学家的趋势,这将改变游戏规则。”在过去,这些职位需要深厚的技术知识和编程技能。但是随着技术的进步,许多工具和系统为您完成了繁重的技术工作。对这些职位的人来说,拥有技术知识并不是最重要的,相反,公司需要的是具有更强分析能力和具体业务专长的人。”

虽然具有技术和编码技能的人仍然在组织中扮演着关键的角色,Porter继续说,“现在的一大难题是拥有特定业务知识的分析师,这样他们就可以解释所收集的信息,并理解这些信息是如何融入全局的。”分析师还必须善于将他们的发现传达给分析团队之外的利益相关者,以实现改变。”

在他麻省理工学院的文章中,Heaven总结道:“所有事情都联系在一起,大流行的影响已经被广泛感知,触及的机制在更典型的时期是隐藏的。”如果我们正在寻找一线希望,那么现在是时候对这些新暴露的系统进行评估,并询问如何才能更好地设计它们,使它们更有弹性。如果机器值得信任,我们就需要监督它们。”确实。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。