我的业务要不要用人工智能?引入 AI 前你需要评估的(四)

这是一个系列文章,从各个角度来评估一个问题:“我的业务要不要用 AI ?能不能用 AI?”

本期评估角度——黑箱

系列文章列表:我的业务要不要用人工智能?引入 AI 前你需要评估的(一)我的业务要不要用人工智能?引入 AI 前你需要评估的(二)我的业务要不要用人工智能?引入 AI 前你需要评估的(三)

黑箱是人工智能的缺点

并非所有人工智能都是黑箱的,大家说的黑箱主要指当下最热门、效果也最好的「深度学习」。

在我之前写的《一文看懂深度学习》中,举过一个水龙头的例子,从那个例子就可以看出: 深度学习的工作原理不是讲逻辑(基于规则),而是大力出奇迹(基于统计)

我的业务要不要用人工智能?引入 AI 前你需要评估的(四)

大力出奇迹会导致几个结果:

  1. 深度学习只能告诉你「是什么」,但是不能告诉你「为什么」

  2. 没人能预知在什么情况下会出现错误

下面的图片就会展示一些人工智能所犯下的「低级错误」。我的业务要不要用人工智能?引入 AI 前你需要评估的(四)

而最可怕的是:当我们发现问题时,并不能针对具体问题来对症下药。

我们过去的计算机科学大部分是基于规则的,很像一台汽车,我们很清楚的知道这台车是如何组装起来的,所以发现螺丝松了就柠紧,哪个零件老化了就换一个。完全可以做到对症下药。

而深度学习则完全不一样,当我们发现问题时,不能做到对症下药,只能全局优化 (比如灌更多的数据)。

扩展阅读:

《深度 | Nature:我们能打开人工智能的“黑箱”吗?》

https://www.leiphone.com/news/201610/WNAbgmt96Kli7vtd.html

《打破人工智能算法黑箱》

https://36kr.com/p/5123323

哪些问题不适合「依赖」 AI

由于深度学习的黑箱特性,并非所有问题都适合用深度学习来解决。

我们评估哪些问题适合,哪些问题不适合的时候,可以从 2 个角度来评估:

  1. 是否需要解释

  2. 错误容忍度

我的业务要不要用人工智能?引入 AI 前你需要评估的(四)

我们先从这 2 个角度来看看普及率较高的 AI 应用:

我的业务要不要用人工智能?引入 AI 前你需要评估的(四)

我们再看一些 AI 和人力结合的具体应用:

我的业务要不要用人工智能?引入 AI 前你需要评估的(四)

最后看一些不适合 AI 落地的场景:

我的业务要不要用人工智能?引入 AI 前你需要评估的(四)

如果我们把上面提到的案例全部放在象限中,大致如下:

我的业务要不要用人工智能?引入 AI 前你需要评估的(四)

所以,在评估的时候有 3 条原则:

  1. 解决方案越需要解释背后的原因,越不适合用深度学习

  2. 对错误的容忍度越低,越不适合使用深度学习

  3. 上面 2 条并非绝对判断标准,还需要看商业价值和性价比,自动驾驶和医疗就是反例。

案例分析:医疗

人工智能在医疗行业的应用被大家广泛看好,因为医疗行业有很多痛点:

  1. 医疗资源不足,尤其是优质的医生

  2. 医疗资源的分配极度不均衡,中国很多疾病只有北京能治

  3. 其实医生的误诊率也很高(恶性肿瘤误诊率 40%,器官异位误诊率 60%)

目前的人工智能已经可以帮助人类做诊断并提供治疗手段。

奇怪的是: 无论是从可解释性还是从错误的容忍度上来讲,医疗诊断都不适合用人工智能。

但当我们将人工智能作为一种辅助,最终还是靠人类来做判断和下决定时。人类和机器可以形成很好的互补。

我的业务要不要用人工智能?引入 AI 前你需要评估的(四)

工厂的发展也是类似的路径:

  • 一开始机器只做辅助,人力是最重要的

  • 机械化和自动化的程度越来越高,机器的作用越来越大

  • 最终实现无人工厂(已经实现)

我的业务要不要用人工智能?引入 AI 前你需要评估的(四)

所以从「可解释性」和「错误容忍度」上可以评估出来哪些问题不适合「完全依赖人工智能」。

但只要商业价值足够大,还是有解决方案的——人类和机器相互配合,共同解决问题。并且随着技术的进步,不断减少对人力的需求。

扩展阅读:

《人工智能辅助医生“阅片”:诊断准确率已超过 95%》

https://tech.sina.com.cn/i/2018-06-18/doc-iheauxvy7532187.shtml

《人工智能能够帮助快速诊断疾病 但却无法取代临床医生》

http://news.bioon.com/article/6710484.html

《2019 中国人工智能医疗白皮书发布(附下载)》

http://www.cbdio.com/BigData/2019-03/06/content_6037231.htm

我的业务要不要用人工智能?引入 AI 前你需要评估的(四)

来源链接:mp.weixin.qq.com