不信任AI?不妨打开AI“黑匣子”

Translation by infosws 文章摘要:尽管AI前途广阔,但在发展过程中也遇到了一些发展痛点。如果人们不知道AI是如何做出决策的,那么人们就不会信任AI。 尽管AI前途广阔,但在发展过程中也遇到了一些发展痛点。除了笔者在之前文章中提及过的偏见问题,还有一个“黑匣子”问题:如果人们不知道AI是如何做出决策的,那么人们就不会信任AI。 事实上,缺乏信任是很多AI技术失败的关键,如IBM Watson,尤其是Watson for Oncology。 专家们很快就知道了问题所在。“IBM尝试向癌症医生推广他们的超级计算机程序,但是这是一个公关灾难,”谷歌UX研究人员兼 Avantgarde Analytics的创始人Vyacheslav Polonski(博士)说道:“Watson for Oncology的问题仅仅在于医生并不信任它。” 当Watson的结果和外科医生得出的结果一致时,它能够证实这一情况;当Watson的结果和医生的不一致时,医生只会认为它是错误的。 如果医生知道它是如何做出结论的,那么结果可能会大相径庭。“对于大多数人来说,AI的决策过程通常都是很难理解的,”Polonski说道:“和我们不理解的事物互动会导致人们产生焦虑,就好像我们失控了。” Read the entire article at http://headline.infosws.cn/20180917/11529.html

未来已黑,被集体看衰的IBM难再翻身吗?

By cniteyes IBM 近年来的财报也不争气,根据 IBM最新财报连续22个季度下滑,创下 2002 年一季度以来最低水平,虽然云计算收入有增长的趋势,但是被投资者们寄予厚望的 Watson没能将IBM从日益萎缩的传统业务的泥淖中拯救出来,财报表现一踏糊涂,没有勾勒出当初 Watson 发展所预设的美好蓝图。(Forbes)评论专员 Jason Bloomberg 更是指出,Watson 在 2011 年赢得智力竞赛节目《危险边缘》(Jeopardy!)时,博得世人的无尽赞誉,可是时至今日,IBM 只持续地做有限的改进,而不是推出大幅改进的「Watson 2.0」,IBM 正已然从AI 领域的领导地位中滑落,拱手让给了一批极其创新的公司。 Read the entire article at http://www.cniteyes.com/archives/32571