科技动态

用人类智慧应对人工智能挑战

字号+ 作者:约翰•桑希尔 来源:FT中文网 2018-01-31 14:28 我要评论( )

桑希尔:将人工智能的积极贡献最大化,将其有害后果降至最低,将是我们这个时代最艰巨的公共政策挑战之一

关于人工智能的变革威力,人们提出了很多大胆的设想。但我们也有必要听听一些严重警告。上月,微软研究院(Microsoft Research)首席研究员凯特•克劳福德(Kate Crawford)警告称,如果被威权政府滥用,威力与日俱增的人工智能可能会酿成一场“法西斯梦”。

克劳福德在SXSW科技大会上表示:“就在我们看到人工智能的发展速度呈阶梯型上升时,其他一些事情也在发生:极端民族主义、右翼威权主义和法西斯主义崛起。”

她表示,人工智能可能带来庞大的数据登记册、针对特定人口群体、滥用预测型警务以及操纵政治信仰。

克劳福德并不是唯一对强大的新技术被错误使用(有时以意想不到的方式)感到担忧的人。英国政府首席科学顾问马克•沃尔波特(Mark Walport)警告称,在医学和法律等涉及细腻人类判断的领域不假思索地使用人工智能,可能带来破坏性结果,并侵蚀公众对这项技术的信任。

尽管人工智能有增强人类判断的潜力,但它也可能带来有害的偏见,并产生一种错误的客观感觉。他在《连线》(Wired)杂志的一篇文章中写道:“机器学习可能会内部化在量刑或医疗历史中存在的所有隐性偏见,并通过它们的算法外部化。”

就像一直以来的情况那样,识别危险仍然要比化解危险容易得多。没有底线的政权永远不会遵守限制人工智能使用的规定。然而,即便在正常运转的基于法律的民主国家,框定适当的回应也很棘手。将人工智能可以做出的积极贡献最大化,同时将其有害后果降至最低,将是我们这个时代最艰巨的公共政策挑战之一。

首先,人工智能技术很难理解,其用途往往带有神秘色彩。找到尚未被行业挖走、且不存在其他利益冲突的独立专家也变得越来越难。

转载请注明出处。

1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。

相关文章
  • 人工智能发展的S曲线

    人工智能发展的S曲线

    2018-01-31 14:25

网友点评