人工智能技术有多危险？
【PChome智能硬件频道资讯报道】近日，由纽约大学、谷歌、微软等组织与机构的公共政策研究者组成的研究组织 AI Now 发布了其第二份人工智能年度研究报告，报告指出了具有“黑箱”特性的AI技术带来的风险。
据介绍，具有“黑箱”特性的 AI 技术及算法系统主要是指深入学习系统（Deep Learning），这是一个在Google、Facebook、Microsoft和Amazon等科技巨头之间流行的AI研究的子领域，它通过汇集数百万次的微小的计算来做出单一决策，例如在图像中识别一张人脸。
报告中提到，正如我们的大脑的信号太过复杂，难以解释一样，深度学习算法的机制也是如此。而若是将这种尚不能完全解释的决策机制引入公共管理领域，则会带来大量的潜在风险。例如在医疗保健领域，匹兹堡大学医学中心的研究发现，一种用于治疗肺炎患者的 AI 系统，缺失了一项对严重并发症的风险评估。
AI NOW在报告中指出：“公共机构使用这些系统会引起人们对于这类法律程序是否正当、合规的担忧。这些系统至少要经历公共审计、测试及审查的过程，并符合相应的问责标准。”
编辑点评：近几年，AI技术正迎来飞速的发展，但与此同时，众多科技界大佬中不乏警告的声音。鉴于这项技术的巨大潜能，提早进行相关监管和规范，避免这项技术被滥用是十分必要的。
网友评论