鼓励行为良好的人工智能的规则


技术的进步减少了全球贫困,延长了我们的寿命,并提供了信息高速公路。但是人工智能的最新发展让艾伦 · 芬克尔感到疑惑。


IStock/Getty Images Plus

当我想起 1962年苏联和美国之间的核对峙时,我的脊椎仍然颤抖。九岁时,面对两位准备按下按钮的领导人,我感到无助。

这是疯狂的 -- 相互保证的毁灭 -- 但是理智占了上风,到 1960 末,我们已经缓和了。

从那以后的几十年里,我对科技令人眼花缭乱的发展感到舒服减少全球贫困,给了我们更长的寿命,提供了信息高速公路,创造了我的零排放特斯拉。

是的,有令人失望的地方 -- 例如,互联网并没有提高谈话的水平,而是创造了偏执的回音室和谎言和骚扰的论坛。

但是现在,自 1960 以来,第一次有什么东西在挠我的烦恼珠: 人工智能。我担心人工智能有能力破坏我们的人权和公民自由。

虽然人工智能自 1950 以来一直处于幕后发展阶段,并在过去几年中越来越多地被企业和政府实施,但我相信随着人工智能未来的到来,2018 将会下降。

我很清楚以前令人印象深刻的发展,如人工智能AlphaGo击败世界围棋冠军,但我不玩围棋。然而,我确实依赖我的行政助理。所以今年,当谷歌公开展示数字助理命名双工打电话给一家美发沙龙为老板预约,用柔和的女性声音说话,充满了人类的停顿和口语,我知道艾未未已经到来。

不久之后,IBM 证明了项目辩手与熟练的人争论一个无脚本的话题。观众中的一些人判断项目辩手获胜者。

人工智能最简单的定义是计算机技术,它可以完成通常需要人类智能的任务。更正式地说,人工智能是机器学习算法、大数据和培训程序的结合。这模仿了人类的智力: 先天能力、获取知识和教师的结合。

也像人类一样,当涉及到人工智能时,有好的,坏的和丑陋的。

好的: 数字助理,医学 AIs 诊断癌症,卫星导航可以找出最好的回家的路,系统可以知道你的信用卡被欺诈性地使用了。

缺点: 偏见,比如在 COMPAS 风险评估软件中发现的偏见,该软件用于通过预测被告再次犯罪的可能性来帮助美国法官确定判决。经过两年的评估,COMPAS 被发现高估了黑人被告的再次犯罪率,低估了白人被告的再次犯罪率。我认识的每个人都有偏见,所以当人工智能有偏见时,为什么要担心呢?因为它很有可能被数百万人复制和出售,从而在整个地球上传播偏见。

丑陋: 思考奥威尔1984。现在看看中国的社会信用评分,那里的公民在街上被监视,在家里被监视,因为乱扔垃圾或迟交账单而失去分数, 结果被剥夺了银行贷款或旅行的权利。

那么,我们如何利用好的方面,但避免坏的方面和丑陋的方面呢?我们必须积极管理人工智能融入人类社会,就像我们在电力、汽车和药品方面所做的那样。澳大利亚可以带头,就像我们在试管受精方面所做的那样,它成为第一个整理和报告出生结果的国家,也是第一个发布国家伦理指导方针的国家。为了获取利益并避免陷阱,需要进行公开讨论。7月,澳大利亚人权委员会启动一个项目关于人权和数字技术。在我的主题演讲中,我最后提出了一个问题: “我们想成为什么样的社会?”

随着辩论的展开,这里有一些初步建议。

首先,对商业人工智能采用自愿的、消费者主导的认证标准,类似于咖啡的公平贸易标志。我称之为 “图灵证书”,以纪念被迫害的人工智能之父艾伦 · 图灵。它不会阻止罪犯和流氓国家,但它将有助于我们选择购买的智能手机和家庭助理。

第二,采纳澳大利亚内政部部长提出的 “黄金规则,Michael Pezzullo: 任何人都不应被计算机而不是一个负责任的人剥夺其基本权利、特权或权利。

第三,永远不要忘记人工智能实际上不是人类。这是一项技术。我们成功了。我们负责。因此,我提出了 “白金规则”: 每个人工智能都应该有一个关闭开关。

艾伦 · 芬克尔将与机器学习专家安东 · 范登 · 亨格尔教授和数据政策专家艾伦 · 布罗德一起参加圆桌讨论2018年10月5日在澳大利亚皇家学会总部。点击这里来订票

  1. https://www.economist.com/international/2017/03/30/the-world-has-made-great-progress-in-eradicating-extreme-poverty
  2. //www.hibernitel.com/technology/world-s-greatest-game-playing-computer-thrashed-by-its-next-gen
  3. https://ai.googleblog.com/2018/05/duplex-ai-system-for-natural-conversation.html
  4. https://ai.googleblog.com/2018/05/duplex-ai-system-for-natural-conversation.html
  5. https://www.research.ibm.com/artificial-intelligence/project-debater/
  6. https://www.theguardian.com/technology/2018/jun/10/artificial-intelligence-cancer-detectors-the-five
  7. https://www.penguin.com.au/books/1984-9780141036144
  8. https://www.penguin.com.au/books/1984-9780141036144
  9. https://www.humanrights.gov.au/our-work/rights-and-freedoms/projects/human-rights-and-technology
  10. https://www.homeaffairs.gov.au/about/corporate/who-we-are/senior-staff/michael-pezzullo
  11. https://www.eventbrite.com.au/e/artificial-intelligence-gift-from-the-gods-or-a-pandoras-box-tickets-49834437143
    最新故事
    更多更多文章