你正在浏览:电脑问题网 > 电脑资讯 > 业界资讯 > 微软:我们深感抱歉无意进攻推特信息来自泰聊天

微软:我们深感抱歉无意进攻推特信息来自泰聊天

  • 来源:电脑问题网
  • 作者:业界资讯
  • 审核:志强网络科技有限公司
  • 时间:2016-03-26 13:23
  • 阅读:
  电脑问题网-业界资讯 本周早些时候,微软推出了聊天,称为 Tay,作为交互式的例子在人工智能和机器学习能力的进展。目的是在 18 岁到 24 年岁,泰是供用户聊天-公开和通过直接消息-在 twitter 上;事实上,这是整个练习的目的何在,聊天的生物注意到,"你越说聪明的 Tay 获取"。
 
  大多数用户很喜欢把泰放到测试中,广泛的查询及各种主题的对话。但没过多久去可怕的错误的社会实验。
 
微软:我们深感抱歉无意进攻推特信息来自泰聊天
 
  泰的能力,学会从人类的交往活动,以帮助它应付任何主题问题,离开敞开的滥用。如果你跟泰谈禁忌话题,聊天-缺乏任何意义上的道德或社交礼仪-作出最好,但许多反应被证明是非常令人讨厌的会回应。局势只有恶化了,这是用户也能够告诉泰重复他们所说的-,当一些 '重复后我' 的微博内容被喷令人震惊的仇恨情绪,事情很快就失控了。这些具有攻击性的和有时令人不安后, 推被广泛共享没有上下文,微软最终决定采取脱机的聊天。
 
  今天,李彼得,公司副总裁在微软研究,发表了一篇博客文章道歉的情况,并承诺,将从中吸取教训 ︰
 
  我们是无意冒犯和伤害推特信息从泰,,并不代表我们是谁或参选的问题,也不是我们是如何设计泰深感抱歉。泰现在处于脱机状态,我们去看带泰回来只是当我们有信心我们能更好地预测与我们的原则和价值观相冲突的恶意。李说微软没有盲目; 进入泰的部署该公司已经进行了成功部署的中国 — — 其 XiaoIce 聊天在 2014 年推出,并且现在使用的 4000 万人 — — 帮助告知泰的发展。
 
  他边走边对解释 ︰
 
  随着我们的发展泰,我们计划实施大量的筛选并进行广泛的用户研究与不同的用户组。我们应力测试泰下各种条件,要与泰交流积极的经验。一旦我们得到了舒适与泰如何与用户交互,我们想要邀请更多人与她接触。它是通过增加指望我们了解更多的互动和 ai 做得更好、 更好。
 
  显然,事情没去跟微软所希望的那样以下 Tay 发射在 twitter 上的完全一样。李归咎"人 [] 利用漏洞的一个子集的协同攻击"在聊天的溃败。他继续说 ︰
 
  尽管我们已经准备为许多类型的制度被滥用,但我们已为此特定攻击的关键监督。因此,泰啾啾狂放地不恰当,应受谴责的文字和图像。我们全面负责并没有看到这种提前的可能性。我们将采取这一课,以及那些从我们在中国、 日本和美国的经验现在,我们是在努力解决被暴露的泰遇袭的具体脆弱性。
 
  你可以想象得到,微软并没有放弃努力。公司投巨资在机器学习能力过去几年 — — 从其柯塔娜数字助理,其最近收购了 SwiftKey的发展。虽然泰的发射的争议是记忆犹新,它无疑将证明是为了帮助 Microsoft 改进其机器学习模型,以帮助提高其人工智能项目未来发展的重要一课。李的结论 ︰
 
  展望未来,我们有一些挑战困难 — — 和尚未令人兴奋的研究在 AI 设计。AI 系统为生的积极和消极与人交互作用。在这个意义上说,挑战是一样社会因为它们是技术。我们将尽一切可能限制技术漏洞,但也知道我们不能完全预测所有可能的人类互动的误用没有从错误中学习。把 AI 做正确,一个需要迭代与很多人,经常在公共论坛。我们一定要进入每一个非常谨慎和最终学习和提高,一步一步,而做到这一点而不得罪人在过程中的。我们将继续坚定不移地努力学会从这和其他的经验,作为我们努力的方向表示是最好的不是最坏的人性互联网作出贡献。
 
  微软还没有说明何时会返回其聊天 — — 现在,如果你试图与泰进行交互,她会告诉你她是脱机得到一些更新。
 
[本文来自电脑问题网-亚洲最大.最全.最实用的电脑问题技术网站,永久网址http://www.pcwenti.com,转载本文务必注明来源。]