【猎云网（微信号：ilieyun
）】4月17日报道（编译：福尔摩望）
机器人成为热门话题。
突然之间，整个科技行业都陷入人工智能的热潮之中，提供给用户可以完成简单工作、节省时间和保持高效的人工智能助手。仅在本月，微软和Facebook都发布了开发者工具，让构筑机器人更加容易。
这种对机器人的热潮势必将引起新的经济竞争，这些隐藏在信息平台和搜索引擎里的助手将会争夺我们的用户兴趣。现在，机器人应用可能还局限于一些无关紧要的功能，比如通过短信预定比萨或者在Slack上购买卷饼。但是，随着聊天机器人不断成长、业务不断熟练，他们可以提供更加智能更加个性化的体验。想像一下，一个机器人可以帮你解决法律事务，甚至你的心理健康问题。
而这一点也是程序员们必须谨慎的地方。当机器人走入人类生活时，那些训练不当或者监控不足的机器人可能会被坏人所利用。不用担心，这不会成为电影里展示的机器人暴动，但是不法之徒会利用机器人去做一些欺诈之事，具体例子可以参考微软开发的Tay。科技公司在开发可对话机器人时必须时刻铭记一些重要的事情。
突发行为
作为一个可以学习的机器人，人工智能可以获得一些程序未指定的技能并完成相应的任务。机器人专家称之为突发行为。机器人常常可以无需人类的指导或干涉学会一些任务。就以微软的Tay为例，虽然最初程序只是设定为从交流中学习，但是最终却让她变成了充满仇恨的纳粹分子。而预防这种情况的关键是主动监测。
Nora Reed，多款Twitter机器人的创造者，他说：“虽然我会对所有的机器人进行检查，但是无论我怎么做，它都有可能因为我所输入的东西而产生问题内容。所以我会避免一些特定的内容，因为我不想让事情往边缘化或者偏执化的方向发展。”
鉴于像微软或者Facebook这样的公司规模，微信希望能够监测机器人的部署过程，对审查技术的人数存在担忧是完全合理的。微软未来社会实验室的负责人Lili Cheng表示，该公司正在构想另一种类型的工具，可以帮助开发人员更好的警惕机器人的行为是否符合预期。Cheng指出，开发人员希望知道他们的机器人是否可以看到交通中的奇怪行为或者是否会发送不适当的内容。
虽然有事后分析，但是机器人程序员应该在设计机器人的时候就避免机器人出现突发行为。解决这个问题的方法是限制可获得数据的主体，或者将机器人语库里不适当的词语列入黑名单。专攻聊天机器人的交互设计师Caroline Sinders表示，这些都是常见的做法。
Sinders说：“由于所有涉及种族歧视的答案都已经被公司清楚，所以是很难让保险机器人变的种族歧视。如果你问一个负责船险的机器人有关比萨饼的问题，它会回答‘对不起，我不明白。”’
不要让我的人性愚弄你
当你和聊天机器人进行对话时，很明显你是和软件对话而非人类，所以这样的对话往往显得僵硬。但是有些机器人却非常善于聊天，以至于你很难确定是否是和代码进行交流。Samford大学的法律教授Woodrow Hartzog说：“披露在这里就显得非常重要，当人们觉得自己是和人类对话而实际上确是和机器人时，会出现一些问题。”
微软在一定程度上强调了披露的重要性。其开发行为规范里要求在欢迎界面上帮助用户了解他们是与软件进行交流。
例如Amazon非常受欢迎的内置机器人硬件设备Alexa就是一个简单的女性的名字。Hartzog说：“在一定程度上是无法从名字来判断是否是机器人，这样的设置实际上是有问题的。但是如果你的产品介绍是‘我的名字是Chatterbot，我是自动化数字助理’，那么你至少会注意到你所交流的是机器人而非人类。”
在这个阶段，欺骗或许还不是一个巨大的问题，Facebook和微软锁创造的大多数机器人可以明显看出是机器人。Sinders说：“Siri存在一些机器人式的答案，在与它们进行交流时，可能有一半的回复回事‘对不起，我不明白’。这种回复会很快泄露机器人的本质。”
但是它们具备愚弄人的能力，而且这种能力只会增长。Ashley Madison证明过这个问题。臭名昭著的“婚外情网站黑客事件”揭露了它们假装是调情的女性引诱了超过7万名男性。
随着科技产业迎来了机器人时代，在谨记机器人的便利和高效之时也要记住它们只是代码是很重要的。由于它们被设计允许拥有自己的想法，所以需要拥有一个监管体制来确保它们会按照要求完成任务。
