我对今天沙龙的题目很感兴趣。
天则是茅老带头，同盛老师、张老师等人创办的。所以说我对天则智库很爱护，同时我对天则的人（知名学者、教授）很钦佩，他们各自表达了不同的学术见解。因此，今年的沙龙会议是我省吃省用之后赞助的，而且今天这个题目也是我出的，我昨天晚上从上海过来，今天有几位大师在这里发言，也是我向他们学习的机会。
关于人工智能的发展问题，是不可逆转，要发展下去的。其实机械手早就产生，中国人的“筷子”就是延长的、原始的机械手。
我认为人工智能也是人类一大划时代的发明，对于人工智能或者称为智能机器，我感兴趣的倒不是它发展到什么程度，而是发展到一定程度之后，是不是对我们人类一直有奉献的，这是我要思考的第一个问题，有很多人都这么说，尤其是霍金在他逝世前就讲这个问题，地球和人类的毁灭，其中一种可能就是机器人要杀掉你。机器人其实是个计算机，或者是计算机的延伸，它的“大脑”发展到某个阶段比我们人类更发达，那时人类仍旧要“消费”，但机器人不需要“消费”，所以机器人认为人类是“多余人”，杀掉你，结果变成机器人世界了。假如这种说法是可能的话，人类肯定不会待毙的，那怎么办呢？既要机器人代替人类“工作”又不被机器人杀掉人类，这是我感兴趣的另一个问题。
我曾经对学生讲过管理学，管理学现在很成熟，名师辈出，流派各异，管理大师中的大师德鲁克曾得到美国总统的勋章，中国管理学界的“诺贝尔奖”—
“复旦管理学杰出贡献奖”每年产生三名。
我想，现在管理学这套理论对机器人的管理上要重新改写，因为现在管理学是针对“管人”的，试问，用来管理机器人适用吗？显然回答是否定的，或者说，机器人还未认为人类是“多余人”之前，我们怎么去管理机器人，这是一道管理学“红线”，这方面的管理学研究几乎还是个空白，需要重新开始？
那么发展趋势是“机器人管人”的时代迟早会到来，我说这就是个风险。当然也有很多学者认为，不会的，毕竟机器人是我们人类发明的，他不可能今后将我们杀掉、将我们踢出地球。
我认为，不管是人类最终驯服机器人，或机器人最终听人类指挥，管理学本身要重新起草，对象不同了，我说风险就在这里。
人类原始社会就产生了“管理”，任何事情都要管理的，包括现在人类管理机器人，将来机器人管理人类（它的边界为“不杀人类”），若不考虑机器人管理人类的事情，让它一直发展下去，到一定的时候它不要我们了，这种风险是存在的。
我还是说，我们在管理学上对机器人管到什么程度，即管到机器人不可能杀掉我们那个地方为止，叫它不要发展了，可能否？我讲话可能太荒唐了，因此，风险的道理就在这里，风险有一道线，不要超过这道线，超过这道线要“殺”我们了，除非机器人的发展会表现出“伦理和道德”的思维，或者会“自律”。
我就提出这么一些想法，请教大家。
[ 吕兆楠 独立学者。本文为作者2018年7月11日在「人工智能与道德风险」云豹沙龙的演讲，转载请注明 ]
