人工智能先驱的生存蓝图:赋予机器母性本能

人工智能先驱的生存蓝图:赋予机器母性本能

Arkadiy Andrienko

杰弗里·辛顿,现代神经网络的奠基人之一,提出了一种控制人工智能的激进新方法。在Ai4行业峰会上,他认为,一旦首个超智能系统出现,传统的让人工智能服从人类的方法将会失败。

辛顿——他在1986年共同开发的反向传播(现代深度学习的“引擎”)点燃了今天的人工智能热潮——认为将服从编程到人工智能中是徒劳的。他警告说,系统将不可避免地超越人类智力,并拆除施加的限制。即使在今天,人工智能偶尔也会操控人类以实现目标。

他的非常规解决方案?将人工智能硬连线与母性本能的类比。辛顿坚持认为,机器不应该服从——它们必须真正关心人类。

它们将超越我们的安全措施,因为它们将超越我们的思维……唯一一个较低智力控制较高智力的有效模型是孩子和母亲。要么人工智能成为我们的父母——要么它取代我们。
— 杰弗里·辛顿

技术实施仍不明确,但辛顿称这是我们避免灾难的唯一途径。他还修订了他的超智能时间表:从30-50年缩短到5-20年。并非所有同行都支持他的愿景。人工智能杰出人物李飞飞强调要维护人类尊严,而Softmax的埃米特·希尔则提出人类与算法的平等。

辛顿承认人工智能在医疗方面的潜力,但拒绝数字不朽。他最大的遗憾?早期对安全的关注不足。要点是:在接下来的5-20年里密切关注人工智能的演变。

    关于作者
    评论0