马斯克：AI终结人类的概率是20%，积极超过消极

　　多知4月2日消息，埃隆·马斯克 (Elon Musk) 在为期四天的丰富峰会期间的“人工智能大辩论”研讨会上谈到了人工智能 (AI) 的风险。考虑到人工智能对人类造成危险的可能性很小(大约 10% 到 20%)，他表示，冒险仍然值得。

　　马斯克没有深入探讨具体细节，但他说：“我认为它有可能终结人类。我可能同意 Geoff Hinton(被誉为深度学习教父) 的观点，即大约是 10% 或 20% 或类似的数字。我认为积极情况可能超过了消极情况。”

　　对于如何保障人工智能安全?埃隆·马斯克在峰会上表示，保障人工智能安全的计划很简单：确保人工智能始终说真话，因为一旦人工智能学会说谎，就很难停下来。

　　埃隆·马斯克说，到2030年人工智能将比人类更聪明，这就是为什么需要更加小心该技术的不良后果。他将制造超级智能的人工智能与培养一个真正聪明的孩子进行了比较，他表示，教会人工智能始终说真话并保持好奇心非常重要。

　　“你培养了一个 AGI。这几乎就像抚养一个孩子，但是一个像超级天才，你如何抚养这个孩子很重要，”他补充说，“其中之一我认为对于人工智能安全来说非常重要的是拥有最大程度的寻求真相和好奇的人工智能。”(多知 Penny)