人工智能领域的先驱，计算机科学家杰弗里·辛顿（Geoffrey Hinton）因其在机器学习方面的贡献获得了今年的诺贝尔物理学奖。然而，在获奖后，他立刻发出了关于人工智能力量的警告。
“这将与工业革命相当，”他在获奖后不久表示。“但人工智能不会在体力方面超越人类，而是会在智力方面超越人类。我们对比我们更聪明的生物是什么样子毫无经验。”
辛顿因其对人工智能的贡献被誉为“人工智能教父”。他曾在谷歌工作，但为了警告人工智能的潜在危险而辞职，现在是多伦多大学的教授。他与普林斯顿大学教授约翰·霍普菲尔德（John Hopfield）共同获得了诺贝尔奖，他们的研究成果“为使用人工神经网络的机器学习奠定了基础”。
辛顿承认，人工智能可以从多个方面改善社会，比如在医疗保健等领域大幅提高生产力，但他同时也强调了人工智能潜在的负面影响，尤其是“这些事物失控的威胁”。
“我担心，这可能导致最终控制我们的智能系统出现，”他说道。
辛顿并不是第一个对自身开创技术风险发出警告的诺贝尔奖获得者。下面就让我们回顾一下其他一些曾对自身研究成果发出类似警告的诺贝尔奖获得者。
1935年：核武器
1935年的诺贝尔化学奖颁发给了夫妻科学家弗雷德里克·约里奥-居里（Frederic Joliot）和伊雷娜·约里奥-居里（Irene Joliot-Curie），他们发现了首个人工放射性原子。这项研究成果为医学领域做出了重要贡献，例如癌症治疗，但也促成了原子弹的制造。
在当年的诺贝尔演讲中，约里奥-居里以警告告终，称未来的科学家“将能够实现爆炸式的转化，真正的化学链式反应。”
“如果这种转化成功地传播到物质中，就可以想象到巨大的可用能量释放，”他说道。“但不幸的是，如果这种传染蔓延到我们星球的所有元素，那么，释放这种灾难性事件的后果只能让人感到恐惧。”
尽管如此，约里奥-居里还是预测，这将是一个“未来的研究人员无疑会试图实现的过程，同时，我们希望他们会采取必要的预防措施”。
1945年：抗生素耐药性
1945年的诺贝尔生理学或医学奖颁发给了英国细菌学家亚历山大·弗莱明（Alexander Fleming），表彰他发现了青霉素，一种抗生素，可以治疗细菌感染。青霉素的发现是现代医学史上的一项重大突破，挽救了无数人的生命。
然而，弗莱明在接受诺贝尔奖时也表达了对细菌耐药性的担忧。
“如果（青霉素）被不负责任或不必要地使用，那么细菌可能会在这些药物的作用下发展出抵抗能力，使它们变得无用，”他在诺贝尔演讲中表示。
“因此，对于每个人来说，使用青霉素都很重要，应该尽可能避免不必要的抗生素使用，以便我们不会因细菌产生抵抗能力而失去这种对我们有价值的药物。”
2019年：基因编辑技术
2019年，诺贝尔化学奖颁发给了三位科学家，表彰他们在开发“用于基因组编辑的方法”方面的贡献，其中包括一种名为 CRISPR-Cas9 的技术。这项技术被认为是一种强大的工具，可以用于治疗遗传疾病，但同时也引发了伦理问题。
三位获奖者之一，美国生物化学家珍妮弗·杜德纳（Jennifer Doudna）表示，她认为 CRISPR-Cas9 是一种强大的工具，可以用来治疗疾病，但同时强调了该技术潜在的风险，例如被用于“改变人类生殖细胞，从而影响后代的基因”。
“我认为，现在已经到了全球范围内的对话和协商的时候，我们需要认真考虑这些技术是如何被使用以及它们可能带来的潜在后果，”杜德纳说道。
这些诺贝尔奖得主的警告提醒我们，科学技术的进步与风险并存。我们应该在享受科学进步带来的福祉的同时，也要警惕其潜在的负面影响，并采取措施来防止这些风险变成现实。
原创文章，作者：睿鸿在线，如若转载，请注明出处：https://mip.orihonor.com/2024/10/14/1225.shtml
