人工智能末日场景在硅谷蔓延
Table of Contents
😱 人类是否注定会被技术毁灭？
1.1 科技是我们的死神
1.2 人类自己制造了没有安全保障的技术
😱 Y2K：历史上的技术末日预言
2.1 1999年的千年虫
2.2 飞机会从天而降，核武器会自主发射？
2.3 千年虫的破灭与人们的尴尬
😱 人们对人工智能的担忧
3.1 今天的人工智能末日预言
3.2 AI的灭绝威胁是否就像1999年的千年虫一样？
😱 Y2K研究教训和AI预言的相似之处
4.1 Y2K预测的教训
4.2 全球合作解决千年虫问题的案例：冈比亚
4.3 AI的监管问题和全球问责
😱 AI的发展与人类的生存
5.1 AI的风险和未来
5.2 创新快于监管的问题
5.3 打造安全和可持续发展的AI技术
😱 结论
6.1 人类是否真的注定会被技术毁灭？
6.2 全球应对AI风险的挑战和解决方案
😱 人类是否注定会被技术毁灭？
在某些人的眼中，人工智能被视为一把双刃剑，有可能对人类的生存构成威胁。这种观点并非新鲜事物，它让人们想起了1999年的千年虫预言。当时，人们担心电脑系统在新千年到来时会发生故障，导致飞机从天而降、核武器自动发射等灾难。事实证明，这些担忧并未成真。如今，人们是否已经吸取了教训，还是再次陷入了类似于1999年的人工智能末日预言中？
在1999年的时候，我还不到22岁，错过了千年虫恐慌，即世界上的电脑在元旦午夜会崩溃，因为无法处理六位数字日期中的0-0。那个时候，互联网公司的热门投资炒作引起了公众对家用电脑、在线购物和电子邮件等新技术的极大兴趣。人们开始质疑创新者是否太过短视，没有预料到千年虫问题，这导致20世纪80年代的起个很高的检查和修复费用。根据高德纳的估计，全球评估和修复计算机系统可能花费超过5000亿美元，各国成立了国家委员会来处理此事，全球范围内的委员会协同合作。一些人实际上相信飞行电脑可能会在飞行中失败，因此美国十大航空公司仅花费就500多亿美元确保这种事情不会发生。美联储为了防止公众可能会在千年纪念之前恐慌并提前取出他们全部的储蓄值十几亿的新钱，准备了数十亿新美元。甚至在除夕夜，美国和俄罗斯空军也共同努力，杜绝了意外发射导弹的可能性。这简单地说明了事情变得有多疯狂，而在2000年1月1日，世界变得完全正常，之后的几天，我们都开始怀疑自己是否稍微反应过激。我们用千亿美元的账单面对着为所有这些工作付出的代价，但毫无疑问地是我们不需要这么做。当然，这并不意味着没有小问题发生了。在纽约一家录像店里，有一个非常倒霉的顾客因为店里的电脑计算出他应该归还的电影已经过期了差不多一百年，所以他丢失了将近一百万美元的费用。
我们很快意识到我们对这个新的互联网事物抱有高期望，对它如何改变我们的生活和财富感到兴奋无比，然后出于对潜在风险是否足够深入思考，我们再次陷入了群体恐慌之中。我们现在也在对待人工智能同样如此，兴奋到极致，同时又担心着人工智能灭绝的威胁正在敲门。我们再次问创新者是否缺乏远见，没有预料到人工智能的潜在问题。未来的人工智能是否会威胁到社会生活，或者只会像一个简单解决的违规问题一样，迅速解决？
我相信两种情况都有可能发生，但后者更有可能。回顾一下千年虫将会给我们的理解提供了一些线索。尽管在2000年前全球巨大支出，世界各国先后承认这可能是过度投资，但使每个人都检查千年虫问题的共同目标是正确的。举个例子，非洲国家冈比亚由于没有足够的资金检查其计算机系统，到了2000年1月1日，遇到了全国范围内的停电和基础设施问题。这是否说明我们当时把人们恐慌到了必须解决一个真正问题的地步，哪怕这个问题并没有像我们想象中的那样具有生存风险呢？
我认为是这样的，也许我们可以期待与伊隆·马斯克和埃利斯·尤德科夫斯基这样的人从会议舞台上去鼓吹AI对人类未来构成风险，就像我们都知道千年虫实际上没什么用一样，从美国到欧洲再到中国，监管机构正在对安全和负责任的发展提出问题，同时也关注就业安全、深度伪造、对民主和公民权利的破坏等问题。这一次的不同之处在于我们没有一个非常具体的24小时窗口，来确保我们一切都好。回顾历史，当我们知道千年虫基本上是个鸡肋之后，几乎可以说是滑稽地看到那些标有Y2K兼容标签的产品。也许在未来，我们可以期待在未来的人工智能产品上找到“人类合规”标签，随之而来的是一个集体的反思时刻，也许我们并没有真的需要印制这么多标签。
当然，你可能会指出这其中的一些问题，那就是社交媒体的存在。请让我知道您的想法，我是Nate Langston，这是我作为一个技术人的观点。
FAQ
Q: 人工智能真的会对人类构成极大威胁吗？
A: 有些人认为人工智能可能对人类的生存构成威胁，但也有人持有不同的意见。我们无法确定未来的发展路径，但应确保安全和可持续发展的人工智能技术。
Q: 千年虫对世界造成了什么样的影响？
A: 千年虫并没有像最初预测的那样对世界带来灾难。尽管存在一些小问题，但总体而言，事态的发展并没有达到人们最初的担忧程度。
Q: 为什么人们总是担心新的技术会导致灾难？
A: 新技术通常带来了全新的未知领域，这使人们感到不安和担忧。通过适当的监管和持续的科技发展，我们可以平衡利益，确保技术的安全和可持续发展。
Q: 如何解决人工智能的安全问题？
A: 为了确保人工智能的安全，需要制定合适的监管政策和规范，并资助相关研究和开发。同时，也需要加强全球合作，共同应对可能出现的挑战。
Q: 是否需要担心人工智能取代人类工作？
A: 人工智能可能会对某些职业造成影响，但同时也会创造出新的就业机会。关键在于我们如何适应和引领这个变化，以确保每个人都能从中受益。
Highlights
人工智能是否威胁人类生存一直是一个有争议的话题。
类似于1999年的千年虫预言，人们对人工智能的担忧一再被提出。
通过回顾千年虫期间所发生的事情，我们可以得到一些关于人工智能的发展与人类生存的教训。
让人工智能安全、可持续发展，需要全球合作和有效的监管措施。
积极适应和引领人工智能的变化，有助于我们更好地应对未来的挑战和机遇。
Resources:
https://www.bbc.co.uk/news/technology-60069531