即使这个标题对于与技术不太相关的人来说听起来更像是科幻小说，但如果不加以控制，人工智能将导致人类灭绝。
2023 年 XNUMX 月之后，Elon Musk 等科技专家谈到 人工智能可能产生的普遍危险 在社会层面，轮到开发人工智能的大公司的首席执行官们通过一封公开信敲响警钟了。
在非营利组织发起的公开信的350个签名者中“Center For AI Safety“（CAIS)，包括：Sam Altman，公司首席执行官 OpenAI, 公司负责人 AI DeepMind, Antrophic 还有微软、谷歌等公司的高管，他们也开发了广泛的人工智能语言。
他们加入了该领域的一群研究人员和教授来表达自己 人工智能可能导致人类灭绝的担忧 如果政治决策者不会认真对待这个问题。
公开信说，不受监管的人工智能在全球范围内的影响可能会造成与核战争或完全失控的大流行一样大的破坏。
人工智能会导致人类灭绝吗？
决策者很可能会及时醒来并寻找解决方案来规范技术迈出的这一巨大步骤。 当然，在做出决定之前，他们必须意识到人工智能带来的好处有哪些风险。
人工智能不仅仅意味着 ChatGPT, Microsoft 365 Copilot 或 Google Bard。生成式人工智能模型用于 药品、研究、机器人和自动化、教育、金融、商业以及许多其他真正有帮助的领域。
AI 它也可以用于破坏目的，与此相关的是人工智能会导致人类灭绝的恐惧。 以在群众中制造紧张为目的的社会操纵，直至发展出能够超越人类智慧并自主决策的智能武器。 它是一种能够自我学习、评估情况和行动的技术。
最大的问题是广泛的语言模式 AI (LLM) 可供任何人使用。
核裂变是人类迈出的一大步，既带来了好处，也带来了重大危险。核裂变产生的能量是一种巨大的资源和真正的好处，而核武器则可能给人类带来灾难性的后果。另一方面，核燃料并不是每个人都能接触到的，人工智能模型也是如此。铀（U-235) 或 plutonium-239 不会像找到可以运行 Python 的计算机那样容易被任何人找到。
然而，有一件事是肯定的。 人工智能将导致人类灭绝，只有在人类允许的情况下。 如果人类无法控制自然的力量，人工智能仍然可以控制（我希望）。
