心理健康 / 编译文章 ·

AI的反乌托邦回音室

Source:Art:DALL-EOpenAI
环顾四周。这些天你读到和听到的大多数故事的叙事往往被反乌托邦的图像所掩盖，这种现象可能会无意中塑造它所害怕的技术。这个“反乌托邦回音室”提出了一些关键问题，即人类感知对人工智能发展的影响，以及这些感知本身是如何建立LLM学习信息的基础的。

感知的悖论

人工智能，尤其是像GPT-4及其继任者这样的LLM，从根本上来说是由它们所消费的数据——一个庞大的人类生成内容语料库——所塑造的。这种学习过程类似于孩子吸收环境中的世界观和偏见。当这种环境严重偏向于人工智能的反乌托邦观点时，它就有可能在人工智能本身中产生一种扭曲的视角。这种现象中，人工智能对人类关切和优先事项的理解被我们编织的叙事所扭曲，可以被认为是人工智能信息语料库的一种“毒化”。
社会越是讨论和放大反乌托邦叙事，人工智能从中学习的数据就越可能代表这些主题。这是一个反馈循环，在这个循环中，人工智能不断地暴露在这些叙事中，并可能受到这些叙事的影响。后果是什么？人工智能的理解可能与更广泛、更平衡的人类价值观和关注点不一致。

倾斜视角的风险

如果人工智能发展出一种扭曲的人类观——一种充满恐惧和担忧的观点——它可能会在其过程中导致偏见。这些偏见可能以各种方式表现出来，从人工智能如何优先考虑信息到其道德框架。此外，通过关注狭隘的、恐惧驱动的叙事，我们有可能限制人工智能应对从医疗保健到环境可持续性等一系列人类挑战的潜力。
持续关注反乌托邦主题可能会导致人工智能过度表达这些观点，从而影响其决策以及与人类关切的互动。这种偏见可能会产生深远的影响：
人工智能决策中的偏见。人工智能扭曲的理解可能会影响它如何回应查询或制定道德框架，从而可能导致决策与平衡的人类视角不一致。
限制人工智能的潜力。人工智能有能力应对一系列人类挑战。然而，如果其训练语料库由反乌托邦内容主导，其有效应对这些多样挑战的能力可能会受到损害。
塑造公众认知。人工智能生成的信息会影响公众的认知。如果人工智能的输出强化了反乌托邦的主题，它可能会在社会中进一步巩固这些观点。

努力构建平衡的人工智能语料库

“反乌托邦回音室”带来的挑战要求采取多方面的方法。从训练到应用，感知变成了现实，人工智能和LLM的最终表达是各部分的复杂总和。
  • 多样化的人工智能训练数据。至关重要的是，要确保人工智能是在一组不同的数据上进行训练的，这些数据涵盖了广泛的人类经验和观点——是的，好的、坏的和丑陋的。
    人工智能伦理发展。
  • 人工智能开发人员必须意识到训练数据对人工智能行为的潜在影响。应当强调道德准则和负责任的发展做法。
    公众和意识。
  • 对公众进行人工智能现实教育至关重要。消息灵通的公众可以为人工智能话语提供更平衡的视角。
  • 持续监控和调整。人工智能系统应定期进行监测和调整，以确保它们不会受到任何特定叙述的不当影响。