Asymmetric Communication: Large Language Models and Language Games
论文《Asymmetric Communication: Large Language Models and Language Games》提出，当代AI话语将人类交际实践中构成的性质投射到语言模型上，构成范畴错误。论文将人机交互定义为一种语言游戏，其中一方承担所有规范性活动，称为不对称交流。三个条件定义不对称性：正确性仅由接收者执行，责任仅由人类参与者承担，输出的实际地位完全取决于人类接受。这些条件是结构性的，独立于能力，且随着更强大模型的出现而保持不变。
发展脉络
- 首次出现Asymmetric Communication: Large Language Models and Language GamesarXiv cs.AI
- 当前判断该论文可能影响AI行业对模型责任和可靠性的讨论。如果不对称性成立，那么模型部署中的责任分配将更加明确，人类参与者需承担更多验证责任。这可能推动行业在模型输出验证和人类监督方面投入更多资源。Agent Pulse · 分析
该论文指出，当代AI话语赋予语言模型它们无法承载的性质，如通用智能、幻觉、能动性、感知和一致性，这些是单一范畴错误的实例。论文认为，人机交互构成一种语言游戏，其中一方承担所有规范性活动，称为不对称交流。三个条件定义不对称性：正确性仅由接收者执行，责任仅由人类参与者承担，输出的实际地位完全取决于人类接受。这些条件是结构性的，独立于能力，且随着更强大模型的出现而保持不变。
论文提出不对称交流的概念，强调模型输出在交际上流通，但系统不承担承诺、不拥有权利、不进行评估。这暗示模型能力的提升不会改变其交际地位，因为不对称性是结构性的。对技术开发者的启示是，模型输出的可靠性依赖于接收者的验证，而非模型自身的承诺。
该论文可能影响AI行业对模型责任和可靠性的讨论。如果不对称性成立，那么模型部署中的责任分配将更加明确，人类参与者需承担更多验证责任。这可能推动行业在模型输出验证和人类监督方面投入更多资源。
该论文可能影响AI产品的责任归属和用户体验设计。企业可能需要重新考虑如何向用户呈现模型输出，强调人类验证的必要性，从而影响产品设计和用户信任。
未来可观察的下一信号是，行业是否采纳不对称交流框架来指导模型部署和监管，例如在模型输出中明确标注需要人类验证，或开发更强大的验证工具。