Beyond Epistemia: Epistemic Schizologia and Large Language Models as Techno-Semiotic Machines
Quattrociocchi 等人警告，大型语言模型的流畅输出可能让语言上的合理性取代认知评估，产生他们所称的“Epistemia”状态。本文接受这一诊断，但挑战其解释框架，提出将 LLM 理解为一种“技术符号机器”，自动化书面符号过程的一个阶段，从人类写作的沉淀档案中产生合理的语言配置。作者将 Epistemia 视为更广泛现象“认知分裂症”的一个后果，即符号作为语言表达与符号作为社会嵌入的解释、证据、批评和验证回路中的时刻之间的社会技术分裂。
Development
- First ReportBeyond Epistemia: Epistemic Schizologia and Large Language Models as Techno-Semiotic MachinesarXiv cs.AI
- Current Assessment该论文对 LLM 的认知地位提出哲学质疑，可能影响行业对模型可靠性的讨论，尤其是在高风险应用中。它可能促使开发者更谨慎地对待模型输出，并推动可验证性工具的发展。可验证的下一信号：是否有企业或研究机构引用该框架来改进模型评估或产品设计。Agent Pulse · analysis
Quattrociocchi 及其同事警告，大型语言模型的流畅输出可能让语言上的合理性取代认知评估，产生他们所称的“Epistemia”状态：一种无需进行通常需要判断的实践就拥有知识的感觉。本文接受这一诊断，但挑战其解释框架，该框架将具身的、社会情境化的人类认知者与孤立的生成模型进行比较，从而将认知合法性定位于自主代理的内在能力。借鉴 Carlo Sini 的实践、写作、符号和技术哲学，作者提出将 LLM 理解为一种“技术符号机器”，它通过从人类写作的沉淀档案中产生合理的语言配置，自动化了书面符号过程的一个阶段。从这个角度看，Epistemia 是更广泛现象“认知分裂症”的一个后果：符号作为语言完成的表达与符号作为社会嵌入的解释、证据、批评和验证回路中的时刻之间的社会技术分裂。
该论文提出将 LLM 视为“技术符号机器”，强调其从人类写作档案中生成合理语言配置的机制，而非自主认知代理。这暗示模型的能力应被理解为对书面符号过程的自动化，而非内部知识的拥有。可验证的下一信号：后续研究是否采用该框架来设计评估方法，区分语言合理性与认知可靠性。
该论文对 LLM 的认知地位提出哲学质疑，可能影响行业对模型可靠性的讨论，尤其是在高风险应用中。它可能促使开发者更谨慎地对待模型输出，并推动可验证性工具的发展。可验证的下一信号：是否有企业或研究机构引用该框架来改进模型评估或产品设计。
该论文可能影响企业对 LLM 可靠性的认知，促使投资于可解释性和验证工具。对于提供 LLM 服务的公司，理解这一框架有助于定位产品为“符号机器”而非“知识源”，从而管理用户期望。可验证的下一信号：企业是否在营销或文档中采用类似表述。
该框架可能推动更严格的模型评估标准，强调输出与证据链的关联。未来可能出现更多关注“认知分裂症”的研究，探索如何弥合语言生成与社会验证之间的鸿沟。可验证的下一信号：后续论文是否引用该文并发展相关概念。