本文从使用的角度对AI系统进行思考。聚焦于对话聊天机器人,从魏岑鲍姆的ELIZA谈起,概述到ChatGPT的重大科学进步。文中的主要讨论基于作者为探索ChatGPT这一知识资源而进行的数次实验—反思循环。分析部分从准确性、结构、语境、视角和偏见等角度思考ChatGPT的回应。批判性评估始于这样一个观察:ChatGPT会在未明确自身能力范围的情况下,给出清晰准确结果与任意错误信息的混合。这引出了系统的关键问题,即它如何与“真”相抗衡,这又涉及用基于文本相关性的概率替代品取代“真”的理念。在负责任的使用中,ChatGPT之类的系统必须融入人类学习文化。这一过程的框架应包括坚持真实性、提升人类能力的动力以及强化共同体内的责任结构。