导读：随着生成式人工智能的普及，如何检测AI生成的内容将会变得越来越重要。要想解决AI“一本正经地胡说八道”这一问题，需要各方共同努力，明确法律法规和行业标准，从而推动AI走在为人类服务的正轨之上。
一名退休职工反映，自己在某AI平台上询问公交免费政策时，被告知“自2025年1月1日起，宁波市将免费乘坐公交车的年龄从70周岁降低至65周岁”。回答貌似有模有样，实则并不准确。为了验证说法，有记者使用目前较为流行的“豆包”“文心一言”“kimi”等AI软件，询问“宁波公交年满65岁优惠政策”这一问题，仅一个回答正确。
随着AI技术的不断突破，社会正从数字信息时代迈入数字智能时代，AI技术的成熟进一步降低文本、图片、视频等内容的创作门槛。然而，带给人们便利的同时，也出现了带偏政策解读、误导舆论认知的风险。例如，有网民反映在AI平台上搜索某一著名景区的门票优惠政策时，得出“本地人可以免费游览”的回答，经询问当地文旅部门，相关政策系多年前出台，如今早已失效。不难想象，网民若无法掌握准确信息，可能产生对门票政策差异化的质疑。
由于不同的AI大模型技术成熟度和信息抓取偏好存在差异，生成答案的准确率往往千差万别。AI训练的源头信息可能并非出自权威渠道，而AI软件缺乏辨识信息真伪的能力，致使其对真实度、可信度偏低的信息信以为真。有时AI给出的答案援引了未经证实的自媒体信息，还有的可能是混淆了多个信息源中的时间、地点等关键元素，随意拼接组合导致张冠李戴。
AI技术的广泛应用让公众获得信息变得容易，甚至会让人产生AI幻觉和AI依赖。例如，2023年2月，一则“杭州市政府3月1号取消机动车依尾号限行”的“新闻”在网上热传，后被警方证实，该消息不实。溯源发现，该“新闻”的炮制源自本地某小区业主群里的一个“玩笑”—— 业主群里讨论ChatGPT，一名业主开玩笑说尝试用它写篇“杭州取消限行”的“新闻”，随后在群里直播了使用ChatGPT的写作过程，还把文章发在群里，其他业主截图转发，导致错误信息传播。
随着生成式人工智能的普及，如何检测AI生成的内容会变得越来越重要。AI“一本正经地胡说八道”可能在一段时间内难以完美破解，要想解决这个问题，需要各方共同努力，明确法律法规和行业标准，从而推动AI走在为人类服务的正轨之上。
对此，监管部门应未雨绸缪，研判现存政策被带偏的潜在风险，出台规范标准，督促AI平台、软件开发者尽快堵漏，尽可能避免误导信息干扰社会秩序。同时，协调媒体做好人工智能科普工作，助力公众全面理解AI技术的底层逻辑，提升信息甄别能力。AI平台需要持续优化算法，筛选可靠信源，提高大模型的逻辑推理与信息甄别能力，完善风险提示机制，落实监管部门的相关要求。
作者系人民网舆情数据中心主任舆情分析师 罗海力
