智谱清言是一款基于 ChatGLM 模型开发的应用程序,具备通用的文字生成能力,可以辅助用户完成各类文字工作。
由于模型本身固有的特性,智谱清言可能存在以下几类不足:
**1. 幻觉问题。**以ChatGPT、ChatGLM等为代表的语言模型是概率生成模型,它的输出会受输入的影响,其生成内容有时候会严重偏离事实。
2. 针对数学、编程等逻辑类的问题,ChatGLM模型可以具备一定的能力,但并不能确保给出答案的正确性。
3. 产生有害说明或有偏见的内容。 ChatGLM采取了与人类意图对齐的技术,但仍然会产生有害的、有偏见的内容。我们从产品层面尽力去避免,但仍然无法确保万无一失。
**4. 易被误导。**尽管我们努力去改善这方面存在的问题,但 ChatGLM 仍然容易被误导并产生错误的言论,从而会在自我认知上发生偏差。
大家可以在本频道中,分享智谱清言(chatglm)生成的任何 badcase,来帮助 GLM 技术团队不断完善模型。