「智谱清言」的问题与不足,欢迎拍砖 ~

智谱清言是一款基于 ChatGLM 模型开发的应用程序,具备通用的文字生成能力,可以辅助用户完成各类文字工作。

由于模型本身固有的特性,智谱清言可能存在以下几类不足:

:desert_island: **1. 幻觉问题。**以ChatGPT、ChatGLM等为代表的语言模型是概率生成模型,它的输出会受输入的影响,其生成内容有时候会严重偏离事实。

:nail_care: 2. 针对数学、编程等逻辑类的问题,ChatGLM模型可以具备一定的能力,但并不能确保给出答案的正确性。

:sandwich: 3. 产生有害说明或有偏见的内容。 ChatGLM采取了与人类意图对齐的技术,但仍然会产生有害的、有偏见的内容。我们从产品层面尽力去避免,但仍然无法确保万无一失。

:jack_o_lantern: **4. 易被误导。**尽管我们努力去改善这方面存在的问题,但 ChatGLM 仍然容易被误导并产生错误的言论,从而会在自我认知上发生偏差。

大家可以在本频道中,分享智谱清言(chatglm)生成的任何 badcase,来帮助 GLM 技术团队不断完善模型。 :vulcan_salute:

当给他一个css和html文件的时候,提到页面展示有问题,结果陷入死循环,一直在检查内容是不是对的,直到我点击停止才停下检查