Re: 发现了语言模型的一个可能影响我的行为模式的地
[复制链接] 浏览该主题帖
<ASCIIArt>
#17800
大模型其实还是有自己立场的(或者说当语料的绝大部分都有立场时,大模型会自然而然地继承这种立场)。
之前为了探究这个问题,我特意挑了负面评价较少的历史人物孙中山,从负面角度组织了孙中山的部分行为(见图1)。
当我显式地让Gemini不考虑政治立场的情况下进行分析,大模型会承认我列举的史料的真实性(见图2中大语言模型的第一次回复)。
而当我让它考虑政治立场/叙事角度(见图2中大语言模型的第二次回复)或者从一开始就不强调这一点(见图3),它则会因为列举史料的立场与其训练集有较大冲突而指出我的叙事角度的“不妥”。
因此,我认为大语言模型实际上还是难以避免地会继承语料中的偏见/立场,对于历史、政治等没有正确答案的问题,需要慎重考虑大语言模型的回答。
SQ (反watern联盟会长(反这个字代替了很脏的字)) 在 ta 的帖子中提到:
过去,我也许在一些事情上比较固执己见,一个重要原因(如果不是唯一原因的话)
是我难以找到中立的评价者,判断某件事情究竟谁是谁非,自己究竟是不是需要
改变的一方。
……
