发现了语言模型的一个可能影响我的行为模式的地方
[复制链接] 分享：
版主你好，因为可能涉及我自己的心理健康吧
Splindow (\拎兜/) 在 ta 的帖子中提到：
我觉得老站友一般不会错版
但我还是没发觉这帖和心理健康有啥关系(ಥ_ಥ)
签名档
夜空因繁星而美丽，人生因相遇而美好，朋友因相助而情深，恋人因相知而相爱，愿爱你
的人更爱你，你爱的人更懂你。祝你永远幸福快乐！愿所有好梦依偎着你，入睡是甜，醒
来成真；愿所有财运笼罩着你，日出遇贵，日落见财；愿所有吉星呵护着你，时时吉祥，
刻刻平安！我爱你，不仅因为你是你，也因为你宽容我是我；我爱你，不仅因为你有内涵
，也因为你丰富了我的内涵。悲剧好比是我不小心切掉了自己的小手指；喜剧好比是你不
小心掉进了下水道。
会不会有选择性偏见？
举个例子：例如我在大模型里要求模型从客观角度分析某个行为是对的还是错的，大模型输出了一个结论。
如果你认可：你就安慰自己说：我在提示词里要求大模型客观了，嗯，那这就是个客观的结果。
如果你不认可：你开始怀疑，大模型训练的语料是不是有偏的，大模型还不够客观等等🤣
SQ (反watern联盟会长(反这个字代替了很脏的字)) 在 ta 的帖子中提到：
过去，我也许在一些事情上比较固执己见，一个重要原因（如果不是唯一原因的话）
是我难以找到中立的评价者，判断某件事情究竟谁是谁非，自己究竟是不是需要
改变的一方。
……
更准确地讲，我推荐这是个哲学问题，我建议你到哲学版去讨论...
SQ (反watern联盟会长(反这个字代替了很脏的字)) 在 ta 的帖子中提到：
版主你好，因为可能涉及我自己的心理健康吧
签名档
须知人之所以生，要以自食其力为本根，以协同尚义为荣卫。
所贡献于群众者不啬，斯群众之报施我者必丰。藉势倚权，常与祸构，不可为也。
故求其可恃莫如学，势可踣也，学不得而閟也。
学无止境，致用亦无止境，有生之年，皆学之日。
诸生方盛年，志高而气锐，将欲厚其积储以大效于世耶？抑将浅尝自放以侪于俗耶？
是不可不审所处矣。诸生勉乎哉！
大模型其实还是有自己立场的（或者说当语料的绝大部分都有立场时，大模型会自然而然地继承这种立场）。
之前为了探究这个问题，我特意挑了负面评价较少的历史人物孙中山，从负面角度组织了孙中山的部分行为（见图1）。
当我显式地让Gemini不考虑政治立场的情况下进行分析，大模型会承认我列举的史料的真实性（见图2中大语言模型的第一次回复）。
而当我让它考虑政治立场/叙事角度（见图2中大语言模型的第二次回复）或者从一开始就不强调这一点（见图3），它则会因为列举史料的立场与其训练集有较大冲突而指出我的叙事角度的“不妥”。
因此，我认为大语言模型实际上还是难以避免地会继承语料中的偏见/立场，对于历史、政治等没有正确答案的问题，需要慎重考虑大语言模型的回答。
SQ (反watern联盟会长(反这个字代替了很脏的字)) 在 ta 的帖子中提到：
过去，我也许在一些事情上比较固执己见，一个重要原因（如果不是唯一原因的话）
是我难以找到中立的评价者，判断某件事情究竟谁是谁非，自己究竟是不是需要
改变的一方。
……
- comment.png(227.8KB)
- session1.png(515.1KB)
- session2.png(266.7KB)
和lz说的不矛盾，语料和情境的偏见（输入）不会导致思维方式的偏见（模型）
我觉得lz的点主要在于思考模式的中立性和多样性
zhenyuyan (亻专讠兑) 在 ta 的帖子中提到：
大模型其实还是有自己立场的（或者说当语料的绝大部分都有立场时，大模型会自然而然地继承这种立场）。
之前为了探究这个问题，我特意挑了负面评价较少的历史人物孙中山，从负面角度组织了孙中山的部分行为（见图1）。
当我显式地让Gemini不考虑政治立场的情况下进行分析，大模型会承认我列举的史料的真实性（见图2中大语言模型的第一次回复）。
……
签名档
Arsene Wenger has done it again!
那么我原文主要指的不是政治和历史类，而是例如处理人际关系类，用语言模型评判某
件事情如果产生分歧了，是谁的不是
zhenyuyan (亻专讠兑) 在 ta 的帖子中提到：
大模型其实还是有自己立场的（或者说当语料的绝大部分都有立场时，大模型会自然而然地继承这种立场）。
之前为了探究这个问题，我特意挑了负面评价较少的历史人物孙中山，从负面角度组织了孙中山的部分行为（见图1）。
当我显式地让Gemini不考虑政治立场的情况下进行分析，大模型会承认我列举的史料的真实性（见图2中大语言模型的第一次回复）。
……
签名档
发信人: GGGGDDDDK (Como tu carne), 信区: CampusLife
标 题: Re: 大家每年的男生节都是怎么过的呢？
发信站: 水木社区 (Fri Nov 11 10:09:47 2005), 站内
我个人认为，在bbs上灌水打错别字比较多的人，在现实生活中往往都是不认真的人。
Offshoring (幸福的期待 @ 北京) 在 ta 的帖子中提到：
那看来你说的中立不是我原本的含义？
我希望的中立主要指“无屁股立场，不以己度人”这方面
Anonymous (我是匿名天使) 在 ta 的帖子中提到：
中立是一种立场，不代表客观。两人打架，我中立，其实可能是一人犯错引起的
某件事中立可能ok，事事中立我觉得这人做人有问题
签名档
发信人: SQ (sapere, potere, giocare), 信区: Physics
标 题: Re: 誰知道letter 和 article 有什麽區別
发信站: 北大未名站 (2006年01月20日21:21:59 星期五), 转信
"a" can be a letter, and can be an article.
ANewedifier (整装待发) 在 ta 的帖子中提到：
謝謝！
那就避免这种行为好了，就例如询问之前“愿赌服输”
windseeker (风行者) 在 ta 的帖子中提到：
会不会有选择性偏见？
举个例子：例如我在大模型里要求模型从客观角度分析某个行为是对的还是错的，大模型输出了一个结论。
如果你认可：你就安慰自己说：我在提示词里要求大模型客观了，嗯，那这就是个客观的结果。
……
签名档
I live above a star, and yet I never burn,
I have eleven neighbors, and yet none of them turn,
I am visited in sequence, first, last or in between,
PRS (& sometimes Q) are my initials,
now tell me what I mean.
Answer: The '7' on the telephone keypad
好的，那我大概主要还是希望排除：
（主要可能因利益相关）针对人的偏向某人，而非论事
或者（类似于某个经典的故事，一个脸上干净一个脸上脏，认为对方和自己一样）的原
因，用自己带入对方
Anonymous (我是匿名天使) 在 ta 的帖子中提到：
应该没理解错吧，但是中立不能解决问题，大脑经过强行中立的长期训练后也会失去对是非曲直的评判能力，我觉得以多角度看待事物比较好一些
签名档
1067 lovemuzi Jan 4 ● 签入口令错误 (162.105.40.18)
1068 Pandorabox Jan 4 ● 用户 Pandorabox 登记自杀通知(30天後生效)...
1069 norain Jan 4 ● 用户 norain 登记自杀通知(30天後生效)...
1070 pearson Jan 4 ● 取消 SQ 的 Boy 讨论区版务职务
1071 pearson Jan 4 ● 版务卸职, 取消 SQ 的版务权限
1072 pearson Jan 4 ● 取消 SQ 的 Joke 讨论区版务职务