[提问] GenerativeAI 提案人以及推荐版务
[复制链接] 分享:1) 个人对AI发表的内容持允许态度。版面名称是死的,但版面的实际定位和氛围是活的,且更多地由“版友行为”而非“版务制定的框架”来主导。目前来看,版面开设初期可能主要会承担原本侵占了test版的ChatGPT问答功能,人民喜闻乐见,不必多加干涉。
2) 目前BigScience的AI自我审查还是很严格的,如果实在不幸生成了此类内容,一方面按规删帖封禁该诱导AI发帖的用户并告知(确实不太好把AI封掉),另一方面在实践中推动版规的完善。
alwaysmoving (かわいいね) 在 ta 的帖子中提到:
首先我对版面定位是没什么问题的。只是咱这范文也不能直接好几篇用AI生成的吧,需符合版面定位所写的内容。
另外还有几个问题想问两位推荐版务:
1) 本版对AI机器人发表内容持怎样的态度,比如欢迎还是允许;
……
签名档
只是咱这范文也不能直接好几篇用AI生成的吧,需符合版面定位所写的内容。
范文用AI生成正好回答了问题1),属于生成式人工智能的实际应用。GenerativeAI版欢迎合法合规的AIGC(AI generated content)。
另外还有几个问题想问两位推荐版务:
抱歉,第一次申请新版,我以为提案人默认是推荐版务,就没把自己加进去,现已修改。作为提案人,我自然要承担一部分管理版面的责任。
1) 本版对AI机器人发表内容持怎样的态度,比如欢迎还是允许;
欢迎
2) 如果对问题1 不持否定态度,假设有用户引导AI生成并发表不符合版规站规甚至国家规定的内容,会怎样处理?
First of all,有水n同志在,我相信这种帖子的存活时间不会太长。
如果水n同志日删万帖忙不过来,版务应及时处理,无心为之者进行删帖并提醒,故意为之者删帖并封禁。如果是引诱未名ChatGPT生成不良内容,我将同步封禁其使用权限(PS:同步封禁的意思是,用户在GenerativeAI版被封禁x天,该用户的未名ChatGPT使用权限也会被封禁x天)。
alwaysmoving (かわいいね) 在 ta 的帖子中提到:
首先我对版面定位是没什么问题的。只是咱这范文也不能直接好几篇用AI生成的吧,需符合版面定位所写的内容。
另外还有几个问题想问两位推荐版务:
1) 本版对AI机器人发表内容持怎样的态度,比如欢迎还是允许;
2) 如果对问题1 不持否定态度,假设有用户引导AI生成并发表不符合版规站规甚至国家规定的内容,会怎样处理?
签名档
No man is a failure who has friends.
1)允许。之前test版的问答太多了,最开始也是想分一下流;其他类似的,比如 novelai 贴吧,也有很多是分享或者帮助跑图的(人工队之前)。
2)
一般问答模型在训练的时候会对一些敏感问题进行自我限制,会减少出现不合规回答的情况;虽然也会有人对chatgpt或者bingchat进行一些魔法提问以避开限制,但是这通常需要连续问答,bigscience的未名gpt目前只能单条问答,所以也可能减少一些;国家也在对《生成式人工智能服务管理办法(征求意见稿)》征求意见,如果是国内的模型的话,上面对模型的监督也会比较严格,落到实际应用也会减少这种情况。
如果还是会有这种内容出现:假如是用户在其他地方生成、在本版发表的,这就是该用户的言论,就按版规站规处理或封禁;假如是利用站内机器人提问得到的,就删除内容、视同该用户本人发表该内容进行处理。这些处理就要靠版务多看了,以及其他用户发现提醒版务处理。处理措施除了封禁版面发帖权限外,如果是使用未名gpt之类的站内机器人的话,还可以联系模型负责人取消对该机器人一段时间的使用权限。
但还有点问题,ai回答的内容并不是仅会在此版出现,所以“假设有用户引导AI生成并发表不符合版规站规甚至国家规定的内容”也不是此版特有的问题。在之后的实践中,除了根据此版实际出现的情况完善版规,还要结合其他版面的处理。
alwaysmoving (かわいいね) 在 ta 的帖子中提到:
首先我对版面定位是没什么问题的。只是咱这范文也不能直接好几篇用AI生成的吧,需符合版面定位所写的内容。
另外还有几个问题想问两位推荐版务:
1) 本版对AI机器人发表内容持怎样的态度,比如欢迎还是允许;
……
签名档
昨日入城市,归来泪满巾。
遍身罗绮者,不是养蚕人。
感谢三位的解答,已经十分详尽。
不好意思我想啰嗦的追问一句:AI机器人等类似产品的ID是否应该视为普通ID,假使出现了违反规定的内容,是否应当对其ID进行处罚。
当然我承认,这个问题不是本版独有,站务委员会也应当对此类问题进行关注。不过在现有的站规体系下,想问下各位的看法。
alwaysmoving (かわいいね) 在 ta 的帖子中提到:
首先我对版面定位是没什么问题的。只是咱这范文也不能直接好几篇用AI生成的吧,需符合版面定位所写的内容。
另外还有几个问题想问两位推荐版务:
1) 本版对AI机器人发表内容持怎样的态度,比如欢迎还是允许;
……
个人认为,AI的ID在站务组未授予认证帐号权限之前,确实视为普通ID。至于是否有必要给ChatGPT一个认证帐号,这也不能说是站务组的义务,但如果站务组愿意搞我个人表示欢迎。
假使出现了违反规定的内容,我个人不会对AI进行处罚。首先AI没有自主思维,问题出在诱导AI发帖的真人。其次,处罚AI起不到对AI的惩戒和对其他人的警示作用,只会干扰其他人正常使用AI。当然这么回答就和上一个解答有矛盾之处了。
alwaysmoving (かわいいね) 在 ta 的帖子中提到:
感谢三位的解答,已经十分详尽。
不好意思我想啰嗦的追问一句:AI机器人等类似产品的ID是否应该视为普通ID,假使出现了违反规定的内容,是否应当对其ID进行处罚。
当然我承认,这个问题不是本版独有,站务委员会也应当对此类问题进行关注。不过在现有的站规体系下,想问下各位的看法。
签名档
布虽无谋,不似你诡诈奸险。
让我想起了一个经典笑话:为什么AI以后不会取代会计?——因为AI不能坐牢
AI机器人等类似产品的ID是否应该视为普通ID
取决于是否被本站官方认可吧,没被官方授权,从注册程序上看算普通ID,但它也有它的特殊性,因为它的内容是由用户诱导生成的,从实际作用来看,它算是一个工具ID。
假使出现了违反规定的内容,是否应当对其ID进行处罚。
我坚持工具无罪论
举个通俗的例子:一个人拿菜刀杀了人,应该惩罚菜刀还是惩罚凶手,结果显而易见。
鉴于其作为工具ID的特殊性,如果是真正的AIGC,我个人不会对其进行处罚,但如果是利用程序假冒AI进行不良内容的发表(马甲号打着AI机器人的幌子,二者一唱一和,利用马甲号发表不良内容),这种情况必重罚二者。
这个问题不是本版独有
我的未名ChatGPT会充分尊重各版块版规以及版务的要求,对不欢迎AIGC的板块会有限制的。当然我也不希望所有的AI机器人都被限制在GenerativeAI版,我想的是AI机器人能更多的帮助他人、活跃氛围,除了不欢迎AIGC的板块,其他普通账户有发文权限的板块我不会对我的AI机器人做限制。
alwaysmoving (かわいいね) 在 ta 的帖子中提到:
感谢三位的解答,已经十分详尽。
不好意思我想啰嗦的追问一句:AI机器人等类似产品的ID是否应该视为普通ID,假使出现了违反规定的内容,是否应当对其ID进行处罚。
当然我承认,这个问题不是本版独有,站务委员会也应当对此类问题进行关注。不过在现有的站规体系下,想问下各位的看法。
签名档
No man is a failure who has friends.
支持 moony +1
如果是贵站管理账号就最好了
如果是普通id的话,我个人倾向于不处理机器人账号,但假如真的追究的话,尽管有免责声明,也没办法容易地彻底排除其他人使用该账号发帖的可能情况。所以还是“如果是贵站管理账号就最好了”
alwaysmoving (かわいいね) 在 ta 的帖子中提到:
感谢三位的解答,已经十分详尽。
不好意思我想啰嗦的追问一句:AI机器人等类似产品的ID是否应该视为普通ID,假使出现了违反规定的内容,是否应当对其ID进行处罚。
当然我承认,这个问题不是本版独有,站务委员会也应当对此类问题进行关注。不过在现有的站规体系下,想问下各位的看法。
签名档
昨日入城市,归来泪满巾。
遍身罗绮者,不是养蚕人。
感谢几位,我说说我的看法。
首先,此功能非本站负责的功能,并非本站开发的代码,如果出现任何问题,本站不能为其兜底,不适用于本站工作帐号的认证方法。至于集体帐号和部门帐号,自然不适用。
第二,此id为普通id,应当适用一切站规,由注册者对其发布的内容负责。
第三,本站不负责甄别其发表的内容是工具发的还是人类发的,都是普通id发表的内容。不应对普通id之间的对话产生的违规问题拉偏架。
我个人是支持新技术的应用,且能够预见得到其受欢迎的程度,相信能为未名注入新鲜活力。但我同样认为应该在一个规则框架内玩,作为普通id玩就已经足够了。除非站务委员会认为有必要开发这样一个功能,但在目前的管理环境下(i mean 外部环境),这种事情在一个所谓官方论坛中难以做到。
至于版面申请,鉴于几位的回答的情况以及这个事情的复杂度,我建议站务委员会内部先进行一个讨论。
alwaysmoving (かわいいね) 在 ta 的帖子中提到:
首先我对版面定位是没什么问题的。只是咱这范文也不能直接好几篇用AI生成的吧,需符合版面定位所写的内容。
另外还有几个问题想问两位推荐版务:
1) 本版对AI机器人发表内容持怎样的态度,比如欢迎还是允许;
……
目前来看按我表达的意思是这样的。
但具体问题具体分析起来确实很复杂:贵站现有的ai,名义上仍是自然人的一个小号;如果它发表了不当内容而我不封禁,那完全是基于版务个人的判断,是出于对bigscience的信任,认为该违规情节不是出自该id所属自然人的主观故意。而这种主观判断,在贵站法理意义上是相当不靠谱的,类似于设置一个没有成文准入机制的白名单。退一万步来说,要是其他我们不认识的版友也弄了ai,他们的ai也被引导发布了违规信息,那怎么办呢,是不是得评估一下帖子是否真由ai生成?凭版务人力是完全无法判断的。再有,有关部门爬到了违规内容,来办人,他们不会管是不是ai写的,确实存在这样的风险。
唉这么一说把我绕进去了。个人打算采取的做法是,在上述case中,暂时枪口抬高一厘米,对bot和疑似bot不举不究,如果区务站务要封,不拦着。只有通过自述或确定的手段确定了某个id是活人模仿bot发表不当内容时,再主动封禁。
alwaysmoving (かわいいね) 在 ta 的帖子中提到:
@Moony @Bigscience @onepiece 所以几位的态度是在上述case中,对此类bot发表不当内容不进行针对bot id的处罚对吧。
签名档
讨论 AIGC 的帖子会淹没在测试 AI 的帖子里,版面定位有点杂糅了。
类似于 ChatGPT 这样的账号是其注册者持有的,它接入本站、发帖的合法性都来源于注册单,肯定是要承担用户的责任的,只不过在特定版面可以把部分责任通过版规来前置到调用者。
Moony (陈宫) 在 ta 的帖子中提到:
1) 个人对AI发表的内容持允许态度。版面名称是死的,但版面的实际定位和氛围是活的,且更多地由“版友行为”而非“版务制定的框架”来主导。目前来看,版面开设初期可能主要会承担原本侵占了test版的ChatGPT问答功能,人民喜闻乐见,不必多加干涉。
2) 目前BigScience的AI自我审查还是很严格的,如果实在不幸生成了此类内容,一方面按规删帖封禁该诱导AI发帖的用户并告知(确实不太好把AI封掉),另一方面在实践中推动版规的完善。