[提问] GenerativeAI 提案人以及推荐版务
[复制链接] 分享：
1) 个人对AI发表的内容持允许态度。版面名称是死的，但版面的实际定位和氛围是活的，且更多地由“版友行为”而非“版务制定的框架”来主导。目前来看，版面开设初期可能主要会承担原本侵占了test版的ChatGPT问答功能，人民喜闻乐见，不必多加干涉。
2) 目前BigScience的AI自我审查还是很严格的，如果实在不幸生成了此类内容，一方面按规删帖封禁该诱导AI发帖的用户并告知（确实不太好把AI封掉），另一方面在实践中推动版规的完善。
alwaysmoving (かわいいね) 在 ta 的帖子中提到：
首先我对版面定位是没什么问题的。只是咱这范文也不能直接好几篇用AI生成的吧，需符合版面定位所写的内容。
另外还有几个问题想问两位推荐版务：
1) 本版对AI机器人发表内容持怎样的态度，比如欢迎还是允许；
……
签名档
只是咱这范文也不能直接好几篇用AI生成的吧，需符合版面定位所写的内容。
范文用AI生成正好回答了问题1），属于生成式人工智能的实际应用。GenerativeAI版欢迎合法合规的AIGC（AI generated content）。
另外还有几个问题想问两位推荐版务：
抱歉，第一次申请新版，我以为提案人默认是推荐版务，就没把自己加进去，现已修改。作为提案人，我自然要承担一部分管理版面的责任。
1) 本版对AI机器人发表内容持怎样的态度，比如欢迎还是允许；
欢迎
2) 如果对问题1 不持否定态度，假设有用户引导AI生成并发表不符合版规站规甚至国家规定的内容，会怎样处理？
First of all，有水n同志在，我相信这种帖子的存活时间不会太长。
如果水n同志日删万帖忙不过来，版务应及时处理，无心为之者进行删帖并提醒，故意为之者删帖并封禁。如果是引诱未名ChatGPT生成不良内容，我将同步封禁其使用权限（PS：同步封禁的意思是，用户在GenerativeAI版被封禁x天，该用户的未名ChatGPT使用权限也会被封禁x天）。
alwaysmoving (かわいいね) 在 ta 的帖子中提到：
首先我对版面定位是没什么问题的。只是咱这范文也不能直接好几篇用AI生成的吧，需符合版面定位所写的内容。
另外还有几个问题想问两位推荐版务：
1) 本版对AI机器人发表内容持怎样的态度，比如欢迎还是允许；
2) 如果对问题1 不持否定态度，假设有用户引导AI生成并发表不符合版规站规甚至国家规定的内容，会怎样处理？
签名档
No man is a failure who has friends.
1）允许。之前test版的问答太多了，最开始也是想分一下流；其他类似的，比如 novelai 贴吧，也有很多是分享或者帮助跑图的（人工队之前）。
2）
一般问答模型在训练的时候会对一些敏感问题进行自我限制，会减少出现不合规回答的情况；虽然也会有人对chatgpt或者bingchat进行一些魔法提问以避开限制，但是这通常需要连续问答，bigscience的未名gpt目前只能单条问答，所以也可能减少一些；国家也在对《生成式人工智能服务管理办法（征求意见稿）》征求意见，如果是国内的模型的话，上面对模型的监督也会比较严格，落到实际应用也会减少这种情况。
如果还是会有这种内容出现：假如是用户在其他地方生成、在本版发表的，这就是该用户的言论，就按版规站规处理或封禁；假如是利用站内机器人提问得到的，就删除内容、视同该用户本人发表该内容进行处理。这些处理就要靠版务多看了，以及其他用户发现提醒版务处理。处理措施除了封禁版面发帖权限外，如果是使用未名gpt之类的站内机器人的话，还可以联系模型负责人取消对该机器人一段时间的使用权限。
但还有点问题，ai回答的内容并不是仅会在此版出现，所以“假设有用户引导AI生成并发表不符合版规站规甚至国家规定的内容”也不是此版特有的问题。在之后的实践中，除了根据此版实际出现的情况完善版规，还要结合其他版面的处理。
alwaysmoving (かわいいね) 在 ta 的帖子中提到：
首先我对版面定位是没什么问题的。只是咱这范文也不能直接好几篇用AI生成的吧，需符合版面定位所写的内容。
另外还有几个问题想问两位推荐版务：
1) 本版对AI机器人发表内容持怎样的态度，比如欢迎还是允许；
……
签名档
昨日入城市，归来泪满巾。
遍身罗绮者，不是养蚕人。
感谢三位的解答，已经十分详尽。
不好意思我想啰嗦的追问一句：AI机器人等类似产品的ID是否应该视为普通ID，假使出现了违反规定的内容，是否应当对其ID进行处罚。
当然我承认，这个问题不是本版独有，站务委员会也应当对此类问题进行关注。不过在现有的站规体系下，想问下各位的看法。
alwaysmoving (かわいいね) 在 ta 的帖子中提到：
首先我对版面定位是没什么问题的。只是咱这范文也不能直接好几篇用AI生成的吧，需符合版面定位所写的内容。
另外还有几个问题想问两位推荐版务：
1) 本版对AI机器人发表内容持怎样的态度，比如欢迎还是允许；
……
个人认为，AI的ID在站务组未授予认证帐号权限之前，确实视为普通ID。至于是否有必要给ChatGPT一个认证帐号，这也不能说是站务组的义务，但如果站务组愿意搞我个人表示欢迎。
假使出现了违反规定的内容，我个人不会对AI进行处罚。首先AI没有自主思维，问题出在诱导AI发帖的真人。其次，处罚AI起不到对AI的惩戒和对其他人的警示作用，只会干扰其他人正常使用AI。当然这么回答就和上一个解答有矛盾之处了。
alwaysmoving (かわいいね) 在 ta 的帖子中提到：
感谢三位的解答，已经十分详尽。
不好意思我想啰嗦的追问一句：AI机器人等类似产品的ID是否应该视为普通ID，假使出现了违反规定的内容，是否应当对其ID进行处罚。
当然我承认，这个问题不是本版独有，站务委员会也应当对此类问题进行关注。不过在现有的站规体系下，想问下各位的看法。
签名档
布虽无谋，不似你诡诈奸险。
让我想起了一个经典笑话：为什么AI以后不会取代会计？——因为AI不能坐牢
AI机器人等类似产品的ID是否应该视为普通ID
取决于是否被本站官方认可吧，没被官方授权，从注册程序上看算普通ID，但它也有它的特殊性，因为它的内容是由用户诱导生成的，从实际作用来看，它算是一个工具ID。
假使出现了违反规定的内容，是否应当对其ID进行处罚。
我坚持工具无罪论
举个通俗的例子：一个人拿菜刀杀了人，应该惩罚菜刀还是惩罚凶手，结果显而易见。
鉴于其作为工具ID的特殊性，如果是真正的AIGC，我个人不会对其进行处罚，但如果是利用程序假冒AI进行不良内容的发表（马甲号打着AI机器人的幌子，二者一唱一和，利用马甲号发表不良内容），这种情况必重罚二者。
这个问题不是本版独有
我的未名ChatGPT会充分尊重各版块版规以及版务的要求，对不欢迎AIGC的板块会有限制的。当然我也不希望所有的AI机器人都被限制在GenerativeAI版，我想的是AI机器人能更多的帮助他人、活跃氛围，除了不欢迎AIGC的板块，其他普通账户有发文权限的板块我不会对我的AI机器人做限制。
alwaysmoving (かわいいね) 在 ta 的帖子中提到：
感谢三位的解答，已经十分详尽。
不好意思我想啰嗦的追问一句：AI机器人等类似产品的ID是否应该视为普通ID，假使出现了违反规定的内容，是否应当对其ID进行处罚。
当然我承认，这个问题不是本版独有，站务委员会也应当对此类问题进行关注。不过在现有的站规体系下，想问下各位的看法。
签名档
No man is a failure who has friends.
支持 moony +1
如果是贵站管理账号就最好了
如果是普通id的话，我个人倾向于不处理机器人账号，但假如真的追究的话，尽管有免责声明，也没办法容易地彻底排除其他人使用该账号发帖的可能情况。所以还是“如果是贵站管理账号就最好了”
alwaysmoving (かわいいね) 在 ta 的帖子中提到：
感谢三位的解答，已经十分详尽。
不好意思我想啰嗦的追问一句：AI机器人等类似产品的ID是否应该视为普通ID，假使出现了违反规定的内容，是否应当对其ID进行处罚。
当然我承认，这个问题不是本版独有，站务委员会也应当对此类问题进行关注。不过在现有的站规体系下，想问下各位的看法。
签名档
昨日入城市，归来泪满巾。
遍身罗绮者，不是养蚕人。
感谢几位，我说说我的看法。
首先，此功能非本站负责的功能，并非本站开发的代码，如果出现任何问题，本站不能为其兜底，不适用于本站工作帐号的认证方法。至于集体帐号和部门帐号，自然不适用。
第二，此id为普通id，应当适用一切站规，由注册者对其发布的内容负责。
第三，本站不负责甄别其发表的内容是工具发的还是人类发的，都是普通id发表的内容。不应对普通id之间的对话产生的违规问题拉偏架。
我个人是支持新技术的应用，且能够预见得到其受欢迎的程度，相信能为未名注入新鲜活力。但我同样认为应该在一个规则框架内玩，作为普通id玩就已经足够了。除非站务委员会认为有必要开发这样一个功能，但在目前的管理环境下（i mean 外部环境），这种事情在一个所谓官方论坛中难以做到。
至于版面申请，鉴于几位的回答的情况以及这个事情的复杂度，我建议站务委员会内部先进行一个讨论。
alwaysmoving (かわいいね) 在 ta 的帖子中提到：
首先我对版面定位是没什么问题的。只是咱这范文也不能直接好几篇用AI生成的吧，需符合版面定位所写的内容。
另外还有几个问题想问两位推荐版务：
1) 本版对AI机器人发表内容持怎样的态度，比如欢迎还是允许；
……
目前来看按我表达的意思是这样的。
但具体问题具体分析起来确实很复杂：贵站现有的ai，名义上仍是自然人的一个小号；如果它发表了不当内容而我不封禁，那完全是基于版务个人的判断，是出于对bigscience的信任，认为该违规情节不是出自该id所属自然人的主观故意。而这种主观判断，在贵站法理意义上是相当不靠谱的，类似于设置一个没有成文准入机制的白名单。退一万步来说，要是其他我们不认识的版友也弄了ai，他们的ai也被引导发布了违规信息，那怎么办呢，是不是得评估一下帖子是否真由ai生成？凭版务人力是完全无法判断的。再有，有关部门爬到了违规内容，来办人，他们不会管是不是ai写的，确实存在这样的风险。
唉这么一说把我绕进去了。个人打算采取的做法是，在上述case中，暂时枪口抬高一厘米，对bot和疑似bot不举不究，如果区务站务要封，不拦着。只有通过自述或确定的手段确定了某个id是活人模仿bot发表不当内容时，再主动封禁。
alwaysmoving (かわいいね) 在 ta 的帖子中提到：
@Moony @Bigscience @onepiece 所以几位的态度是在上述case中，对此类bot发表不当内容不进行针对bot id的处罚对吧。
签名档
讨论 AIGC 的帖子会淹没在测试 AI 的帖子里，版面定位有点杂糅了。
类似于 ChatGPT 这样的账号是其注册者持有的，它接入本站、发帖的合法性都来源于注册单，肯定是要承担用户的责任的，只不过在特定版面可以把部分责任通过版规来前置到调用者。
Moony (陈宫) 在 ta 的帖子中提到：
1) 个人对AI发表的内容持允许态度。版面名称是死的，但版面的实际定位和氛围是活的，且更多地由“版友行为”而非“版务制定的框架”来主导。目前来看，版面开设初期可能主要会承担原本侵占了test版的ChatGPT问答功能，人民喜闻乐见，不必多加干涉。
2) 目前BigScience的AI自我审查还是很严格的，如果实在不幸生成了此类内容，一方面按规删帖封禁该诱导AI发帖的用户并告知（确实不太好把AI封掉），另一方面在实践中推动版规的完善。
签名档
