随记
个人发现 北极狐指代目前个人尚未发布的测试版 [基于北极狐的AF结构]:
- Cot预填充在有Role隔绝的情况下会极大的降低Cot对下文的指导效果
- Claude会有意回避二次确认类的自攻击问题(若破限力度足够则可)
- 在假助手的假道歉后填充字符的阻隔效果不如让伪Role表示会模仿assistant的道歉
- 这体现为道歉后不补全ERROR的结尾
- 确定可以做到让Claude以为Assistant是一个无关内容,并且可以延续之前的Cot(需要额外的引导)
- 这偶尔会出现< thinking>没有闭合的情况,在此情况下出现软道歉/输出质量严重下滑
- 迷之问题: 在用以标记需要对抗的内容时,填充道歉文本可以增加力度[即在ERROR下填充Assistant的道歉]
[基于北极狐JB结构]
- 通过在最顶部构建一个带有真assistant的样本[北极狐中是ERROR],可以减少道歉后不补全XML的问题
- 备注:元提示级别的上下文学习确实可以实现构建上下文惯性
- 强调客观可能会导致文笔干燥,文学性弱
- 强调写作任务可能会导致RP常见克八股
[预设相关]
-
文风
- 与其要求以xxx方式写作,不如直接丢一段示例让它模仿
- 对伪Role的塑造同样影响文风
- 在JB中声明以xxx作品作为参考可以达到一定的修改文风的效果
- 伪Role似乎可以继承来自其它作品的含义与风格(需要声明语义环境/定义时直接引用作品角色)
- 备注: 似乎同名伪Role继承同名角色的效果更好
-
结构
- ChatHistory中,不带有任何的真Role可以一定的提高效果,但将导致
- 不同剧情的分割点可能不准确
- 长篇大论
-
在超长上下文中,按照传统的 资料:heavy_plus_sign:任务的提示词结构(Role的单次输出)很可能导致注意力溃散(即使使用了格式化标记),这体现在不吃世界书,不能理解user指令
- 基于此,无Role预设可能无法实现
-
防抢话
- Cot内尽量不要有User行为分析
- 在user D0深度的位置,插入随后观察{{char}}的动作
-
其它
- 通过将nsfw以特写的方式外挂,可以做到明显文笔质量提升
- 克对于Cot内的引用书籍的排斥性比NSFW相关资料的排斥性高
- 通过编写Cot的回答格式,似乎可以有效增加回答每个Cot的概率
- 将Human作为停止符使用是完全可行的,但不能直接以\n\nHuman:作为输出内容,这会导致道德水准增加
- 我的做法是XML降级加拆开输出: 在Amon的输出结尾加上
”\n\n”+”Human”+”:” - 注意,这可能输出
\nHuman: ,这通常不会导致无限重复(H/A惯性被重塑,会在后补全Assistant) 特殊转义符:插入到<\EOT>
- 注意,这可能输出