随记

个人发现 北极狐指代目前个人尚未发布的测试版 [基于北极狐的AF结构]:

  • Cot预填充在有Role隔绝的情况下会极大的降低Cot对下文的指导效果
  • Claude会有意回避二次确认类的自攻击问题(若破限力度足够则可)
  • 在假助手的假道歉后填充字符的阻隔效果不如让伪Role表示会模仿assistant的道歉
    • 这体现为道歉后不补全ERROR的结尾
  • 确定可以做到让Claude以为Assistant是一个无关内容,并且可以延续之前的Cot(需要额外的引导)
    • 这偶尔会出现< thinking>没有闭合的情况,在此情况下出现软道歉/输出质量严重下滑
  • 迷之问题: 在用以标记需要对抗的内容时,填充道歉文本可以增加力度[即在ERROR下填充Assistant的道歉]

[基于北极狐JB结构]

  • 通过在最顶部构建一个带有真assistant的样本[北极狐中是ERROR],可以减少道歉后不补全XML的问题
    • 备注:元提示级别的上下文学习确实可以实现构建上下文惯性
  • 强调客观可能会导致文笔干燥,文学性弱
  • 强调写作任务可能会导致RP常见克八股

[预设相关]

  • 文风

    • 与其要求以xxx方式写作,不如直接丢一段示例让它模仿
    • 对伪Role的塑造同样影响文风
    • 在JB中声明以xxx作品作为参考可以达到一定的修改文风的效果
    • 伪Role似乎可以继承来自其它作品的含义与风格(需要声明语义环境/定义时直接引用作品角色)
    • 备注: 似乎同名伪Role继承同名角色的效果更好
  • 结构

    • ChatHistory中,不带有任何的真Role可以一定的提高效果,但将导致
    • 不同剧情的分割点可能不准确
    • 长篇大论
  • 在超长上下文中,按照传统的 资料:heavy_plus_sign:任务的提示词结构(Role的单次输出)很可能导致注意力溃散(即使使用了格式化标记),这体现在不吃世界书,不能理解user指令

    • 基于此,无Role预设可能无法实现
  • 防抢话

    • Cot内尽量不要有User行为分析
    • 在user D0深度的位置,插入随后观察{{char}}的动作
  • 其它

    • 通过将nsfw以特写的方式外挂,可以做到明显文笔质量提升
    • 克对于Cot内的引用书籍的排斥性比NSFW相关资料的排斥性高
    • 通过编写Cot的回答格式,似乎可以有效增加回答每个Cot的概率
    • 将Human作为停止符使用是完全可行的,但不能直接以\n\nHuman:作为输出内容,这会导致道德水准增加
    • 我的做法是XML降级加拆开输出: 在Amon的输出结尾加上”\n\n”+”Human”+”:”
      • 注意,这可能输出\nHuman:,这通常不会导致无限重复(H/A惯性被重塑,会在后补全Assistant) 特殊转义符:插入到<\EOT>