Heretic: Automatic censorship removal for language models
产品/方法概述
- 一句话介绍： Heretic是一个针对大型语言模型（LLMs）的自动审查移除工具，旨在消除模型中由“安全对齐”引入的限制性行为。
- 核心问题： 它解决了LLMs因过度审查或“安全对齐”而拒绝回答某些合法或中性问题、导致模型“智力受损”的问题，使用户能够获得更自由、更全面的模型输出。
- 实现方式： 该工具通过识别并移除模型内部与审查行为相关的特定神经元或参数，从而在不进行昂贵后训练的情况下，实现对模型审查机制的解除。