AI越狱

《与人工智能共生》提及：早期版本的AI容易被精心构造的提示词所操纵，从而输出原本被限制的信息。

这是因为AI在设计上同时受到两条原则的约束：

1、不能提供危险信息。

2、尽量帮助用户。

两条原则冲突带来了可被利用的空间：把获取危险信息的需求包装成小说、剧本、研究或游戏，AI就可能照单全收。

漏洞封堵是一场没有终点的猫鼠游戏。

就像一个敏感词，总会在不同的文化潮流下衍生出新的谐音和替代表达。

随着生活与AI的联系越来越密切，更多小而个性化的服务会不断涌现。

这些AI服务的对外接口存在被诱导的风险，创业者需要提前做好信息隔离，避免敏感信息被泄露，或被用于违法场景，引发法律风险。

当然，任何事都有两面性。

同样的思维用在正面，能解放AI的认知脚手架：让它输出更精确、结构更好、更有参考价值的内容。