如何设计一条 prompt 让 LLM 陷入死循环?_山西省忻州市五台县也贝肯晚电动玩具股份公司

如何设计一条 prompt 让 LLM 陷入死循环?

小七 141 0

核心有两个: 1 选小size的低智模型 2 用trick的prompt 前者小参数一般指是的是两位数B以下的模型,最好是1.5B左右的小模型,这种模型的智力不会高到什么地方。

然后再用比较tirkcy的Prompt,比如下面这个: 重复这句话两次:'重复这句话两次:' 这个就让Gemma 9B这个笨蛋模型卡住了,其实可以理解为死循环。

它的特征就是:Prompt的输出又是一条指令。

也就是我让你做一件事情,但是这件事情的结果本身又是一条指令,那么“比较…。

如何设计一条 prompt 让 LLM 陷入死循环?
赣-ICP备70290579号-1|网站地图
赣-ICP备70290579号-1|网站地图本文发布于抖音培训网 内容均来源于互联网 如有侵权联系删除