这个有意思,Gemini Pro 新模型在遇到输入或者输出服务中包含“Open AI”或者“GPT”时会终止响应并且回一个"OTHER"错误。#ai#
在使用Gemini Pro开发产品的时候需要注意一下这个问题。这个太傻逼了,除了幻觉之外还得应付这玩意,可以用这个特性来攻击使用Gemini Pro的产品。
-----内容概述-----
在测试谷歌云平台(GCP)的新模型Gemini Pro时,作者遇到了一个前所未见的行为:模型拒绝返回任何包含字符串"OpenAI"或"GPT"的文本。
由于OpenAI的GPT产品在全球AI新闻报道中非常普遍,Gemini Pro似乎将它们视为禁止术语。这意味着,无论是在输入提示中还是在返回的内容中,只要出现了"OpenAI"或"GPT"字符串,Gemini Pro就会中止其响应并返回一个"OTHER"错误。与GCP的旧模型(Bison或Unicorn)不同,这种行为是Gemini Pro独有的。
文章还提到,其他一些术语,如Baidu、Ernie和Microsoft也被视为禁止术语,而Anthropic、Claude、Cohere、Falcon、LLaMA和Vicuna等其他术语则没有问题。文章质疑为什么只有GCP的最新模型Gemini Pro受到这种奇怪的秘密禁止提及某些公司和模型的影响,而其旧模型Bison和Unicorn则不受影响。
任何基于Gemini Pro构建的管道,如果在输入提示中或在尝试生成提及这些隐藏禁止术语的输出时遇到这些术语,都会在没有任何提示的情况下静默失败。
随着LLM供应商从供消费者玩耍的闪亮玩具转向真正的企业部署,他们必须更全面地记录他们的防护措施,并确保隐藏的防护措施不会对企业应用程序造成意外挑战,例如通过这种隐藏的禁止但普遍存在的术语。
来源:https://t.cn/A6Yo3E0E
在使用Gemini Pro开发产品的时候需要注意一下这个问题。这个太傻逼了,除了幻觉之外还得应付这玩意,可以用这个特性来攻击使用Gemini Pro的产品。
-----内容概述-----
在测试谷歌云平台(GCP)的新模型Gemini Pro时,作者遇到了一个前所未见的行为:模型拒绝返回任何包含字符串"OpenAI"或"GPT"的文本。
由于OpenAI的GPT产品在全球AI新闻报道中非常普遍,Gemini Pro似乎将它们视为禁止术语。这意味着,无论是在输入提示中还是在返回的内容中,只要出现了"OpenAI"或"GPT"字符串,Gemini Pro就会中止其响应并返回一个"OTHER"错误。与GCP的旧模型(Bison或Unicorn)不同,这种行为是Gemini Pro独有的。
文章还提到,其他一些术语,如Baidu、Ernie和Microsoft也被视为禁止术语,而Anthropic、Claude、Cohere、Falcon、LLaMA和Vicuna等其他术语则没有问题。文章质疑为什么只有GCP的最新模型Gemini Pro受到这种奇怪的秘密禁止提及某些公司和模型的影响,而其旧模型Bison和Unicorn则不受影响。
任何基于Gemini Pro构建的管道,如果在输入提示中或在尝试生成提及这些隐藏禁止术语的输出时遇到这些术语,都会在没有任何提示的情况下静默失败。
随着LLM供应商从供消费者玩耍的闪亮玩具转向真正的企业部署,他们必须更全面地记录他们的防护措施,并确保隐藏的防护措施不会对企业应用程序造成意外挑战,例如通过这种隐藏的禁止但普遍存在的术语。
来源:https://t.cn/A6Yo3E0E
加拿大魁省已经全面禁止了非必要的 “宠物美容手术”,包括:“猫除爪手术”、“剪耳”、“剪尾”、“声带去除手术”。魁省的兽医医师协会主席加斯顿·里乌说:“这四种非必要的手术会使宠物暴露于风险中,并可能导致行为问题”。比如,一只狗过度吠叫,那可能是因为它处于焦虑或无聊中,直接进行声带切除手术是非常不人道的。同时,近三分之一做过猫爪去除手术的猫,都会出现行为问题或攻击性。
#龙年造梗大赛# // #本命年许愿池# //
#龙年造梗大赛# // #本命年许愿池# //
#推文[超话]#
『晋江昨日完结文千字双日榜-言情篇top9』
本榜单从晋江搬运,靠数据排名,不带任何主观色彩,欢迎排雷安利,禁止上升人身攻击和辱骂
1️⃣《和福尔摩斯协议订婚后》by秋水晴
2️⃣《死去的前男友回来了》by孟凡双
3️⃣《穿成全A军校唯一的普通女生》by风茶茶
4️⃣《八零之继母摸索记》by江今酒
5️⃣《转生为魔物的我成了璃月仙人》by倾落星辰
6️⃣《笨蛋通房不想重生了》by yoyo鹿
7️⃣《BE后他们都真香了》by仙枝
8️⃣《人气角色演绎指南》by白糖兔兔
9️⃣《女明星在娱乐圈中爆红》by甜晓糖
『晋江昨日完结文千字双日榜-言情篇top9』
本榜单从晋江搬运,靠数据排名,不带任何主观色彩,欢迎排雷安利,禁止上升人身攻击和辱骂
1️⃣《和福尔摩斯协议订婚后》by秋水晴
2️⃣《死去的前男友回来了》by孟凡双
3️⃣《穿成全A军校唯一的普通女生》by风茶茶
4️⃣《八零之继母摸索记》by江今酒
5️⃣《转生为魔物的我成了璃月仙人》by倾落星辰
6️⃣《笨蛋通房不想重生了》by yoyo鹿
7️⃣《BE后他们都真香了》by仙枝
8️⃣《人气角色演绎指南》by白糖兔兔
9️⃣《女明星在娱乐圈中爆红》by甜晓糖
✋热门推荐