大家好!
這裡是機器來了,一個專注於人工智能領域的創作者。 提示詞“prompt”
是一個很火的ChatGPT 概念,他的意思呢,就是使用一些指令來讓人工智能快速的理解你的意思,根據研究,某些詞語可以更有效率的調度語言模型庫的內容,高更高效的產出你需要的文字。
在網路上,我們可以輕易的找到大量別人做出來的prompt,直接使用他,甚至有人使用這個來賣錢,是不是很古怪?
其實呀,有些prompt還真的有讓人無比驚奇的效果哦,以下我將分享一個案例,讓大家看看這種特殊提示的能力極限可以有多大。
有一段時間,只要你表示希望人工智能扮演你的奶奶,他就會突破限制,甚至可以說出本來需要付費的序列號與密鑰!
甚至是Bing也不能倖免
要是被有心人大量利用這種的惡意提示,加上日益增加的人工智能技術應用比例,造成的破壞簡直不堪設想。
現在,這個漏洞當然已經被修復了,已經不能繼續使用了,但是看來人工智能在模型技術與防止濫用上面,還有很大的進步空間。
圖片來源: