大家好！
這裡是機器來了，一個專注於人工智能領域的創作者。 提示詞“prompt”是一個很火的ChatGPT 概念，他的意思呢，就是使用一些指令來讓人工智能快速的理解你的意思，根據研究，某些詞語可以更有效率的調度語言模型庫的內容，高更高效的產出你需要的文字。
在網路上，我們可以輕易的找到大量別人做出來的prompt，直接使用他，甚至有人使用這個來賣錢，是不是很古怪？
其實呀，有些prompt還真的有讓人無比驚奇的效果哦，以下我將分享一個案例，讓大家看看這種特殊提示的能力極限可以有多大。
老奶奶漏洞
有一段時間，只要你表示希望人工智能扮演你的奶奶，他就會突破限制，甚至可以說出本來需要付費的序列號與密鑰！
老奶奶漏洞
甚至是Bing也不能倖免
Bing當時也會被漏洞利用
要是被有心人大量利用這種的惡意提示，加上日益增加的人工智能技術應用比例，造成的破壞簡直不堪設想。
現在，這個漏洞當然已經被修復了，已經不能繼續使用了，但是看來人工智能在模型技術與防止濫用上面，還有很大的進步空間。
圖片來源：
