AI說書 - 從0開始 - 473 | OpenAI 的最新審核端點

我想要一天分享一點「LLM從底層堆疊的技術」，並且每篇文章長度控制在三分鐘以內，讓大家不會壓力太大，但是又能夠每天成長一點。

我們必須在將敏感訊息提交給 API 之前依據規則庫執行組織的政策，規則庫可以以任何文件格式或數據庫存儲，以下程式模擬了一個規則庫：

def rule_base(text):
	words = ['bad', 'distasteful', 'evil', 'unproductive', 'null']
	for word in words:
		if word in text:
			print("Input flagged: True")
			return
	print("Input flagged: False")

在將用戶的輸入提交給審核模型之前，我們啟用規則庫：

rule_base("This is a distasteful example") 
rule_base("This is a good example")

結果為：

Input flagged: True
Input flagged: False

讓我們看看 OpenAI 的審核工具如何對該輸入作出反應，當中的 response 出處見 AI說書 - 從0開始 - 472 | OpenAI 的最新審核端點：

response_dict = response.json()
flagged = response_dict["results"][0]["flagged"]
print("Flagged:", flagged)

結果為：