生成式AI該不該被列成研究作者?你知道他會亂畫出有超大OO的老鼠嗎...

席捲全球的 ChatGPT 已在科學文獻中同樣具有相當大的影響力，甚至有四篇研究將其列為作者。如下圖，它Citations為907，比我還高QQ。但還是不要太相信生成式AI，因為有研究圖片被發現是生成AI畫的圖片，圖片中的老鼠具有比身體還大的雞雞。

言歸正傳，關於生成式AI能不能當作者。Nature新聞調查幾位出版界領導者對於將生成式AI納入科學研究作者的意見：

Nature 雜誌的主編 Magdalena Skipper 在倫敦表示，生成式AI不符合作者資格的標準。她說：作者的有義務對研究工作的負責，而這種責任不能有效地適用於生成式AI。 她建議，在撰寫論文時以任何方式使用生成式AI 的作者應在方法或致謝部分記錄其使用情況。

Taylor & Francis出版社的出版倫理與誠信總監 Sabina Alam 表示，該出版社正在審查其政策。她同意作者對其研究工作的有效性和完整性負有責任，並應在致謝部分引用任何使用的生成式AI。她說，Taylor & Francis還沒有收到將 生成式AI認為共同作者的提交稿件。

關於生成型 AI 的倫理問題，英國研究誠信辦公室的研究誠信經理 Matt Hodgkinson 在倫敦以個人身份發言時指出，已經有明確的作者指南表明生成式AI不應該被認為是共同作者。他說，共同作者需要對文章做出重大學術貢獻，但它也必須有能力對研究承擔責任。真正的問題在於後者，生成式AI並無法對其產生內容負責，並且給的看法立場常常並不固定。例如:如果你多次詢問同一個問題，ChatGPT會給出不同的回答。

確實，ChatGPT確實會產生許多莫名其妙，甚至荒唐的內容，這些內容甚至溜過作者和期刊編輯的法眼，刊登到了期刊上，我提出一些我看到的例子。

Elsevier的期刊出版過一篇研究(如下圖)，該研究同樣有用ChatGPT痕跡，橘色標記ChatGPT常說的口頭禪。

Elsevier的Radiology Case Reports同樣也出版過一篇研究(如下圖)，該研究同樣有ChatGPT的口頭禪(我是一個AI模型...)。

Elsevier又一篇..該研究同樣有ChatGPT的口頭禪。

一名在Reddit的國外網友表示，他是香港一所大學的教授，對這起具體事件很熟悉。這位「學者」是一位多產作者，每年發表多篇 SCI 期刊論文——自去年以來已發表 19 篇。有趣的是，負責研究的編輯無一例外都在廣州的大學。通常在學術界，期刊編輯知道作者的身份，而同儕審稿者和作者則對彼此的身份一無所知。這稱為雙盲審查制度。然而，期刊編輯有權選擇讓特定同儕審稿者審查，並對那些論文可以發表具有最後決定權。這種情況說明了一種腐敗形式，讓學術編輯和作者可以相互合作，今天我當作者你當編輯，明天你當作者我當編輯。

最好笑的還是Frontiers in Cell and Developmental Biology，這期刊自稱"With a collaborative, rigorous and transparent peer-review, the journal produces the highest scientific quality in both fundamental and applied research, and advanced article level metrics measure the real-time impact and influence of each publication."

然而它卻接受並發表的一項很荒唐的​究，該研究大量使用的圖顯然是人工智慧工具Midjourney生成的，其中有一張為老鼠長了一個巨大雞雞(見下圖)，圖中也出現人工智慧生成的無意義詞彙。這篇論文經過美國和印度科學家的同行評審和批准，已被撤回，並由編輯道歉。

許多出版社意識到這件事情的嚴重性，開始要求作者在投稿時自行揭露研究是否有使用AI工具。以Elsevier為例，Elsevier的期刊要求作者提交聲明，說明在寫作過程中使用了哪些AI工具，以及對內容進行了哪些人為審查和修改:

• Title of new section: Declaration of generative AI and AI-assisted technologies in the writing process.
• Statement: During the preparation of this work the author(s) used [NAME TOOL / SERVICE] in order to [REASON]. After using this tool/service, the author(s) reviewed and edited the content as needed and take(s) full responsibility for the content of the published article.

最後，請ChatGPT為生成式AI的豐功偉業做一段結語，讓大家知道ChatGPT和升旗時的校長一樣多會打官腔...

總而言之，生成式AI在學術研究中的應用前景廣闊，但也需要謹慎對待。我們必須平衡技術進步與學術誠信，確保科學研究的質量和信譽不受影響。學術界需要制定更加嚴格的規範和審查機制，保障研究成果的真實性和可靠性。