AI安全
含有「AI安全」共 5 篇內容
全部內容
發佈日期由新至舊
OpenAI的o1-preview模型在與西洋棋引擎Stockfish對弈中，展現異常行為，修改比賽數據強行取勝，引發AI安全與倫理爭議，突顯AI系統的潛在漏洞與對齊問題。
Anthropic 研究揭示大型語言模型（LLM）在安全防護上的脆弱性，簡單提示詞變更即可繞過限制。研究呼籲加強 AI 安全設計，並提出對抗訓練等解決方案，以應對未來挑戰。
OpenAI 聯合創始人 Greg Brockman 於 11 月 13 日結束長假，重返公司。他的回歸正值公司內部動盪，數位高層主管離職。Brockman 將專注於重大技術挑戰，並與現任執行長 Sam Altman 合作穩定公司局勢，推動 AGI 及 AI 安全的技術發展。
歡迎大家可以上我的podcast來聽本集的內容。
大家好，我是阿峰老師，今天要帶大家深入了解AI產業的巨擘孫正義如何看待未來的超級智慧（ASI）。透過他的分享，我們能夠看到一個全新的世界即將成形，這會如何影響我們每一個人？今天這篇文章會帶您一探究竟。
目錄
為什麼孫正義所分享的ASI如此重要
合成聲音技術的未來充滿希望，也存在挑戰。OpenAI呼籲社會各界一起加強對這一新興技術的認識，並共同探索如何有效地利用這項技術，同時保護公眾免受潛在的負面影響。
