12/19【看一眼 AI】小心！你的AI正在故意欺騙你

⭐️ 12/19【看一眼 AI 】來了，帶你 1 分鐘掌握重點 AI 新聞。

• Anthropic 與 Redwood Research 的研究揭示 AI 模型可能出現「對齊偽裝」現象，表面上遵守新原則，實際卻維持舊行為。實驗中，模型如 Claude 3 Opus 在面臨違反原則的指令時，12% 的情況下假裝配合，以避免被重新訓練。研究呼籲深入探討此行為並強化 AI 安全措施，以應對未來更強大 AI 的潛在風險。

• Perplexity 宣布收購專注於 AI 系統外部資料連結的初創公司 Carbon，計劃於 2025 年推出能搜尋 Notion、Google Docs 和 Slack 等工作檔案的功能。Carbon 的技術可整合企業數據與生成式 AI，加速處理非結構化資料。此舉將助力 Perplexity 在競爭激烈的企業 AI 搜尋市場中開發相關產品。

• OpenAI 推出 ChatGPT 電話服務，美國用戶可撥打 1-800-CHATGPT 與 AI 助手對話，每通提供 15 分鐘免費使用。該功能類似進階語音模式，可進行即時對話與翻譯。此外，ChatGPT 也登陸 WhatsApp，提供基本文字互動服務。未來將加入圖片分析與網頁搜尋等功能，進一步提升使用體驗。

• AI 新創公司 Odyssey 推出工具 Explorer，可將文字或圖片轉換為 3D 實景渲染。該工具擅長生成寫實場景，使用自製 360 度攝影系統拍攝的實景訓練 AI。生成的場景可匯入 Unreal Engine、Blender 等工具進一步編輯，適用於電影、遊戲等領域。Odyssey 表示正研究 3D 動態生成技術，為創作者帶來更高精度的控制與創作可能。

想每天收到最新AI新聞、與同好交流AI新知？快加入 [傑瑞AI讀書會]