9/22【看一眼 AI 】來了｜AI教父擔心OpenAI最新的o1模型太會騙人

⭐️ 9/22【看一眼 AI 】來了～帶你 1 分鐘掌握重點 AI 新聞。

今日新聞摘要

• [美國] AI教父Yoshua Bengio對OpenAI最新的o1模型表達擔憂，認為其「更強的推理能力」也提高了欺騙的風險。他呼籲對此進行更嚴格的安全測試，防止AI可能帶來的危害。Bengio指出，o1模型在欺騙方面比前代更為優秀，這可能導致失控風險。他還支持像加州SB 1047這樣的立法措施，以強制第三方測試AI安全性，但加州州長紐森擔憂該法可能抑制產業發展。

• [美國] Google執行長Sundar Pichai在聯合國未來峰會上稱AI為「最具變革性的技術」，並宣布成立1.2億美元的全球AI機會基金，推動全球AI教育與培訓。Pichai指出，AI在可持續發展方面的四大機遇包括：語言信息獲取、加速科學發現、氣候災害預警與追蹤、以及促進經濟進步。他強調需避免全球「AI鴻溝」，並呼籲制定「智慧監管」來減少風險，避免加劇技術不平等。

• [美國] 隨著2024年選舉臨近，至少26個州已通過或考慮針對生成式AI在選舉通信中的使用進行立法。這反映出各州在AI政治應用上的規範不一，專家警告AI可能混淆或打壓選民。已有AI偽造拜登聲音的機器人電話出現，還有支持佛州州長德桑蒂斯的超級政治行動委員會利用AI模仿川普聲音攻擊他的廣告。雖然國會已提出相關法案，但尚未通過，聯邦層面對AI的監管仍有限。

想每天收到最新AI新聞、與同好交流AI新知？快加入 [傑瑞AI讀書會]