加拿大教授班吉歐宣布，他正在開發一款監控軟體，以應對生成式人工智慧（AI）技術的快速普及所帶來的風險。
主要內容
* 背景與目的：
* 班吉歐被譽為人工智慧革命的教父之一，他成立了非營利組織LawZero，旨在降低人工智慧的固有風險。
* 隨著AI代理技術的發展，這些技術能夠執行過去由人類完成的決策，風險隨之增加。
* 風險警告：
* 班吉歐指出，當前的AI開發主要是為了追求利潤最大化，這可能導致技術被惡意使用或出現問題。
* 他警告說，賦予AI類似人類的自主性可能會被用於散播假消息、生物武器和網絡攻擊等惡意目的。
* LawZero的計劃：
* LawZero的首要任務之一是開發「科學家人工智慧」（Scientist AI），這是一種專門訓練的AI形式，旨在確保其他AI的行為是正確的。
* 該組織目前擁有超過15名研究人員，並獲得了來自谷歌前執行長施密特及其妻子創立的慈善機構的資助。
班吉歐的努力反映了對於AI技術潛在風險的深切關注，尤其是在其應用日益廣泛的當前環境中。
這一監控軟體的開發可能成為未來AI安全性的重要一步，旨在確保技術的負責任使用。
