微软AI工具或可生成危险图片 内部工程师发出警告

微软AI工具或可生成危险图片 内部工程师发出警告

微软（股票代码：MSFT）公司近日面临一项内部爆料，一名人工智能工程师声称公司的人工智能图像工具可能会生成具有暴力和色情性质的图像，或对社会造成潜在危险。

据资深软体工程经理Shane Jones透露，他在致联邦贸易委员会（FTC）和微软董事会的信函中表达了对微软“负责任人工智能”策略的质疑。

他表示，Copilot Designer工具可能会被用于生成包含色情内容、阴谋论以及毒品使用等不安全的图像，领域不限于政治偏见、未成年人饮酒和吸毒、滥用公司商标和版权、阴谋论以及宗教等。因此，他呼吁微软采取行动，暂时下架该工具，并在确保安全性的前提下重新上线。

Jones还表示，微软的环境、社会和公共政策委员会应当进行独立调查，以确保微软在人工智能领域遵循行业最高标准，并与政府和民间社会开展合作，加强公众对人工智能风险与益处的认知教育。

对于此次爆料，微软公司立即做出了回应，他们将根据公司政策处理员工的质疑，并感谢Jones对公司最新技术的研究和测试，以进一步提高其安全性。

值得注意的是，微软Copilot Designer工具运用的技术与OpenAI的ChatGPT相同，结合了OpenAI的DALL-E 3文字生成图像工具，允许用户根据输入的文字描述生成图像。微软希望通过Copilot for Microsoft 365这一人工智能升级工具成为数十年来最受欢迎的产品之一，该工具可导入Word、Outlook和Teams软件中使用。

除此之外，此次爆料也引起了对竞争对手谷歌（股票代码：GOOG）的人工智能产品的关注。此前，谷歌因其旗舰聊天机器人Gemini处理种族和族裔问题而遭到批评，而暂停了生成人物图像的功能。

综上所述，微软面临的这一内部爆料引发了公众对人工智能安全性的关注，公司将需要采取进一步措施来确保其人工智能工具的安全性和可靠性，以应对潜在的风险和挑战。

#美股新闻##微软Copilot##人工智能#