美国宣布成立AI安全委员会 多位科技界高管在列！
当地时间4月26日，美国国土安全部宣布成立人工智能（AI）安全委员会，应对日益发展的人工智能的安全与保障问题，邀请了OpenAI、英伟达、微软和亚马逊等科技巨头的高管担任会员。
据悉，该委员会预计将为运输部门、管线和电网营运商、网路服务提供商等提供相关建议，预防在AI充分发展之际，关键部门受其干扰而影响国家经济或公众安全。
一段时间里，美国国家安全官员一直对该国关键基础设施的脆弱性表示担忧，如潜在的物理攻击、网络入侵等故障。美国国土安全部长Alejandro Mayorkas表示，AI技术为改善基础设施服务、造福民众日常生活提供了“巨大的机会”，但也带来了巨大的风险。AI在提高燃料管道、通信网络、航空和医疗效率及安全性的同时，也产生了许多意想不到的问题。
他还警告称，在关键基础设施方面，如果不能以安全、可靠和负责任的方式部署AI，很有可能导致毁灭性的后果。
长期以来，美国政府在很大程度上放松了对科技行业的监管，但近年来，对消费者数据隐私、反垄断问题和虚假信息等担忧，两党对硅谷的看法出现了变化。
去年4月，美国国土安全部层宣布将成立一个AI特别工作组，研究如何利用AI来处理如保护关键基础设施、检查货物等事务的同时，调查该技术可能造成的威胁。
同年10月，美国总统拜登发布了成立AI安全委员会的行政命令，外媒称这是拜登政府对AI技术采取的第一项具有约束力的重大行动。
该行政令要求：美国AI系统的研发人员需与政府分享其安全测试结果及其他关键资讯；完善相关标准和测试工具，确保系统的安全性和可靠性；制定严密的合成生物检查新标准，防范AI设计危及生物材料的风向；建立检测AI生成内容的验证标准；研发并制定”国家安全备忘录“，指导该产业的进一步行动。
并命令AI公司在开发任何“对国家安全、国家经济安全或国家公共卫生与安全构成严重风险”的系统时，必须提前向政府申报。
据了解，该委员会22名成员的构成十分多元化。除OpenAI的Sam Altman、AMD的苏姿丰、英伟达的黄仁勋、Alphabet的Sundar Pichai等人以及AI行业的其他领导者以外，还有一众领域内学者和民权领袖，如白宫科技政策办公室主任Arati Prabhakar和西雅图市长Bruce Harrell。
这种多元化的成员结构将确保委员会在决策的同时能够充分考虑到各方利益和需求，从而制定出更加全面、科学的AI安全使用策略。
相关人员表示，委员会预计将在今年5月举行首次会议，并计划未来每季度召开一次会议。
你可能也想看
