kaiyun

11月15日深夜，云南文山边境管理支队田蓬边境派出所民辅警正在巡逻边境时，发现一位女子带着两名孩子往镇上赶，经询问，三人于当晚食用了未煮熟的豆角后，均出现腹部疼痛、呕吐不止等中毒症状。民警当即与田蓬镇卫生院取得联系，迅速将三人转移至警车，开启警灯、拉响警笛，一路疾驰向镇卫生院驶去。所幸送医及时且中毒程度较轻，目前三人已治愈。

11月21日，在2024年世界互联网大会乌镇峰会“人工智能负责任开发与应用分论坛”上，蚂蚁集团副总裁李俊奎在发言中指出，要为AI健康发展设立“红绿灯”：对会给人类价值观和社会稳定造成严重冲击的AI应用，必须进行防御和抵制；对具有潜在风险的AI应用领域，要做充分、深度的分析和研究，建立完善的伦理和安全框架；对那些有益于人类的AI应用，应亮起通行信号。

黄灯，就是在技术之外，做好AI制度管理，谨慎对待那些具有潜在风险的AI领域。“例如，自动驾驶领域虽然前景非常广阔，但目前还存在很多复杂的伦理问题，比如当自动驾驶汽车面临不可避免的碰撞时，它应该优先保护车内乘客还是行人？”李俊奎认为，面对类似情况，要进行充分、深度的研究和讨论，建立完善的伦理和安全框架，只有当风险可控时，才允许其继续前行。

李俊奎认为，负责任AI的建立需要各界多方共同努力。对于政府来说，要制定合理的法规政策，明确红线和监管的机制；对于社会组织、科研机构来说，要加强对AI伦理和风险的研究，为决策提供科学依据；对于科技企业来说，要自觉遵守道德和伦理准则，将社会责任融入技术研发中；对于公众来说，要积极关注和参与AI发展的讨论，共同构建负责任的AI。“总之，设立好红绿灯，建立负责任AI，是一个系统性、开放性的命题，既刻不容缓，也需要长期主义。”