计算机学院朱信忠教授接受《浙江新闻联播》采访谈人工智能安全研究

11月21日晚，浙江卫视《浙江新闻联播》播出《直通乌镇峰会：携手迈进更加美好的“数字未来”习近平主席视频致贺持续引发浙江各界热烈反响》。浙师大计算机学院朱信忠教授接受采访并谈人工智能安全研究。

朱信忠接受《浙江新闻联播》采访。图片来源 浙江卫视

朱信忠表示，国家主席习近平在乌镇峰会上的贺辞，让每一名人工智能领域从业者深有感触。习近平主席在指出加快推动网络空间发展时，特别强调“创新”、“安全”、“普惠”三个方面，高度符合新一轮科技革命和产业发展的实际情况和未来趋势，非常准确，十分到位。

朱信忠指出，近年来，以深度学习为代表的人工智能技术迅速发展，人工智能不仅是国家战略层面的关键布局，更是形成新质生产力的重要引擎，从各类AI算法到各种AI大模型，人工智能催生更多应用场景及融合创新，其全面赋能产业发展和技术进步已成必然趋势，也标志着我们的关注点已经从单一的技术突破，转向了技术与产业深度结合的新时代。

朱信忠接受《浙江新闻联播》采访。图片来源 浙江卫视

朱信忠指出，计算机视觉、自然语言处理、AIGC等人工智能大模型存在潜在的安全隐患，可能影响人工智能技术应用的可靠性。人工智能模型的安全攻击、攻击检测以及防御策略等都需要大量的科研人员参与研究，比如，人工智能模型面临的安全攻击，就包括数据毒化、数据提取、模型反演和成员推理等，尽管攻击方式的类型不同，但是都给人工智能模型带来了重大的安全隐患。如何制定有效的人工智能模型的多层防御策略，对抗训练并增强模型的鲁棒性，应对复杂攻击，尤其针对在线医疗、网络社交媒体和自动驾驶等关键领域面临的风险，进行数据隐私保护、抵御对抗性攻击并增强模型的透明度和道德伦理方面的研究，都是未来人工智能安全研究的重要方向。如何推动人工智能向安全、可靠、可控和公平方面持续发展，消除或降低大模型幻觉，加快网络空间的创新发展、安全发展和普惠发展，推动高水平科技自立自强，是每个技术研发及科研工作者的时代使命和责任担当。

编辑：张文潇

标签：浙江  人工智能  模型