速看!阿里清华等一手安全技术信息
2022-11-30 18:0:22 Author: 看雪学苑(查看原文) 阅读量:11 收藏

最近,#AI绘画有多离谱#的相关话题火上热搜,比如明明是欢喜的结婚照,被 AI 绘画软件加工后,新郎被“挂”在墙上,剩下新娘一人;少女和狗的合影中,作为主角的少女被AI绘画理解成了“狗”。看上去,AI绘画软件的“理解力翻车”是源于高维数据合成任务十分复杂,导致生成结果不可控,出现了各种搞笑的错误。但是,在医疗、自动驾驶等多种领域的“AI翻车”会产生严重的问题,比如误诊耽误治疗、高速行驶的自动驾驶车辆识别错误引发交通事故。
如何从底层构建更稳定的AI,避免AI大翻车?11月30日下午,7位来自阿里巴巴、清华大学、上海交大等公司和高校的90后和00后研究者分享了他们在对抗学习、贝叶斯深度学习、异常检测、鲁棒评估、噪声学习、鲁棒动态图学习、偏微分方程求解等方向上发表的研究成果,共同探讨如何打造更加安全可靠的智能技术,这些研究成果均被AI顶会NeurIPS收录。
毛潇锋是阿里巴巴人工智能治理与可持续发展研究中心(AAIG)的一名算法工程师。进入阿里以来,他最重要的工作就是研究如何通过对抗训练来增强AI的鲁棒性,这些研究能力被应用在非常接地气的直播和图片内容审核中。在实际应用中,直播摄像头的光线变化、主播对商品的快速晃动等因素都会对抗AI对违规商品的识别,如果AI识别的稳定性难以保障,漏过违规商品,最终受损的还是消费者。
《利用离散对抗训练增强视觉表征》是毛潇锋的分享议题。“如果把图片拆成一个个像素,对某个或者多个像素点进行修改,往往可能引起AI无法识别,我所做的工作就是对AI进行对抗训练,让它不纠结于少量不引起图片本质内容的像素级别的改变,AI模型依然认出这张图片表达的含义。”毛潇锋解释道:“就像我今天戴了眼镜,但这并不妨碍我还是我。”他认为,将这种能力用于平台风控后,能更好地守护消费者的安全。
董胤蓬是清华大学计算机系的一名95后博士后研究员,已发表30多篇顶级国际期刊和会议论文,主要专注于深度学习鲁棒性的研究。他本次的分享集中在3D世界的视角变化对AI视觉识别产生的影响。董胤蓬举例:“这项研究与自动驾驶场景密切相关,如果前车车辆发生车祸,自动驾驶车辆可能以非常不正常的视角拍摄了图片或视频,从而影响识别和判断,我关心的是,在3D空间里,如果拍摄视角或者其他视觉条件出现变化,AI是否能正确识别,从而避免车祸发生。”
“希望通过研究分享,让大家关注真实世界的安全性问题。我想知道,AI 用它的‘眼睛’看世界时,是否处于非常稳定和精准的状态。” 董胤蓬强调道。
00后的刘松铭是清华大学的在读本科生。在他的研究中,他试图利用物理信息机器学习方法解决结构优化等广义上的“安全”问题。
刘松铭选取了燃料电池组、飞机机翼等场景介绍:“假如我们要建模一个安全稳定可靠的电池,需要模拟电池的动态,比如它的温度或电流分布,这是一个物理问题,但我想用数学的办法探索,然后通过神经网络求解。”他希望用“AI”探索广义的科学问题,包括解决至关重要的安全问题,让AI研究者从交叉学科中找寻思路。
在这场AI安全的主题分享中,众多年轻的AI研究者从别出心裁的角度探索了如何构建更安全可靠的智能技术,而这场研究分享背后,是主办方阿里巴巴和清华大学试图探讨如何打造负责任的好科技。
今年阿里巴巴集团科技伦理治理委员会正式成立,提出“以人为本、普惠正直、安全可靠、隐私保护、可信可控、开放共治”六项伦理准则,着手风险能力建设和技术能力建设,重点关注技术的安全性、公平性、可解释、鲁棒性、可干预性。
除了涉及AI鲁棒性的研究,阿里还有关于隐私保护的研究被数据库领域三大顶级会议之一的VLDB 2023收录,文章提出了更高效的联邦梯度来提升决策树训练,在隐私保护和模型准确性之间取得了更好的平衡。
阿里巴巴集团科技伦理治理委员会执行主席、AAIG主任薛晖表示:“这些研究者的探索最后会反哺于实际应用,帮助集团和社会建设负责任的好科技。对安全可靠的重视和关注是也是企业社会责任感的重要体现。我很高兴,越来越多的年轻研究者们不断投身于此,一起促进人工智能技术的健康发展。”

图说:科技伦理治理研究分享会议程


球分享

球点赞

球在看

“阅读原文一起来充电吧!

文章来源: http://mp.weixin.qq.com/s?__biz=MjM5NTc2MDYxMw==&mid=2458486007&idx=2&sn=39d5af291f8abf9c3005580ac60259a3&chksm=b18eb47d86f93d6b759377366cbdb17ae334e6e6e19b43295fa2df27b529677c6fefc9053475#rd
如有侵权请联系:admin#unsafe.sh