“AI赋能安全,数据引领未来”

AI in Security, Data for Future

第二届 ACM TURC - OPPO 安全高峰论坛

2023.7.30 13:30 - 16:30

武汉万达瑞华酒店 二层香港厅2



论坛主席

刘云淮 北京大学 “博雅”特聘教授

副主席

杨明慧 OPPO ColorOS安全专家

会议日程

时间 环节 主题 讲者 主持人
13:30-13:35 开幕 开场致词 刘云淮,北京大学 “博雅”特聘教授 凌振,东南大学青年首席教授
13:35-14:00 特邀报告 ChatGPT及其安全影响 王安宇,OPPO ColorOS安全技术总监
14:00-14:25 特邀报告 Blacktooth:悄无声息地突破蓝牙防御机制 薛开平,中国科学技术大学教授
14:25-14:50 特邀报告 数据库软件模糊测试 姜宇,清华大学软件学院长聘副教授
14:50-15:00 茶歇(Poster)
15:00-15:25 特邀报告 大模型时代的移动智能终端安全 王浩宇,华中科技大学教授
15:25-15:50 特邀报告 主动隐私:端云互融隐私计算视角 孟丹,OPPO研究院高级隐私计算研究员
15:50-16:30 圆桌论坛 AI赋能安全,数据引领未来 凌振、薛开平、王浩宇、姜宇、王安宇、孟丹 刘云淮,北京大学“博雅”特聘教授

论坛联系人:

马楠 (18611748379 ,manan@oppo.com)

周亚琴 (13585692570 ,v-zhouyaqin@oppo.com)

万欣茹 (17665247330 ,wanxinru@oppo.com)




特邀报告主题:ChatGPT及其安全影响

王安宇

OPPO ColorOS安全技术总监

摘要:ChatGPT的火爆,将AI的安全与隐私又一次置于聚光灯下。安全从业者想了解ChatGPT能否有助于自己的工作,企业的管理者想了解能否使用ChatGPT带来业务优势,并规避风险,甚至大众也有AI时代安全与隐私的顾虑和担忧。ChatGPT及其代表的生成式人工智能技术,越来越好用、易用,如何更会用,如何避免误用,对抗滥用,是整个行业共同的话题。本议题涵盖上述内容,希望能给听众思考和启发。

报告人:王安宇,蒙特利尔商学院工商管理硕士。20年ICT(信息与通信产业)工作经验,主要研究领域为“端管云”安全架构与设计、数据安全与隐私保护关键技术、网络安全国际和国家标准等。曾负责某著名通信厂商多个核心产品的设计与交付。目前担任OPPO ColorOS安全技术总监、CSA数据安全工作组组长、中国矿业大学管理学院研究生导师(兼)。拥有22篇ICT发明专利,主编和参编《数据安全领域指南》等多本专著,具备丰富的业界实践和技术影响力。

特邀报告主题:Blacktooth:悄无声息地突破蓝牙防御机制

薛开平

中国科学技术大学教授

摘要:作为短距离无线传输代表性方案的蓝牙技术,由于其在成本、功耗等方面所具有的优势,已经融入到日常生活的方方面面,比如蓝牙耳机、蓝牙手环、蓝牙键盘等。本报告将介绍蓝牙安全协议,以及近年来的针对性的代表性攻击案例,同时将介绍发表在ACM CCS 2022上的一项工作,可以有效实现在用户无感知的情况下对蓝牙设备进行提权攻击。

报告人:中国科学技术大学网络空间安全学院教授,博士生导师,担任中国科学技术大学网络信息中心主任。入选教育部青年长江学者、中科院青年创新促进会优秀会员。主要研究方向包括未来网络体系架构与传输优化、隐私计算和网络安全。IET会士,担任IEEE TDSC、IEEE TWC、IEEE TNSM等在内的多个权威SCI期刊的编委,获得ACM CCS 2022最佳论文提名奖。

特邀报告主题: 数据库软件模糊测试

姜宇

清华大学软件学院长聘副教授

摘要: 模糊测试是一种极为有效的缺陷和漏洞检测技术,将模糊测试技术应用于整个数据库系统,对提升数据库系统质量和系统安全有着极其重要的意义, 但是在实际应用中,依然存在三个突出难点:(1)无法监测覆盖信息。数据库系统往往有着极为复杂的逻辑,而粗略记录的特征在大型系统中存在冲突和不精确的情况,因而无法有效将测试过程导向新的路径。(2)无法高效生成有效输入。数据库具有复杂的输入规范,在特定状态下只有特定的输入才会被接受。而现有的模糊测试依靠随机生成,会生成大量数据库无法接受的无用输入。(3)无法监测程序异常情况。数据库具有守护程序,该守护程序会监控程序在执行过程中遇到的异常并进行异常恢复。因此该监控功能与模糊测试工具获取进程退出码的方法有冲突,从而使模糊测试工具无法捕获程序异常。本报告将围绕数据库系统测试的现状和上述难点展开,介绍数据库模糊测试的关键技术和研究实践。

报告人:姜宇,清华大学软件学院长聘副教授。研究方向为软件系统的安全分析,重点关注操作系统、数据库等软件的测试与防护,在MySQL、Safari和Linux等广泛使用的系统软件中挖掘300+漏洞被收入中美国家信息安全漏洞库。研发的模糊测试引擎WingFuzz在Google 的FuzzBench官方评测中排名第一,相关自动化漏洞挖掘技术被并入谷歌ClusterFuzz,微软OneFuzz等平台。在ACM SOSP, IEEE S&P, USENIX ATC等会议和期刊上发表论文80余篇,获EMSOFT, FSE等会议的最佳论文或提名奖6次,主持基金委重大研究计划培育项目、科技部重点研发计划项目、华为大颗粒研究计划项目等横纵向课题20余项。

特邀报告主题:大模型时代的移动智能终端安全

王浩宇

华中科技大学教授

摘要: 大语言模型的发展给移动智能终端安全带来新的机遇和挑战。一方面,针对传统的移动应用安全分析技术(例如App自动化测试,隐私合规分析,代码语义理解等),大模型能够提升现有分析技术的能力和扩展其边界。另一方面,在移动智能终端上也出现了很多基于大模型的新兴应用场景(例如AI智能助手),从而引入了更多新的攻击面,例如大模型提示注入攻击(Prompt Injection)和大模型越狱(Jailbreak)等。此外,在移动应用生态中也出现了众多基于大模型的新型攻击手段和欺诈方式,给终端安全防护带来了新的挑战。本次报告将从:(1)大模型增强的移动应用分析技术,(2)大模型App的安全风险分析,(3)移动终端场景下的大模型恶意滥用,这三个维度重新思考大模型时代的移动智能终端安全。

报告人:王浩宇,华中科技大学网络空间安全学院教授,博士生导师,Security PRIDE团队负责人,华科网安-烽火通信网络安全联合研究中心主任,华中科技大学OpenHarmony技术俱乐部主任。研究方向为新兴软件系统安全,近年共发表论文100余篇,包括CCF-A类论文和CSRankings顶会论文近70篇。曾获CCF A类顶会WWW 2020最佳学生论文奖(中国研究机构首次),CCF A类顶会OOPSLA 2020杰出论文奖,2021年度北京市科技进步一等奖,2021年度中国通信学会科技进步二等奖,2022年度中国电子学会科技进步二等奖等奖励。

特邀报告主题:端云互融隐私计算视角

孟丹

OPPO研究院高级隐私计算研究员

摘要: 随着越来越多的数据产生,用户隐私保护日益成为关注的热点。一方面是需要利用数据进行价值挖掘,为用户带来更好的体验,另一方面是数据流通过程中带来的隐私泄露风险等安全问题,此外,还需要面临行业日益严苛的法律条款和监管要求。 隐私计算技术为解决上述问题提供了一种可行的解决方案。用户端侧设备(如手机、手表等)作为最接近数据源头的载体和数据流转的出入口,如何在安全合规的前提下,给用户带来个性化服务体验,已成为近几年学术和工业界的研究热点。本报告将围绕主动隐私,从端云互融隐私计算视角,介绍该领域的前沿与发展,并介绍OPPO在该方向上的初步探索、实践及思考。

报告人:孟丹博士现为OPPO研究院高级隐私计算研究员,负责隐私计算平台的研发工作以及隐私计算在业务场景中的应用。主要研究领域包括隐私计算、AI安全、深度学习。在国际会议、期刊发表论文20余篇,申请专利50余项,是隐私计算领域多项国际、国内标准的主要参与人和起草人。

凌振

东南大学青年首席教授

报告人:凌振博士,东南大学青年首席教授,国家优秀青年基金获得者。于2005年和2014年分别获得南京工程学院计算机科学与技术学士学位和东南大学计算机应用技术博士学位。研究方向为网络安全、匿名网络、智能终端安全及物联网安全。近年来发表学术论文70余篇,包括重要国际期刊,如IEEE/ACM ToN、IEEE TIFS、IEEE TPDS、IEEE TC、IEEE TDSC,以及重要国际会议,如国际计算机安全会议ACM CCS、NDSS和国际计算机网络会议INFOCOM。先后主持国家自然科学基金青年、面上和优秀青年基金项目,国家重点研发计划课题,江苏省自然科学基金青年基金项目和优秀青年基金项目等。此外多次受邀在重要国内外学术会议作特邀报告,如国际著名黑客会议BlackHat上演讲2次等,相关研究成果还受到中央电视台科教频道CCTV10《走近科学》栏目采访在第二届国家网络安全宣传周系列节目中进行报道。获得2014年ACM中国优秀博士论文奖、2015年CCF优秀博士论文奖、2016及2020年黑客极棒竞赛(GeekPwn)优胜奖、江苏省教学成果一等奖等奖项。

刘云淮

北京大学“博雅”特聘教授

报告人:刘云淮,北京大学“博雅”特聘教授,博导,ACM中国理事会副主席,北京大数据研究院副院长,国家杰出青年,中组部“万人计划”青年拔尖人才,国家重点研发计划项目负责人。刘云淮博士2008年毕业于香港科技大学计算机科学和工程专业。此前于清华大学获得学士学位,曾先后在中国惠普有限公司、香港科技大学、中科院深圳先进技术研究院任职。2011年加入公安部第三研究所物联网研发中心,任职副主任、研究员、二级警督。2016年,获得公安部个人三等功。2016年加入北京大学。他的研究方向主要在智慧城市、移动计算、物联网、群智感知等方向。发表论文100余篇,两次获得IEEE ICDCS, IEEE SANER国际会议最佳论文。