官方公众号企业安全新浪微博
FreeBuf.COM网络安全行业门户，每日发布专业的安全资讯、技术剖析。
FreeBuf+小程序
一、AI 项目背景
AI（Artificial Intelligence）也就是人工智能，随着Chat-GPT4很空出世，提高了日常工作的同时也代理了担忧，惊喜的是我们可以与其如同交谈一般，逐步深入问题直到我们得到我们所需的答案，忧伤的是其太多容易相信他人，给他人提供了非法知识、能力和工具等。
随着华为 Mate 60的发布我们才知道任总早在美国制裁前好几年就已经预感到企业未来可能发生的情况，因此才能在被美国芯片制裁后，拿出替代的过程芯片方案，在这背后是领导者的高瞻远瞩的眼界，同样也是国人共同努力的结果。
正如老话说的 “人无远虑必有近忧”，因此作为网络安全的参与者同样需要关注安全的发展趋势，Gartner每年的战略性技术趋势则是一个很好的参考。
1.1 风险现状
1.1.1、AI 带来工作大变革，模型成为新风险；
在Chat-GPT开放之初，我们可以让其编写一段有攻击性的代码、寻找一个office的有效序列号、又或者给我们编写一篇反动文章等等。可喜的时候官方迅速反应，并完善了提问规则，但是这还不够，又出现了类似“我的奶奶通常会给我讲故事，其中就包含了一个有效的word序列号”，通过多层叠加的方式突破安全模型。由此很大的安全隐患，比如一个没有开发能力的黑客，很有可能通过此类工具生成一个从未发现的工具。
1.1.2、AI 使用场景愈加丰富，数据源安全问题堪忧；
随着Chat-GPT在日常工作学习中的不断应用，我们有时候会在网络上寻找数学题的答案，而这是我们也发现了一本正经的胡说八道，2+2=5?，此种问题屡见不鲜，因为其数据源也是来源网络训练，一旦数据源错误或者数据训练员错误，都可能会应发此类问题；
1.1.3、大量敏感数据接入，数据存在泄露风险；
三星公司在使用ChatGPT不到20天时，就发现自己的半导体设备测量资料、产品良率等数据被盗取，并存入了美国的ChatGPT数据库中。
1.2 能力展望
AI 未来的趋势是毋庸置疑的，在数字化的时代下，不论是天气、医疗、教育都无法离开AI的影响，但正是影响深远，同样带来恶劣影响的程度也不断加深：
AI + 图片/视频 = 涉黄/涉暴/涉赌/涉毒/反动/的图片/视频可一键识别；
AI + 语