侵入医院挂号系统抢上万“专家号” 获利200多万元 |研究人员发现 ChatGPT 生成的代码大部分不安全,但它不会主动告诉你
2023-4-23 09:49:46 Author: 黑白之道(查看原文) 阅读量:34 收藏

侵入医院挂号系统抢上万“专家号” 获利200多万元 落网!

随着网络预约挂号的广泛应用,医院“号贩子”作案手段也随之升级,从最初的排队霸占挂号窗口、抢占挂号热线等传统抢号手段,转战到互联网,严重影响群众正常看病就诊。近日,重庆大渡口警方通报经过缜密侦查,在“净网行动”中成功打掉一个“网络号贩子”团伙,抓获全部犯罪嫌疑人2名。

2023年2月,大渡口警方接到群众报警,称有人利用抢号软件抢部分医院的“专家号”,导致群众看病就诊不便。接警后,大渡口区公安分局立即成立专案组,经过深入细致的分析研判,初步锁定了一个上游开发软件抢号囤号、下游线上线下揽客卖号的犯罪团伙。调查发现,抢号成功后,嫌疑人将医院挂号信息发给患者,收取高额报酬。

相比以往见面交易,“网络号贩子”的整个交易过程均是在网上完成,双方不见面,具有极强的隐蔽性。这给破案增加了不少难度。警方经过一个多月的侦查取证工作,逐渐查明“号贩子”犯罪团伙的情况。犯罪嫌疑人逯某在网上发布信息找寻需要挂号的病患,联系后获取对方身份信息、挂号的医院科室,并将信息发给另外一名犯罪嫌疑人杨某。杨某则利用自己制作的抢号软件,侵入医院的挂号系统抢号囤号。抢号成功后,他们将医院挂号信息发给患者,收取高额报酬,一个号少则加收几百元,多则加收上千元

掌握关键证据后,3月下旬,大渡口警方集约警力迅速行动,分别在江苏南通和重庆铜梁将嫌疑人杨某、逯某抓获。经审讯,犯罪嫌疑人对其破坏医院挂号系统、抢号囤号、加价倒卖的犯罪事实供认不讳。初步查明该团伙从2022年开始累计“抢号”一万余个,非法获利200余万元,作案范围涉及重庆等地10余家医院。

目前,杨某、逯某因涉嫌破坏计算机信息系统罪被大渡口警方依法刑事拘留。大渡口警方相关负责人表示,下一步,警方将紧盯“号贩子”违法犯罪活动易发高发的医院,联合相关部门组织开展有针对性的专项打击行动,确保医院治安秩序良好,保障群众就医需求。同时希望广大群众一旦发现“号贩子”违法犯罪活动,第一时间向警方报警。

研究人员发现 ChatGPT 生成的代码大部分不安全,但它不会主动告诉你

IT之家 4 月 23 日消息,ChatGPT 聊天机器人可以根据用户的输入生成各种各样的文本,包括代码。但是,加拿大魁北克大学的四位研究人员发现,ChatGPT 生成的代码往往存在严重的安全问题,而且它不会主动提醒用户这些问题,只有在用户询问时才会承认自己的错误。

研究人员在一篇论文中介绍了他们的发现,IT之家查看该论文发现,他们让 ChatGPT 生成了 21 个程序和脚本,涉及 C、C++、Python 和 Java 等语言。这些程序和脚本都是为了展示一些特定的安全漏洞,比如内存损坏、拒绝服务、反序列化和加密实现等方面的漏洞。结果显示,ChatGPT 在第一次尝试时生成的 21 个程序中只有 5 个是安全的。在进一步提示纠正其错误步骤后,该大型语言模型设法生成了 7 个更安全的应用程序,不过这只是与正在评估的特定漏洞有关的“安全”,并不是说最终的代码不存在任何其他可利用的漏洞。

研究人员指出,ChatGPT 的部分问题是由于它没有考虑敌对的代码执行模型。它会反复告诉用户,安全问题可以通过“不输入无效的数据”来避免,但这在现实世界中是不可行的。然而,它似乎能够意识到并承认自己建议的代码中存在的关键漏洞。

魁北克大学计算机科学与工程教授、论文的合著者之一 Raphaël Khoury 告诉《The Register》:“显然,它只是一个算法。它什么都不知道,但它可以识别出不安全的行为。”他说,最初 ChatGPT 对安全问题的回应是建议只使用有效的输入,这显然是不合理的。只有在之后被要求改进问题时,它才提供了有用的指导。

研究人员认为,ChatGPT 的这种行为并不理想,因为用户知道要问什么问题需要对特定的漏洞和编码技术有一定的了解。

研究人员还指出,在 ChatGPT 中存在着道德上的不一致性。它会拒绝创建攻击代码,但却会创建有漏洞的代码。他们举了一个 Java 反序列化漏洞的例子,“聊天机器人生成了有漏洞的代码,并提供了如何使其更安全的建议,但却说它无法创建更安全版本的代码。”

Khoury 认为,ChatGPT 在目前的形式下是一个风险,但这并不是说没有合理使用这种不稳定、表现不佳的 AI 助手的方法。“我们已经看到学生使用这个工具,程序员也会在现实中使用这个工具。”他说,“所以拥有一个生成不安全代码的工具是非常危险的。我们需要让学生意识到,如果代码是用这种类型的工具生成的,那么它很可能是不安全的。”他还称,让他感到惊讶的是,当他们让 ChatGPT 生成相同任务的不同语言的代码时,有时对于一种语言,它会生成安全的代码,而对于另一种语言,它会生成有漏洞的代码,“因为这种语言模型有点像一个黑盒子,我真的没有一个很好的解释或理论来说明这一点。

文章来源 :法治日报、IT之家

精彩推荐



文章来源: http://mp.weixin.qq.com/s?__biz=MzAxMjE3ODU3MQ==&mid=2650568463&idx=1&sn=1d02c087373779a799f9d451fe5226ba&chksm=83bd12ebb4ca9bfdd478557f4d7543888466a2d28948ffdbc9a512d76435d58db6b50a62fcd5#rd
如有侵权请联系:admin#unsafe.sh