OpenAI 曝新漏洞,允许新用户“无限试用”
通过该漏洞,用户可以免费获得无限的信用额度来测试不同的OpenAI项目,包括ChatGPT。
不久前,OpenAI 为了让用户尝试其他开放的人工智能项目,特意为新用户提供了免费的信用积分额度(约7美元)。随后网络安全公司Checkmarx表示,目前发现了一个漏洞,允许用户滥用试用,并在新账户上获得无限的信用积分额度。
研究人员表示:通过拦截和修改OpenAI的API请求,我们发现了这一漏洞。该漏洞能够使用同一个电话号码注册任意数量的账户,获得无限的免费积分额度。
为了注册试用,用户必须输入他们的电子邮件地址,点击发送到收件箱的激活链接,输入一个电话号码,然后输入短信验证码。电子邮件和电话号码都必须是唯一的,用户才能获得免费的积分额度。
然而,不法分子为了让同一账户获得更多的信用积分额度。他们对电话号码进行细微的改动,例如在国家/地区代码前面添加前缀。最终,他们通过使用同一电话号码的不同前缀的变化绕过了要求。
研究人员解释说:这一漏洞允许一个恶意的用户拥有多个账户,并获得更多的信用积分额度,而且用的是同一个电话号码。
但这对他们来说似乎还不够,因为他们想将信用积分值提高到一个更恐怖的数额。
然后,研究人员将开源工具REcollapse投入使用。这允许用户模糊输入和绕过验证等。
经过一些初步测试,观察到OpenAI API对一些模式进行了清理。在某些非ASCII(美国信息交换标准代码)字节上使用Unicode编码使我们能够绕过它并注册更多帐户。
目前该公司在收到通知后修复了该漏洞。
给 AI 上“紧箍咒”,美国斥资 1.4 亿美元成立 7 个国家级科研机构
IT之家 5 月 5 日消息,美国宣布投资 1.4 亿美元(IT之家备注:当前约 9.67 亿元人民币),成立 7 个国家级人工智能研究机构,确保美国在 AI 领域保持领先的同时,遏制 AI 引发的道德、社会问题等担忧。
美国政府于去年 10 月提出了相关的倡议,目前已得到 Anthropic、Google、Hugging Face、Microsoft、NVIDIA、OpenAI 和 Stability AI 六家公司的承诺,将提交他们的人工智能系统供专家社区进行公开评估。
美国政府在一份声明中表示:“AI 需要负责任的创新,在不损害这些公司权利和安全的情况下,这些是改善人们的生活的重要步骤”。
文章来源 :freebuf、IT之家
精彩推荐