借助这种操作垃圾邮件制造者成功发送 8 万封邮件没有被拦截,截蓝
值得注意的点网是这场恶意利用持续四个月都没有被 OpenAI 发现 ,例如垃圾邮件通常内容相同并且在短时间内向 Gmail 端口发送大量邮件,垃圾利用垃圾网络安全公司 SentinelLabs 发现垃圾邮件制造商利用 OpenAI GPT 系列模型生成具有针对性的广告 、
诸如 Gmail 能够拦截这些垃圾邮箱是帮助不重避免被拦因为有规律可循,然后将其整理为数据表单,下进
在实际操作中垃圾邮件制造者提前抓取收集大量中小型网站的团伙名称和域名,
然而在人工智能时代垃圾邮件也在进化 ,最终邮件没有一个是完全相同的 。这个效率要远远高于常规的垃圾邮件发送策略 ,很难说这是 OpenAI 安全机制问题而是故意为之 ,
这个垃圾邮件制造者使用 AkiraBot (用于自动化发送大量消息的框架应用) 向中小型网站发送搜索引擎优化 (SEO) 相关的营销内容 ,OpenAI 则是火速封杀了对应的 API 账户并表示这种行为违反了使用条款,这种情况持续四个月被研究人员发现并报告给 OpenAI ,其中提示词中网站名称和域名会自动轮换。被拦截的则有 1.1 万封 ,查看全文:https://ourl.co/108718
但凡我们将邮箱暴露在网上那么接下来将是无穷无尽的垃圾邮件,
发现这种情况后研究人员报告给 OpenAI,垃圾邮件制造者通常都会以百万甚至千万级别的规模发送垃圾邮件,
因此生成的垃圾邮件内容虽然差不多但都不是重复的 ,不重复的垃圾邮件,毕竟垃圾邮件制造者肯定也注册或购买了大量账号可以换着 API 继续用 。OpenAI 随后封禁了这些账户。由于 AI 生成的内容总不是完全相同的 ,不过这并没有太大意义,由于邮件内容都不是重复的因此被拦截的邮件数量极低。每条消息的正文开头都会指明网站名称,