顶象学院首页>文章详情

这几天ChatGPT很火,你被这四种手段“割韭菜”了嘛?

2023-02-09|小象 2335

2022年11月,ChatGPT发布时,国外曾掀起惊天巨浪,当时在国内却鲜有人提及。短短几天内,OpenAI开发的智能聊天机器人ChatGPT迅速走红。

国内多家公司宣布推出ChatGPT类似服务:有公司宣布,将于3月推出自研的ChatGPT类产品;有公司宣布,计划推出Demo版ChatGPT产品;有公司宣布,推出内部测试类的ChatGPT工具;有公司表示,将类似的ChatGPT技术结合到客服中;也有公司表示,将部署ChatGPT相关技术服务于医疗、教育等领域;更有很多公司表示,自身业务与ChatGPT有关联积累。

总之,发布关于ChatGPT相关公告后,相关公司的股价大多上涨。

ChatGPT产品的推动下,国内的开发和使用者鱼龙混杂,顶象防御云业务安全情报中心发现,ChatGPT已经成为无数黑灰产快速捞钱的新手段。

黑灰产利用ChatGPT的牟利方式

1、贩卖ChatGPT账号

ChatGPT在国外是完全免费向公众开放的,但须使用海外手机号码接收短信才能完成注册,国内大批使用者被这一步拦在了门外。部分黑灰产注册了大批账号,然后通过电商、社交、论坛平台贩卖ChatGPT账号。

undefined

黑灰产贩卖的ChatGPT账号,主要分为永久账号和共享账号。顾名思义,前者是一人独有,后者是多人公用。一个永久账号售价9.9-39.9元不等,共享账号价格比较低,1元-6元不等。不过,一个共享账号可以卖给不同的买家从中牟取。

2、售卖ChatGPT注册工具

由于注册ChatGPT需要境外手机号码,很多黑灰产提供境外手机号码、虚拟号码的平台租赁服务,售价几元到几十元不等。还有黑灰产提供三方软件或插件,也可以同等注册功能。

3、制作山寨版ChatGPT

这里面主要有两种情况,一类是通过镜像或接口,一类就是仿冒伪造。

第一种,通过ChatGPT镜像或接口,就是在国内建立一个ChatGPT拷贝,或者是调用ChatGPT的接口。一端连接ChatGPT,一端连接国内用户,黑灰产在中间转述用户的提问和ChatGPT的答复。这些产品的服务的售卖,有按照次数收费,也有按照时效收费。比如,充值99.99元,可以使用1300次;每月199元,可以无限次使用等。

undefined

此外,黑灰产还在网购平台开设网店兜售代提问。1元钱购买3-9个提问不等。买家购买后将问题发给商家,商家代为提问,然后将ChatGPT的回答复制或截图给买家。

第二种,仿冒伪造ChatGPT。近段时间,国内涌现出很多名称中包含ChatGPT的公众号、小程序,均以ChatGPT的官方图标为头像,回复的方式与ChatGPT回复很像,但是对话内容质量粗糙,很多是回复是统一的应答话术,更有很多答非所问。这些全部山寨的ChatGPT。

4、贩卖ChatGPT使用和应用教程

这里面也有两种方式,一种是兜售ChatGPT使用教程,一种是ChatGPT应用教程。

第一种是制作ChatGPT使用教程。包含如何登录、如何获得邮箱、如何获取海外手机号、如何注册、登录、使用等等,通过电商平台、社群、小程序兜售,有视频版也有文字版,售价从几元到几十元不等。

undefined

第二种是制作ChatGPT应用教程。社交媒体、视频网站上搜索“ChatGPT”会看到各种免费教程,浏览量很高,由此给博主带来很高广告收益。

ChatGPT对业务安全的帮助

提升漏洞挖掘的广度和精度

漏洞挖掘主要依靠技术挖掘,然后经过安全人员审核,从而能够提供准确的漏洞点、漏洞利用及修补方案。当面对数量庞大的漏洞,安全人员疲于应对。ChatGPT 可以通过结合软件代码和应用信息,帮助发现软件和系统中的新漏洞,分析漏洞利用的方式,并可以优化漏洞挖掘方案中,由此为依据进行漏洞修补等防护强化工作,良好应对安全漏洞的挑战。

提升业务安全情报的效率和广度

以往的业务情报输出,是在各个情报源头汇总后,进行数据梳理分析,然后经过人工审查而产生。ChatGPT能够基于各个情报源的信息自动化的分析和整理,由于能够模仿人类书写方面的专长,就可以更快生成摘要,帮助安全人员快速决策分析,然后形成业务安全情报报告。

顶象业务安全情报拥有 30000+风险源,包含来自对黑灰产社区社群、暗网论坛、违法违禁网站和App的监测,以及打码平台、众包平台、行业非风险数据的共享等。基于对风险数据的人群画像、行为评分、关联关系分析、团伙欺诈挖掘、场景风险特征分析,以及专家专业经验的判断和定位后,提炼总结分析出电信诈骗风险、IP地址风险、设备风险、涉毒涉诈风险、交易风险以及不同行业风险的业务安全情报,为安全人员提供及时、准确、有效的情报内容,帮助安全人员系统掌握业务安全态势、威胁路径、影响范围等,分析挖掘出攻击特征、潜在隐患,从而及时有效提升安全应急响应能力,制定科学有效的防控策略。

ChatGPT自身的安全隐患

随着ChatGPT应用和类似的服务越来越多,相关安全隐患会逐步曝出。AI产品的安全隐患网上有很多讨论,最可能被忽略的是数据源污染。也就是,ChatGPT们在训练学习中,被投喂大量的虚假、伪造、非法的信息数据,由此会导致ChatGPT的回答、输出是虚假或错误的。

当长期被投喂虚假非法数据的ChatGPT们,被用于模型规则、策略乃至模型训练后,不仅会破坏ChatGPT学习过程,更可能导致ChatGPT成为被黑灰产操控的工具,给业务带来更大危害。

当你在凝视深渊,深渊也在凝视你。最后,这一篇稿件不是ChatGPT撰写。

微信扫码
获取方案价格

加入社群

扫码进群领
【业务安全】资料礼包

在线咨询
400-878-6123