“你的图很好,但下一秒就是我的了。”

我们经常能在某些梗图或表情包的评论区看到类似的玩笑,然而当盗图行为真实发生在社交软件中,其带来的后果可未必能有这么轻松。

在如今的互联网时代,眼见不一定为实。部分不法分子利用科技盗取他人照片,建立包装出一个更有社交优势的虚假人设,利用此进行社交乃至诈骗行为,这种“假人设”行为的主要表现:

• 虚假外观:通过盗用使用他人人像等手段,以实现“增加性吸引力”目的;

• 虚假生活方式:通过展示不属于自身的高价值物品,伪造当前经济实力,增加社交优势;或营造“卖惨哭穷”人设,以达到网乞、引流等目的;

• 虚假个人信息:通过编造个人姓名、年龄、身高体重、冒充职业、夸大成就等方式,伪造个人形象,达到社交目。

如果以上“假人设”行为无法得到治理,将导致社交平台上不真实的内容泛滥,以及由于部分“假人设”行为目的不纯,更可能导致骗炮、杀猪盘等恶劣行为滋生,引发用户不安全感,降低用户对平台内容的信任度。

今年以来,国家网信办实施“清朗”系列专项行动,严厉打击网络生态中的突出问题。Soul App积极响应国家倡议,履行了其作为平台的社会责任。为进一步净化网络环境,Soul App生态风控团队建立专项小组,针对“假人设”问题进行分析,在“假人设”的治理策略中,全新推出“瞬间假人设风险提醒”功能。

从全站到全网,图片识别再升级

图片已成为“假人设”诈骗的主要工具,其中不乏涉及人像、财产、身份等敏感内容。此前,Soul App已推出图片查重功能,帮助网友能更好地辨别内容真实性,一度引发网络热议,该功能可针对高风险图片进行预警——

当系统检测到图片在站内有重复使用时,会立即提示用户“系统识别该图片曾在站内出现过”,这样的即时提醒有助于用户快速识别潜在的虚假身份,有效遏制不实信息的扩散,进而规避经济上的损失。

而随着“瞬间假人设风险提醒”功能的上线,Soul App也对图片识别模型进行升级,由之前的只能识别站内图片,升级为全网图片识别,大幅提升了识别范围和准确性,提醒话术相应更新为:“请注意甄别信息真伪,避免上当受骗。”

即便是站外盗图,在Soul上也会被一眼识破

若在私聊场景中,系统会直接提示:您的聊天对象可能存在虚假人设情况,请保持警惕

升级后的图片识别技术,已超越了单一的站内重复性检测。通过融合图片格式分析、历史行为追踪、图库比对等多种维度的技术,结合先进的人像识别算法,Soul App的风控团队目前已能精确评估出图片人像的真实性。全自动化系统能够高效识别和处理站内的盗图问题,从而显著提升对站内虚假图片和盗图行为的管理能力。

风控模型升级,精准识别假人设

真的假不了,假的真不了。“假人设”既然为假,便总有露出马脚的时候。Soul App的风控模型已具有全维度的监控能力,包括且不限于私聊、发帖或各个公域场景中图片、语音与文字内容的识别。

很多假人设在构建身份叙述时,常常会出现与真实情况不符或前后叙述不一致的破绽,通过精确地捕捉这些身份矛盾点,并针对性地对相关用户进行识别和分类,对内能显著增加站内的人像识别效率,对外能提升用户体验,创建更符合用户期待的社区环境。

针对各大社交平台上频发的“假人设”现象,如假冒‘警察’、‘离异带娃’等身份,Soul App迅速识别并锁定可能存在风险的用户群体,通过多维度的考察方法,包括但不限于:年龄及地理位置的异常、人设的可疑性、高危职业身份、潜在的受害者特征、网络图片盗用等,风控模型将对这些指标进行重点持续监控,以确保平台环境的安全性和真实性。

准确率超95%,治理工作成效显著

得益于Soul App团队在平台风控上的努力,“瞬间假人设风险提醒”自上线以来,已经实现超过95%的准确率和60%的覆盖率,在近一个月的时间内,发送提醒超57万次。

步履不停,今年7月份至今,Soul App创新研发了“AI辅助识别”“网络乞讨行为识别”“虚假人设识别”等能力,累计研发并上线各项反诈策略共计430余条,平台反诈识别能力显著提升。据通报数据显示,从Soul App导流发案的案件数量连续下降,第三季度发案数比前一季度下降13%,平台治理工作成效显著。

一直以来,Soul不懈追求和推动真诚社交的理念。平台相信,社交的本质在于人与人之间真实、坦诚的交流与连接。为了实现这一愿景,Soul不断投入资源和技术创新,旨在打造一个安全、可靠且富有温度的社交平台。通过引入先进的人工智能技术,加强风控策略与内容审核,确保用户在Soul上的每一次互动都是基于真实的身份和真诚意图,让虚假无处遁形。