你被AI(人工智能)造假图骗过吗?近日,湖南省衡阳市衡山县人民法院审结了一起使用AI工具伪造高价水果腐烂图片,在电商平台申请“仅退款”的案件。
谭某某在四个月内累计下单100余笔,非法获取60个金枕榴莲和5箱车厘子,涉案总价值为一万六千多元。他短时间内频繁下单的操作,使全县被电商平台认定为高风险地区,辖区内居民在电商平台购买榴莲、车厘子,商家皆不发货。最终,其因诈骗罪被判处有期徒刑一年,并处罚金。
其实用AI假图恶意“仅退款”,早已不是什么新伎俩。甚至有人推出AI造假的付费课程,美其名曰“仅退款教学”。为证明效果,授课人还展示了学员“累计获利2000元”的成果。今年,有商家因AI造假图遭受恶意“仅退款”后,驱车千里讨要说法。商品价值不到200元,但商家为前往买家处找证据,前后花费5000余元。千里寻真,不是为了钱,是为了还自己一个公道、公平。
一个个现实案例提醒我们,当AI成为“仅退款”神器,带来的损失并不是用钱就能衡量的。钱能要回来、货能再上架,但人们对AI造假的恐惧能消失吗?信任如何修复?
被AI欺骗的并非只有某几个人,AI骗术也不只存在于特定场景,“上AI的当”正成为人们的日常。毕竟,现在已经没人能过上“AI含量为0”的生活。由于成本低、技术门槛低,AI制造的假图片、假新闻、假视频铺天盖地。如今,人们看到图片或视频,第一反应不是了解内容,而是先判断是不是由AI生成。人人疲惫、人人自危,这种需要时刻保持警惕、时刻去伪存真的精神状态,可不是一句“心累”就能概括,而是一种深层次的信任崩塌。
AI走入日常生活是大势所趋。为了在这一趋势中呵护好人与人之间的信任,更要杜绝利用AI,恶意仅退款、制造伪证等违法行径。
信任的建立需要公平兜底。惩治不法者,是守护公平的重要一环,但“公平之堤”的构筑远远不只这一环。这份公平来自制度。今年2月1日起施行的《网络交易平台规则监督管理办法》规定,网络交易平台经营者不得利用平台规则,强制或者变相强制平台内经营者承担退款但不退货等售后责任。这份公平也来自技术。今年上半年,国家反诈中心App正式上线“AI内容鉴定”功能。该功能支持图像、视频等内容的AI识别检测,与此同时,各互联网平台也在积极布局“AI鉴真工具”。“以技治技”,恰恰证明了AI本身的中立性,真正出问题的不是技术,而是使用技术的人。
魔高一尺,道高一丈。骗术升级了,防骗的意识、技术、制度也要跟着升级。当社会各界从不同角度一起把关,AI这款神器才不会“跑偏”,而是创造美好生活。
