真是个跨时代的技术,这要是应用了……感觉美颜相机痛哭失声、抖音女播声嘶力竭、相亲网站资金断裂、小红书网红销声匿迹……从此朋友圈更新尽是自然风景,微博相册满目大好河山,健身房厕所无人问津,网络直播百业凋敝……各种或真或假,有钱的装逼的还是当托的那些榜一大哥连夜把武汉火车站的火车头都扛光了,生怕跑的不够快。网络上肌肉男少了一半,腹肌块数与肚腩层数统计调转,各种仙女全军覆没,露脸女神息影下播……一切都回到了ps技术没有成熟的年代,兜兜转转,仿佛一场梦。
p个图算什么,我爸同事A前几天遇到的事才吓人。A的儿子在日本上学,有一天突然打来视频问A要钱,说自己住院了要钱,声音图像全是他儿子,要六万块钱打到某个银行卡上。A马上就要打钱了,被站在一我爹拦住了,他跟同事说你儿子说的话和表情都对不上,你再问问他别的问题确认下身份。
结果发现对面只会几段音视频来回播,A当即给儿子打了个电话,发现自己的孩子安全无恙,前面那些视频都是拦截的他儿子的各种视频和语音合成出来的视频,原理就和b站上那些鬼畜视频一样。看上去很蠢,但是抓住了父母担心孩子的心,所以上当受骗的人相当不少。
随着技术不断发展,各种技术被用于诈骗是必然的结果,所以反诈骗的一方一定要紧跟技术的发展,用技术力压倒这些犯罪分子。像是新闻里这种技术就非常好,甚至于是对诈骗科技的一次降维打击。我前几天还在评论区和几个反技术的人吵了一架,技术进步不可怕,被诈骗利用也不可怕,怕的是反犯罪的科技赶不上犯罪科技。
看了下链接里的那个门票,p得有模有样的,不明真相的买家很容易就上当了。可惜AI火眼金睛能识别出来。这个回答给大家稍微科普一下AI是怎么识别p图的。
之前,某些明星微博开撕,发出各种聊天记录,引得很多网民放下手头工作来吃瓜。不过,微博里有些搞设计的网友,发现了某些聊天记录截图的内容或者时间戳是p上去的。嚯嚯,吃了半天瓜,结果吃到了个假瓜。
对于吃瓜群众来说,看到的是瓜本身;然而对于搞AI技术的我来说,看到的是,识别p图这个事情人工智能是否也能做?而且《最高人民法院关于民事诉讼证据的若干规定》明确规定微信聊天记录可以成为属于电子证据,如果AI能做聊天记录截图的真伪识别,那么会给执法机关提供很大的帮助。
更进一步的思考,不仅仅是聊天记录,各种文件,例如学历证书,盖了公章的文件,门票等等。如果这些文件都能被AI识别出篡改痕迹,那么网络诈骗的生存空间就更小了。大家还记得前两年有三个骗子伪造了老干妈的公章骗了鹅厂的那个事吗?如果AI能鉴定某个文件的公章是否p上去的,那么这类骗局将不会再发生。
首先我们可以想想我们作为人类是怎么判断哪里p图的。就我能想到的,p过的地方通常有这些特征:
简单来说,就是整个图像应该大致在一个级别上。根据这种思想,早期的研究者们使用的是ELA算法,即 Error Level Analysis(误差等级分析),来识别图像中不同压缩级别的区域。我们日常保存的图像,都是压缩后的(如果你搞摄影就更清楚了,图片RAW文件是非常大的)。p过的地方,压缩级别(用error level 量化)会出现较大的不同。
除此之外,还有的思路是把篡改检测任务等价位语义分割问题。语义分割是将标签或类别与图片的每个像素关联的一种深度学习算法,如下图,不同的物品会用不同的颜色标记出来。
然而,计算机视觉模型做语义分割时,其「看」图像的原理并非和人类一样。所以,在看一个被p过的图时,模型可能会把某个p过的区域当做是一个新的物品,从而标记出来。
当然,检测方法远远不止以上两种方法,对具体感兴趣的同学可以研究下,去「真实场景篡改图像检测挑战赛」的论坛区看看别人都用了什么方法,如果感兴趣,你甚至还可以参加这个比赛,搞不好还能赢点奖金(第一名5万、第二名2万、第三名1万)。如果你觉得自己p图技术炉火纯青,或者对辨识假图有火眼金睛,不妨试试参加比赛,用代码将组办方提供对假图都识别标记出来。
我个人工作内容虽然不是计算机视觉,而是风控AI建模,但也是和打击灰产和黑产的相关的。我深感到,打击灰黑产这条道路是无止境的;你会发现,你上线的模型一段时间后,就会没以前好用了,因为灰产黑产的欺诈手段也在进步。
篡改图像检测技术也是一样,骗子可能会慢慢摸索不同的p图方法,或者通过技术手段找出AI的不足或者漏洞。连骗子都在努力学习,我们更不能放松警惕,业界也很有必要加大投入进行篡改图像检测技术的研究。毕竟打击网络诈骗,人人有责。
下面这两只猫,你能分辨出来有什么不同吗?
对于计算机来说这种像素级别的反应就非常明显。
计算机认为左边是猫,右边是键盘。
以上这个技术应用的是GAN,对抗神经网络。
对于PS过后的照片,肯定是与原先的图片是有区别的,区别可能包括,像素的改动,某个色块的颜色不一致,磨边等等。
人眼不一定能发现,但计算机没问题。
另外我觉得区块链技术是最合适打击仿制品,因为它的唯一性,不可更改性正好对应了一些属性值唯一的东西。
谢邀。
作为新时代四大发明之一的P图技术,已经越来越炉火纯青了。
用在自拍上,被大家戏称为“照骗”,虽然无伤大雅,但是“骗”字仍然揭示了这项技术的本质,即欺骗人们的视觉。
当这项技术被黑产用来诈骗的时候,被别有用心的人用来编造谣言和假新闻的时候,就无法一笑置之了,必须做点什么,来识别出这些“骗术”。
在安全领域,攻防双方就像矛与盾,总是面临着魔高一尺道高一丈的较量,如何能够引起大家关注,吸引优秀人才,同时还能探索最新的相关技术呢?
举办挑战赛就是一个不错的方法。
去年阿里安全就和清华联合举办过安全AI对抗比赛,主动挖掘AI识别P图技术的安全漏洞,今年,大赛又开始了。
这个具体是怎么挑战的呢?
解释一下,AI其实就是一种或集中机器学习算法,为了便于理解,我们用最简单的线性回归来举例,其实就是一个关于x和y的多项式,比如y=f(x)。
在初赛阶段,主办方会给到参赛选手们一组训练集和一组测试集,其中,训练集是用来给大家训练算法的,里面原始图片,又有标识这些图片哪里被篡改的结果图片,也就是说既有x,又有y,而测试集只有x,即只有原始图片。
通过训练集的x1和y1,参赛选手们可以训练出自己的公式(更准确叫法:模型),y1=f(x1)。然后,将这个公式(训练好的模型),运用在测试集上,算出它们哪里被篡改了,也就是说y2=f(x2),把y2提交给主办方,主办方来对比y2和已经知道的y2`有多大的差距,量化的来评判,哪组选手识别得更精准。
这么说还是比较抽象,我们看图就容易理解了。
大家看上图,肉眼细看也能看出123是P过的,选手们就是要识别出右图那样的结果,告诉大家123所在的位置是被篡改过的。
区别于以往的图像取证比赛专注于自然内容图像,今年的比赛采用的数据为大量伪造的日常APP截图、聊天截图、证书文档类图像,包含了更多的真实业务场景和更多真实的攻击手段,以及更大的篡改数据集。
光是看这些数据集,就能感受到,如果P图技术被滥用在篡改各类文书材料,资质证明,转账记录、聊天截图和其他信息时,会造成多么严重的后果。
随着大赛的举办,越来越多优秀的篡改识别算法会被发掘,或许很快就能为大家所用。
今后,在各种证件识别,资质核查,材料审核,甚至社交媒体上,都可以快捷的识别图片是否经过篡改,让篡改痕迹无处循形。
当然,攻防还会不断升级,造假技术也会不断迭代。不过,只要能够不断的提高造假难度及门槛,让造假获得的收益难以超过造假成本,就能让造假者知难而退,还给大家一个更加真实的互联网。
2017年,年轻女子丁某在居民家门口吵闹。当民警前来劝阻时,谎称遭殴打导致流产,并伪造B超结果,提供虚假证据诬陷民警执法时殴打她导致流产;
2018年,万某在网上发布贷款信息,违规获取借款人个人信息、照片等资料,通过向借款人亲友发送经PS的淫秽图片等相要挟,强行向借款人索取钱财。
何以为真?古话常说:耳听为虚,眼见为实。在互联网时代这条准则也不再适用,PS的滥用导致我们对所有网上流传的图像变得不再信任。
“这个自拍照片真好看,不会是PS的吧?”
“XX明星聊天记录泄密!竟与多位知名演员有染!”— 伪造的聊天记录谣言影响明星事业。
“年入百万,清华博士毕业证书在此,找良配。”— 伪造、盗取证书获取他人信任,走向杀猪盘。
绕过人类的常识和思维惯性欺骗一个人其实非常简单,骗子通过视觉引导、图像伪造、身份欺诈等方式获取受害者信任,就能引导其走向精心设计的圈套中。
在该事件中,用户试图提交伪造的环球独家旅游咨询点线下门脸图像,被AI技术迅速自动识别该图像的篡改痕迹,通过上传虚假的信息蒙骗监管,获取专业认证后行使危害行为。
问题的难点在于:发现虚拟数据层面的欺骗远比物理上的伪造要更难。归根到底,P图能力足以欺骗人眼以假乱真,而往往大多数审核机制都是通过人眼确认,这就导致“看走眼”的事情发生,造成惨痛的损失。因此,如何解决这类篡改图像欺骗审核机制的问题成为了亟待解决的开放性问题。
在看走眼这件事上,再给大家分享一个有趣的小知识:人和人工智能看到的世界是不一样的。左图能骗过人眼,看到双方互相摸对方的胯骨,右图能够骗过机器,在加入肉眼几乎不可见的更改后将雪山识别为狗,并言之凿凿地给出99.99%的可能性。
此处不过多深究背后的技术原理,就这个例子而言,仅靠人眼的检测被证实存在相当大的风险,引进AI技术进行识别成为一种可行解,通过AI预警+人工审核的双重确认能更有效打击这类欺诈行为。
回到这个事件中,地图工作人员收到AI预警反馈后,经线下核实确认实际区域并无该咨询点,且该“票务咨询”电话为诈骗电话,于是拦截了这一申请。通过AI检验“预审”后再进行人工核验的方式现如今已成为行业应用范式,聊天信息、资质证明、物流风控、转账记录、媒体内容等领域的真实性检测都通过这一套流程确保安全性。
技术是在对抗中螺旋上升的,伪造和检测伪造技术也如此。起初,拙劣的P图技巧仅凭肉眼即可识别,扭曲的门框和地板成为新手P图用户最常见的细节失误;随后,字迹伪造、证书P图等事件则需要专业人士的鉴定才能判断真伪,鉴伪逐渐成为一项专业技能;如今,高端的伪造技术如DeepFake则可以欺骗所有肉眼,实现真假难辨的效果,检测这些伪造技术成为科技最前沿的挑战之一。
针对这个问题,阿里天池正在举办一个针对真实场景中大量出现的篡改图像的检测比赛,提供一个接近真实经济生活场景的篡改图像数据集,包括资质类、文档类、截图类等手工篡改图像,让篡改检测领域更加关注此类高风险篡改图像,通过比赛促进此方向的技术进步。
我在浏览到这个比赛时,发现去年也举办过该项比赛,这类大赛的意义在于一方面推进相关篡改检测技术的进步,助力解决网络诈骗的社会问题,另一方面也给行业培养更多安全技术人才。
事实上,近年大量诈骗违法人员引入伪造各类证件、转账记录等技术手段骗取用户信任、伪造个人身份实施诈骗,识别破解难度大幅增加。对于普通人而言,无法确定对方晒出的身份信息、生活信息是否为真,甚至无法确定跟你聊天语音视频的好友性别,以至于网恋奔现发现对方是同性的事件层出不穷,“有图有真相”的时代也一去不复返。
魔高一尺,道高一丈,正如加密和破解密码的关系一样,伪造和鉴伪自古就是相爱相杀的技术应用。现如今为了检测和鉴别篡改图像,各路安全人员也是挠破了头,若篡改检测技术能得到推广普及应用,会很大程度遏制网络诈骗。安全问题与每个人息息相关,希望经由这个事件、这场比赛能够推动该领域的技术进展,从源头以科技创新解决社会生产、生活的安全问题。
本站所有内容均为互联网搜索引擎提供的公开搜索信息,本站不存储任何数据与内容,任何内容与数据均与本站无关,如有需要请联系相关搜索引擎包括但不限于百度,google,bing,sogou 等
© 2025 tinynews.org All Rights Reserved. 百科问答小站 版权所有