前一阵刮起的“吉卜力模仿秀”还历历在目,大家谴责OpenAI利用宫崎骏或吉卜力工作室的作品训练大模型,但网络上却梗图不断。
文章源自玩技e族-https://www.playezu.com/927708.html
现在,这股风已经开始“歪楼”了,由ChatGPT生成的Aadhaar卡终于让人们开始严肃对待此事。文章源自玩技e族-https://www.playezu.com/927708.html
文章源自玩技e族-https://www.playezu.com/927708.html
如果你认为这张Aadhaar卡的风格还有吉卜力的影子,那接下来将让你大跌眼镜。抛开人物的身份不谈,至少从肉眼上看,已经达到以假乱真的程度。文章源自玩技e族-https://www.playezu.com/927708.html
文章源自玩技e族-https://www.playezu.com/927708.html
简单来说,Aadhaar卡就是印度的身份证,由印度唯一身份识别局(UIDAI)颁发,现在却被GPT-4o的图像生成功能滥用。此事一出,网络上声音也很快分成两个阵营。文章源自玩技e族-https://www.playezu.com/927708.html
正方认为,GPT-4o的图像生成功能只是“照猫画虎”,类似Aadhaar卡这样的身份ID都有防伪系统,不会造成实际影响;反方则认为,哪怕只是看起来逼真,也足够让别有用心的人利用,况且,随着AI系统迭代,未来伪造身份将变得十分容易。文章源自玩技e族-https://www.playezu.com/927708.html
文章源自玩技e族-https://www.playezu.com/927708.html
根据现在的情况看来,此事还在发酵中,而且似乎没有要停下来的意思。最新消息是,ChatGPT的滥用已经不仅限于Aadhaar卡,还有印度的另外一张PAN卡,这张卡由所得税部门发行。文章源自玩技e族-https://www.playezu.com/927708.html
毫无疑问,ChatGPT可以轻松生成假的Aadhaar和PAN卡,也必然可以伪造其他国家的身份信息,这将是一个严重的安全风险。文章源自玩技e族-https://www.playezu.com/927708.html
根据人力资源分析公司IDfy的首席商务官解释,“Aadhaar是一个相对容易解决的案例,因为文本和人脸信息都可以根据后端系统进行核对。但其他身份证却比较麻烦,比如印度的PAN卡,该卡的信息在政府数据库中没有人脸数据。”
说起不需要人脸识别的票据,ChatGPT的滥用已经可以轻松覆盖到假的收据和处方,只需要通过简单的编辑,这种不需要严格审核的票据将极容易被伪造。
正所谓矛和盾要同时发展,过去想要伪造一张图片需要有专业的图片处理技术,比如熟练使用Photoshop这类软件。现在,只需要用语言叙述,就可以生成以假乱真的图片,现实情况是“矛已经足够锋利”,需要在盾上下功夫了。