Folia
← 返回头版

达特茅斯教授Hany Farid呼吁确立视觉记录“假定虚假”新范式

在生成式人工智能技术迅速发展的背景下,达特茅斯学院教授Hany Farid主张将数字媒体真实性验证的默认立场从传统的“假定真实”转变为“假定虚假”,以应对大规模内容造假带来的挑战 1。这一观点源于Farid对伊朗Mehr News机构发布的一段声称展示美国Tomahawk导弹袭击学校视频的分析;尽管其结论是该视频为真实影像,但此类案例凸显了传统法证手段在面对深度伪造时的局限性 1。

Farid指出,鉴于加州大学伯克利分校的一项研究显示观察者因普遍怀疑心理而难以确信视频真实性,社会亟需建立新的信任机制 1。他建议通过推广C2PA标准、嵌入Google SynthID等隐形水印以及利用硬件签名技术来赋予创作者证明内容真实的工具 1。例如,苹果最新款iPhone已实现拍摄时对原始像素数据进行加密签名,从而生成可用于后续比对的参考图像 1。

除了静态媒体,实时通信中的深伪风险同样受到关注。Farid特别提及2024年9月参议员Ben Cardin遭遇疑似由俄罗斯策划的、冒充乌克兰前外长Dmytro Kuleba的深度伪造视频通话事件 1。为此,他呼吁未来的视频通话软件应引入与静态照片类似的帧级加密验证机制,以确保摄像头传感器的物理来源可信 1。


评论