新出台的立法旨在保护全国范围内的个人不被某些被称为“深度造假”的数字内容所歪曲，这类内容包括欺骗性的政治信息、电脑生成的性虐待材料等。
“我们知道，武器化的欺骗可能对我们的社会极其有害，”纽约州民主党众议员伊维特·克拉克(Yvette Clarke)说。她是该提案的作者，并于上周在众议院提交了该提案，恢复了她之前在2019年提出的提案。“这项法案旨在将我们带入21世纪，并建立一个基线，以便我们能够辨别谁打算伤害我们。”
克拉克告诉美国广播公司新闻，她的“深度造假问责法案”将为检察官、监管机构，尤其是受害者提供资源，比如检测技术，克拉克认为他们需要这些资源来对抗邪恶的深度造假构成的威胁。
近年来，由于生成工具的可访问性和易用性，人工智能生成的内容呈爆炸式增长。生成式人工智能是一种人工智能，能够通过简单的提示产生包括文本、图像、音频和视频在内的内容。
就在几年前，用户还需要一定水平的技术才能使用AI制作内容，但现在只需要下载应用程序或点击网站上的几个按钮。
更多:随着人工智能工具的普及，新的数字标准将帮助用户区分事实和虚构
虽然这项技术的一些用途是积极的，比如帮助任务自动化，但专家们指出，这些工具还在其他一些方面被用于非法目的——从电话诈骗和在线勒索，到制作和传播深度造假，这些深度造假可以是模仿公众人物，甚至是根据某人的肖像制作的虚假色情图片。
克拉克提出的规定也出现在总统大选之前，在大选中，生成人工智能工具的可访问性使候选人或其支持者能够制作逼真的假作品，以推进党派信息。
加州大学伯克利分校的计算机科学教授哈尼·法里德在接受美国广播公司采访时表示:“我们已经看到(政治团体)使用生成式人工智能来试图伤害他们的对手。”
“这很容易做到，”法里德警告说。
这样的例子已经开始堆积起来——从共和党广告中虚假描绘乔·拜登总统的图像，到支持佛罗里达州州长罗恩·德桑蒂斯(Ron DeSantis)竞选白宫的外部政治团体，利用人工智能技术伪造前总统唐纳德·特朗普的声音。
谷歌本月早些时候宣布，它将要求所有经过验证的选举广告客户清楚地披露任何使用合成媒体的情况，这些媒体使一个人看起来好像在说或做他们没有说或做的事情。此外，根据该平台的规定，任何使用人工智能来改变真实事件的镜头或生成逼真场景的广告都必须清晰地标记。
目前，美国还没有专门针对深度造假或欺骗性使用生成人工智能的国家立法，但本月早些时候，美国最大的科技公司高管与美国参议员举行了一次闭门会议，讨论可能的政府监管。
克拉克的一名高级助手告诉美国广播公司新闻，克拉克的法案最初是为了关注那些发现自己在深度造假中被歪曲的人。
如果获得通过，该立法将要求创作者对上传到在线平台的所有深度伪造作品进行标注，并对视频或其他类型内容的任何修改进行透明处理。
根据克拉克的法案，未标注“恶意深度造假”的用户将面临包括监禁和罚款在内的刑事处罚。这一类别将包括与性内容、犯罪行为、煽动暴力和外国干涉选举有关的深度造假。
克拉克说:“这向坏人发出了一个信号，即他们欺骗人们是不会逃脱惩罚的。”
所有其他类型的深度造假都将受到民事处罚，包括起诉损害赔偿等私人诉讼权利。
更多:分享你孩子的照片?也许在你看了这个深度假广告之后就不会了
这项立法还试图解决未经双方同意的深度色情造成的伤害，专家们通常将其描述为基于图像的性虐待。
专家表示，有一个完整的商业行业，通过创建和分享数字创建的性虐待内容而蓬勃发展，包括拥有数十万付费会员的网站。对于那些发现自己的肖像被以这种方式利用和操纵的受害者来说，几乎没有资源可用。
目前尚不清楚众议院其他议员会以多快的速度接受克拉克的法案，也不清楚该法案是否能获得足够的支持以获得通过。由于它对内容的限制，克拉克知道它也可能受到宪法第一修正案的法律挑战。但她说，她相信在征求法律意见的情况下起草的案文是合理的。
一些专家，如亨利·艾德尔(Henry Ajder)认为，该法案的范围可能太窄了。他之前曾在网上绘制过深度造假的使用情况。
“很高兴看到立法试图抓住深度造假和合成媒体造成的危害，”Ajder说。但这种特定的框架可能错过了一系列不仅仅是关于人类主题的合成媒体——比如五角大楼着火的假图像，导致金融市场“今年早些时候短暂下跌”。
克拉克的法案将进一步要求所有深度伪造的创作者提供内容凭证——也就是说，一段内容的起源和整个历史，包括它是如何被捕获的，以及它是如何被改变的。根据这项立法，托管生成人工智能内容的在线平台也将被要求显示该内容的来源。
正如ABC新闻之前报道的那样，内容凭证技术允许创作者记录对内容的任何更改，并在发布时显示它，以增加透明度和提高真实性。
一个由多家公司组成的“内容真实性倡议”(Content Authenticity Initiative)联盟，一直在开发一种方法，让任何希望将这项技术纳入其系统的数字平台都能使用这项技术。他们希望这个新标准能够恢复用户对网络内容的信任。
视频深度造假:如何识别人工智能生成的图像
一些社交媒体平台已经开始为所有人工智能生成的内容贴上标签。上周，TikTok宣布将推出一款新工具，帮助创作者给人工智能生成的内容贴上标签。
该社交媒体平台表示，如果内容被用于“代言或违反任何其他政策”，则不允许公众人物的合成媒体。
“我认为我们的监管机构提出了很多很好的问题，他们正在举行听证会，我们正在进行对话，我们正在做简报，我认为这很好。我认为这在很大程度上提高了公众的意识，”计算机科学教授法里德说。“我认为这是必要的，但还不够。我认为我们现在必须对这一切采取行动。”
