近期，通过一家名为“十一实验室”（Figure AI Inc.）的人工智能初创公司，伪造的美国总统拜登电话呼叫引发了轰动。多家媒体披露，这家初创公司正计划通过微软和 OpenAI 领投的一轮融资筹集至多5亿美元，但同时也陷入“深度伪造”技术滥用的争议。
图源备注：图片由AI生成，图片授权服务商Midjourney
该公司被指涉及在电话中使用“深度伪造”技术制作了冒充拜登的机器人语音录音，呼吁选民留下选票以及发布不实信息。白宫证实这些电话是伪造的，但特朗普的竞选团队否认与此有关。这一事件再次引发了人们对人工智能技术可能对选举产生负面影响的担忧。
与此同时，人工智能在美国政治中的角色也在逐渐凸显。硅谷的科技开发者为一位民主党总统参选人创造了仿真聊天机器人，但被人工智能公司 OpenAI 停用，认为其违反了禁止在竞选活动中滥用人工智能技术的政策。
人工智能的“深度伪造”现象不仅仅局限于政治领域。近日，美国流行乐歌手泰勒·斯威夫特也成为该技术的受害者，其虚假合成的不雅照在社交网络传播。这一系列事件引发了对人工智能技术被滥用的广泛关注。
尽管去年拜登签署行政令制定新的人工智能安全标准，但相关法规的执行效果有限。专家呼吁政府加强监管，确保人工智能技术在应用中不受滥用。然而，科技的快速发展和政府立法的滞后导致监管滞后，人们对于人工智能技术滥用的忧虑不断升级。在2024年即将到来的大选年，关于“深度伪造”可能对选举产生影响的讨论愈发激烈。