艾玛麦戈万 2024年1月30日
在AI生成的泰勒斯威夫特色情图片迅速走红X前身是Twitter之后,我们不禁要问:这对AI的未来意味著什么?
最近,AI生成的泰勒斯威夫特露骨图片席卷社交媒体,揭示了AI能力的阴暗面。这些图片据信是使用Microsoft Designer创建的,迅速引起了广泛的关注,突显出AI生成伪色情图像这一不断增加的挑战。
随著这些图片在平台上的迅速传播,事件引发了粉丝和隐私维权者的愤怒,也提出了有关伦理使用AI进行媒体创作的重大问题。
Avast威胁情报主管米哈尔萨拉特Michal Salt带来了丰富的知识和专业技能,以探讨这一及时的话题。关注技术、安全和伦理交集的他,提供了对AI生成内容影响的深刻见解。
在接下来的部分中,我们将深入探讨他的见解,研究图像操控的历史平行案例、AI能力所带来的伦理困境,以及在日益AI驱动的世界中,数位信任和安全的更广泛影响。
萨拉特将当前AI生成生动图像的能力与过去Photoshop的使用进行比较。就像Photoshop在多年之前彻底改变了图像操控,现在AI使得创建真实的图像变得更加简单。然而,操控图像的概念并不新鲜;AI只不过是这场持续斗争中的最新工具。
“这在某种程度上只是一种不同的照片编辑软体,”他解释道,强调操控图像的概念已经引起关注十多年。现在的关键差异在于AI技术带来的便利性和可及性。这一变化引发了关于社会如何适应和监管这些新工具的重大问题,这些工具使得创建真实的图像比以往任何时候都更容易。
最紧迫的担忧之一是使用AI生成露骨图片的伦理影响,特别是对特定个体在未经同意的情况下。尽管生成一般的裸体图片或许不会引发太多伦理问题,但真正的问题是容易创建可辨识人物的露骨图片。
“对于我来说,AI生成色情内容本身并不是有内在问题的或伦理上有问题的,”萨拉特说。“但从伦理上来看,问题在于你可以相对轻易地生成带有已知或特定脸孔的图片。”
这种能力不仅限于像泰勒斯威夫特这样的名人,还可以扩展到任何人,这突显了设立伦理指导方针和立法的必要性:虽然所谓的“报复色情”或不经同意分享裸体图片在48个州是非法的,但目前AI生成的深度伪造色情作品只在10个州被禁止。这一差异凸显出法律有必要与技术同步发展。
或许因为可生成AI的访问权限相对较新,目前对于在未经主体同意的情况下创建露骨内容的防护措施还很少。然而,萨拉特认为,实施这些措施对AI公司来说并不会太困难:例如,不允许生成特定人的图片或不使用客户提交的图片作为素材,就可以为绝大多数人提供足够的障碍。
“当然,有一些人会能够绕过这些限制,强迫模型做它不应该做的事情,”萨拉特说。“我认为,目前几乎不可能避免这种情况你只能让它变得更加困难。我想我想表达的是,提供这些服务的公司应该更加努力去避免这种情况。”
此外,还有可能有人创建自己的色情生成模型,没有任何限制。萨拉特指出,尽管这是可能的,但这需要相当高的技术知识和大量的计算能力。
“并不是很多人能够自己创建一个AI来生成裸体图片,”萨拉特说。“所以,这更像是使用Photoshop,你需要有一定的技能才能做到。”
火烧云加速器手机版萨拉特将当前AI开发的状态与安全行业的演变进行了比较。他观察到,我们正见证著安全行业“重新开始专注于AI”。这一比较凸显了将AI开发视为一个持续过程的重要性,识别和修复漏洞是成熟技术的关键。
在X上生成的泰勒斯威夫特的AI图像强调了负责任使用AI的重要性。随著AI不断发展,平衡技术能力、伦理考量和安全措施将至关重要。通过向像米哈尔萨拉特这样的专家学习,并反思过去的挑战,我们可以更有信息和谨慎地应对这一复杂的环境。