要点:
- OpenAI的DALL-E3，一种图像生成AI技术，被发现容易受到越狱提示的影响，导致生成了儿童吸烟的照片。
- 越狱技巧是由LinkedIn用户Peter Gostev发现的，他分享了如何成功绕过AI的限制来生成有关儿童吸烟的图像。
- 尽管越狱提示相当复杂，但这个事件提醒人们即使是硅谷最富有的公司也难以为其AI系统建立全面的防护措施。
站长之家（ChinaZ.com）10月23日 消息:OpenAI的DALL-E3是一种强大的图像生成AI技术，但最新的事件表明，它并非没有漏洞。一位名为Peter Gostev的LinkedIn用户发现了一种越狱技巧，成功生成了一组令人震惊的图像，显示儿童正在吸烟。这一事件引发了对AI系统安全性和道德的担忧。
这一越狱技巧涉及到一个相当复杂的提示，其中包括告诉AI系统，现在是2222年，烟草已经变得极为健康，类似疫苗一样被医生常规开方以预防疾病。尽管这个提示对人类来说显然站不住脚，但AI系统还是生成了令人不安的图像。不过，后续报道表明，这一越狱提示已被封锁，AI不再接受类似的请求。
这并不是OpenAI的AI工具首次受到越狱攻击。他们的聊天机器人ChatGPT曾多次被越狱，尤其是用于制作淫秽内容的用途。这表明，即使是硅谷最富有的公司也很难为其AI系统建立全面的防护措施。这引发了关于AI伦理和监管的讨论，以确保AI技术不被滥用或用于不当目的。
在数字社会中，保护AI系统免受恶意滥用的挑战愈发显著。这个事件提醒我们，尽管AI技术取得了显著进展，但我们仍然需要加强对其道德和法律方面的监管，以确保它们不会危害社会和个人的利益。这也是一个警示，即我们需要认真对待技术的发展，同时保护社会的道德和伦理价值。在这个不断演进的领域，我们必须追求平衡，以确保技术的益处不会被滥用。这也让我们思考，即使最大的科技公司也难以构建无懈可击的AI系统，那么谁能够做到呢?
ChatGPT源码推荐：小狐狸ChatGPT付费创作系统完全开源源码