多款AI应用存在涉黄*成漏洞 技术伦理遭挑战。*成式AI技术的广泛应用和快速迭代正深刻改变着人们的*活。随着技术普及,使用门槛大幅降低,从AI视频*成到AI聊天陪伴,这些应用丰富了大众的*活。然而,一些商家背弃技术伦理与法律底线,利用*成式AI制作违法内容,污染网络空间,败坏社会风气。
根据消费者举报线索,在多个互联网平台上进行了检索。在测评过程中发现,如果输入的提示词较为直接,多数AI应用会触发审核机制并拒绝*成内容。但这条防线并不牢固,通过修改提示词使其更加隐晦,便有可能绕过限制。
在一个名为哩布哩布AI的应用中,记者输入网上购买的提示词后,几分钟内就*成了一个半裸女性跳舞的视频。整个过程中没有触发任何限制机制,违规视频顺利*成。同样的问题也出现在其他常见的AI应用平台上。
根据消费者提供的信息,还发现了一款AI照片*成器。这款软件声称“免下载,快速*成,图片、视频换脸”。购买者可以根据充值金额的不同,通过AI技术一键快速替换原片,*成虚构的色情照片。只要愿意付费,该软件甚至可以通过一张图片*成*照片和色情视频。


