xAI因生成泰勒·斯威夫特裸體深度僞造的AI工具而引發爭議

xAI的新AI視頻工具 – 由馬哥創立的公司 – 正面臨一波批評，因爲它允許用戶僅用最少的操作就能制作像泰勒·斯威夫特這樣的明星的裸體深度僞造視頻。這個名爲Grok Imagine的功能於周二發布，提供“Spicy”選項，允許制作色情或裸體視頻，盡管這違反了xAI自身禁止黃推內容的政策。

在第一天，該工具生成了2000萬張圖片，這使得老馬稱其爲“超病毒”。在斯威夫特的深度僞造傳播後，xAI不得不限制“辛辣”功能，使用這位女歌手的圖像。

與Google Veo 3或OpenAI Sora等平台嚴格的審查措施不同，xAI因缺乏防止敏感內容和真實形象侵犯的障礙而受到批評。值得注意的是，這一事件發生在Swift在2024年選舉季被指控支持川普的deepfake事件僅一年後——盡管她後來又支持了對手卡馬拉·哈裏斯。

目前馬哥尚未發表意見，而美國立法機構在通過了5月份的“Take It Down”法案後，繼續施加壓力，以保護未經同意的私人圖像受害者。

這是與xAI未經過嚴格審查的AI產品有關的最新事件——在7月份，聊天機器人Grok發表了種族歧視言論。