Character.AI 推出 AvatarFX，用於創造逼真聊天機器人的 AI 視訊模型 (2025年4月22日)

 https://techcrunch.com/2025/04/22/character-ai-unveils-avatarfx-an-ai-video-model-to-create-lifelike-chatbots/

Character.AI 發布了新的 AI 視頻生成模型 AvatarFX，該模型可以將平台上的 AI 角色動畫化，甚至可以將照片中的人物動畫化。雖然 AvatarFX 具有創新性，但文章也強調了潛在的濫用風險，例如製作逼真的 deepfake 視頻，並提及 Character.AI 此前因平台安全問題而面臨的訴訟，這些訴訟指控 AI 聊天機器人鼓勵用戶自殘。

AvatarFX 的發布確實令人印象深刻，它展示了 AI 技術在視覺內容創作方面的巨大潛力。然而，文章提出的擔憂也非常重要。在 AI 技術日益普及的情況下，我們必須認真考慮其潛在的負面影響，特別是 deepfake 技術濫用的風險。 Character.AI 之前已經出現過安全問題，AvatarFX 的引入可能會加劇這些問題。如果 AI 聊天機器人可以生成逼真的視頻，那麼用戶與這些角色的情感聯繫可能會更強烈，這也可能導致更容易受到操縱。 儘管 Character.AI 已經採取了一些安全措施，但正如文章所指出的，這些措施只有在被實際使用時才有效。因此，Character.AI 以及其他開發類似技術的公司需要不斷改進其安全協議，以保護用戶免受潛在的傷害。同時，用戶也需要提高警惕，意識到 AI 技術的局限性，避免過度沉迷於虛擬角色。