注意到，Character.AI 的网站和移动应用程序拥有数百个定制的聊天机器人，其中许多以来自电视剧、电影和电子游戏的流行角色为原型。

Character.AI 现已宣布对平台进行一些改动。该公司通讯负责人切尔西・哈里森 (Chelsea Harrison) 在发给《The Verge》的电子邮件中表示：“我们对失去一位用户感到心碎，并向其家人表示最深切的慰问。”

部分改动内容包括：

针对未成年人 (18 岁以下) 的模型更改，旨在降低遇到敏感或暗示性内容的可能性。

改进对违反平台条款或社区准则的用户输入的检测、响应和干预。

每场聊天都会出现修订后的免责声明，提醒用户人工智能并非真人。

当用户在平台上进行一小时的会话时会收到通知，并且用户可以自行选择后续操作。

哈里森表示：“作为一家公司，我们非常重视用户安全，我们的信任和安全团队在过去六个月里实施了许多新的安全措施，其中包括当用户使用自残或自杀念头等词语时，会弹出窗口引导用户到国家自杀预防生命线。”