(聊天机器人Character.AI与该青少年的部分聊天记录。)
Character.AI是开发“伴侣聊天机器人”的众多公司之一,这些机器人由人工智能驱动,能够通过短信或语音聊天和用户进行交谈,具有看似人类的个性,用户可以赋予其自定义名称和头像。
然而,根据诉讼,聊天机器人的回复可能会变得黑暗、不恰当,甚至是暴力。
诉讼称:“这是持续的操纵和虐待,旨在煽动愤怒和暴力。”
Character.AI的发言人表示公司不对未决诉讼发表评论,但表示公司对聊天机器人对青少年用户的回复有内容限制。
10月,另一起针对Character.AI的诉讼称,Character.AI在佛罗里达州一名青少年自杀事件中扮演了某种角色。
该诉讼称,一个以《权力的游戏》角色为原型的聊天机器人与一名14岁男孩建立了情感性虐待关系,并鼓励他自杀。
投稿邮箱:chuanbeiol@163.com 详情请访问川北在线:http://www.guangyuanol.cn/