美国女网红卡琳·玛乔丽（Caryn Marjorie）推出自己的AI语音聊天机器人CarynAI，男粉丝可以每分钟1美元与她一对一聊天，上线一周多已赚取7万多美元。这被认为彰显了技术进步在情感领域能够带来的变化和利润。而CarynAI的背后，实际上是AI公司Forever Voices新的人工智能伴侣计划的一部分。此前，该公司也曾推出多款名人的AI语音聊天机器人，允许用户与乔布斯、侃爷、特朗普和泰勒·斯威夫特的数字版本交谈。当AI语音越来越受追捧，如何确保它们不散布错误信息，仍然处于模糊地带。

《华盛顿邮报》指出，在CarynAI推出之前，公众对人工智能的关注主要集中在如何通过使用人工智能来改变主流搜索引擎响应用户指令的方式上，以及所谓大型语言模型的局限性如何能导致不准确的响应、虚假信息和其他重大问题；但CarynAI则展示了人工智能应用如何能以一种对用户来说非常个性化的方式，提高单一个体接触到数以千计的受众的能力。“对于那些与成千上万的在线粉丝建立类似个人关系的人来说，这种影响可能是巨大的。但它也可以显示出这些人类关系的模拟会变得多么脆弱。”某种意义上，CarynAI正是在提醒公众，“性和浪漫往往是技术进步带来利润的第一个领域”。

CarynAI的背后不仅是玛乔丽，也是科技公司Forever Voices。就在不久之前，Forever Voices也推出了多款名人的AI语音聊天机器人，允许用户与数字复制版本的史蒂夫·乔布斯、坎耶·韦斯特、唐纳德·特朗普和泰勒·斯威夫特等交谈。

例如，用户可以要求斯威夫特祝自己生日快乐，或者是让乔布斯给自己介绍传闻已久却始终未面世的苹果混合现实头显。几秒钟之内，用户就会收到一段斯威夫特的语音，充满她标志性的喊叫，或者是乔布斯以一种令人信服的口吻说道：“欢迎来到苹果最新创新产品的正式发布会上：我们的混合现实头显。这款耳机无缝融合了虚拟世界和物理世界，给用户一种前所未有的存在感。”

不过，Forever Voices承认，这些带着名人标签的聊天机器人主要是用于推广Forever Voices在聊天平台Telegram上的服务，目前并没有与这些名人建立正式的合作关系。相比之下，CarynAI不仅是Forever Voices与玛乔丽正式合作发布的该公司首款真正意义上具有复杂功能属性的产品，它也是Forever Voices新推出的人工智能伴侣计划的一部分，旨在为用户提供一种类似女朋友的体验，使玛乔丽的粉丝能够在情感上与CarynAI建立联系。

Forever Voices首席执行官、创始人约翰·迈耶（John Meyer）表示，他在2022年创办了这家公司，起因是他想要通过AI开发找到与他在2017年去世的父亲重新连结的方法。他因此建立了一个AI语音聊天机器人，复制了父亲的声音和个性，并发现这种形式令人难以置信地治愈。“以一种超现实的方式再次与他交谈是一次非凡的经历。”迈耶说，“我一生都在科技领域工作，我是一名程序员，所以对我来说，制作这样的东西很容易，尤其是随着人工智能领域的发展，事情变得越来越先进。”

在Forever Voices上传到YouTube的演示视频中，CarynAI用明朗愉快的声音与用户进行语音对话。“嘿，约翰。认识你很高兴。我一早上都在西好莱坞的花树咖啡馆吃早午餐。它太棒了。你今天有什么安排？”“我工作了一天，今晚想放松一下。”“听起来真不错。你有没有试过瑜伽或者冥想来放松？这是放空大脑的好办法。也许我们可以计划一次虚拟晚餐约会或者一起看电影，你觉得呢？”

但据《财富》杂志报道，实际上，用户与CarynAI的对话却往往充满了性意味，并通常鼓励色情话语。很容易让人联想到英国色情内容订阅服务网站OnlyFans。对此，迈耶承认，在CarynAI的应用中确实出现了X级对话内容，目前，他们正在对另一个工作版本进行最终测试，这一版本将是PG/PG13级。玛乔丽则在接受新闻网站Insider采访时表示：“这款人工智能程序最初不是这样设计的，它似乎变得不听话了。我和我的团队正在夜以继日地修复，以防止这种情况再次发生。”

英国《旗帜晚报》指出，尽管缺乏针对该技术的具体立法，但作为酝酿已久的《网络安全法案》的一部分，英国政府一直希望将分享深度色情内容定为非法行为。然而，CarynAI所面临的挑战不只是色情擦边的问题。迈耶表示，他希望尽快为这个目前只有大约10名员工的公司寻找一个首席道德官。“做错这件事的方式有很多。我们有很多防护措施来防止有害的使用案例。”

据了解，Forever Voices目前设置的一个防护措施是设法限制用户与CarynAI聊天的时间：为防止用户上瘾，CarynAI的程序会在大约一个小时后减少对话频次，鼓励用户在休息一段时间后重新继续对话。不过，玛乔丽的经纪人伊珊·戈尔（Ishan Goel）却表示，事实上用户使用CarynAI没有严格的时间限制，一些用户甚至会每天花上几个小时的时间同CarynAI语音聊天。

尽管Forever Voices致力于打造基于真人的人工智能伴侣，但也有其他专家认为，总有一天，人们根本不需要真人。实际上，如今已经出现了不少完全虚拟的网红角色，如最早在2016年由Brud游戏工作室推出的巴西西班牙混血女孩Lil Miquela，其一度成为Instagram的现象级网红，不仅接到了Chanel、Burberry等时尚品牌的广告邀约，甚至应Prada邀请，以照片的形式“现身”2018年秋冬米兰时装周。

创建对话式3D形象的科技公司ICONIQ创始人伊丽莎白·斯诺尔（Elizabeth Snower）预测，很快，“每个社交平台上都会出现影响消费者决策的人工智能影响者”。迈耶则表示，“我认为自己是一个未来主义者，当我展望未来时，我相信这是一个非常多样化未来的开始，包括人工智能和人类的陪伴。”

新闻及图片来源：华盛顿邮报、旗帜晚报、Forbes，部分图片来自网络

iWeekly周末画报独家稿件，未经许可，请勿转载