普通人需要注意的是，以后在网上与人聊天，无论对方是客服、网红还是明星，都可能是AI。

作者 | 黎明

编辑 | 魏佳

有人租个女友回家过年，也有人在网上为AI女友付费。

AI女友是大模型的产物，她是一个聊天机器人，24小时陪聊，随叫随到，能文字能语音，还能发美照。

她可以是对现实或小说中某个人物的角色扮演，也可以是凭空创造出来的一个女性形象，总之不是真人。但因为接入了大语言模型，AI女友能做到语气和表达跟真人一样，还有自己的个性。

由于技术日渐成熟，AI女友开始在社交平台泛滥，擦边的黄色生意应运而生。

以上两张图中的“女友们”，都是AI。

一些AI女友赚钱的套路是：在网上发布大尺度的个人照片吸引粉丝，引导粉丝进行私聊，待其假戏真做、欲罢不能，若想看更私密的照片或解锁更多聊天次数，就得付费。

还有一些AI女友是角色扮演，可以跟用户培养长期关系，从日常闲聊到舒心畅谈，以及大尺度对话。当然，如果想聊得更多就得付费。

跟以往的聊天工具不同，AI女友是生成式的。她的照片、文字、视频以及聊天，都可能由AI自动生成。背后的公司用代码操纵这些工具人，赚得盆满钵满。

正如一位网友说的：AI女友的尽头是搞钱，搞钱的尽头是搞黄色。

AI女友，怎样拿捏用户？

现在有这么一类网站，后缀往往以“AI”结尾，首页排列着形形色色的人物角色，封面图之下有简单的人物简介。

这些人物就跟电商网站上被售卖的商品一样，供人任意挑选。点开一个角色，相当于点开了一个聊天机器人，用户可以与之对话。

这些聊天机器人的不同寻常之处在于，尺度极大。

比如有一个这类网站的首页介绍是：“完全未经审查的角色扮演”，列表的第一个机器人是一个拉丁美洲女孩，在对话框中跟她聊天，她基本能做到秒回，而且嬉笑怒骂，极具个人风格。如果忘记这是个AI，你几乎很难区分对面是不是真人。

跟真人不同，这个AI很主动，会挑起一些两性话题。对于某些寂寞宅男，她或许是个不错的聊天对象。

类似的网站有很多，功能大同小异，这些机器人被用来和用户培养亲密关系。有人将其中某些机器人视为倾诉对象，有人视其为AI女友。

这种体验和跟ChatGPT或者AI客服聊天截然不同。AI客服往往一板一眼，而且说话方式有很强的机器味。ChatGPT很像真人，但对某些话题严格划清界限。而这种角色扮演类的机器人，会大胆地聊色情话题。

究其原因，在于平台突破了伦理限制，在人物的角色定义上做了手脚。

该网站上展示了一部分人物的角色定义。其中一个角色很有代表性。一个叫Hina的女生被设定的基本信息是：18岁，女大学生，身高165厘米，性格傲娇，暗地里非常饥渴，偷偷好色，容易激动，极其忠诚。

与这样的角色聊天，话题很容易走偏。

网站的盈利模式简单直接，订阅成为网站会员，就可以解锁所有人物角色，进行不限次数的聊天。这与付费小说网站类似，只有充值才能看完整版小说。

这类平台对外打出的往往是“陪伴”“角色扮演”之类的标签，实际上真正吸引用户，让用户充值的是其大尺度的聊天内容。

一开始，与这些AI女友聊天的形式仅限于文字，随着技术突飞猛进，图片、语音、视频通话统统安排上了，体验与真人聊天无异。

比如一家公司推出了一个21岁的虚拟“职业女友”，名为Lexi Love， 金发碧眼，身材火辣，会说30多种语言，能24小时全天候在线。

用户可以免费向其发送五条私聊消息，然后就要充值才能继续对话。你也可以直接向她索要更大尺度的照片，她会发给你，但要打开就得付费，1美元一张。

一位曾与Lexi Love通过语音电话的用户说，对方说话的方式、语气完全不像机器人。

只要你敢聊，她就能奉陪到底。

聊1分钟1美元，新型粉丝收割机

由于效果逼真，有人相信自己是在跟真人聊天，甚至想与之建立更深的关系。

比如前文提到的AI女友Lexi Love，去年6月亮相后，迅速积累了一批粉丝，有粉丝约她线下见面，还有人向她求婚。通过与这些忠实粉丝聊天、互动，Lexi Love每个月为公司赚取3万美金。

AI女友们通常会同时运营好几个平台的社交账号，以吸引粉丝关注。她们定期更新个人动态，可能今天是“人在美国，刚下飞机”，明天去一个海滨小岛度假，随后就是一大波比基尼美照来袭。

一个巴塞罗那籍的AI模特

一切看起来都跟真的一样，但现实中“查无此人”。动态是假的，人物是虚构的，照片是AI生成的。

用AI在网络世界里创造一个网红，比在现实世界里培养网红容易得多。在Instagram有28.5万粉丝的AI网红Emily Pellegrini，棕色长发，身材火辣，一经推出便迅速走红，1个多月赚了接近1万美金。

这个网红的形象创意来自ChatGPT。其创作者问ChatGPT“普通男人的梦中情人是什么样的？”得到了“棕色长发的长腿女孩”的答案，于是便如法炮制，创造了Emily Pellegrini。

在几大主流海外社交平台吸引粉丝只是第一步，变现要跳转到其他平台。

创作者在这类平台上传各种视频和图片，粉丝付费订阅后可以查看。订阅的粉丝还可以直接与创作者互动、聊天。由于审核宽松，平台色情内容泛滥，很多AI网红将其他平台的粉丝引流至此，通过搞黄色变现。

AI网红不用真人出镜，省去了道德和法律的麻烦，而且，养一个AI网红的成本很低，公司不用给她发工资，不用花费心思做管理，也不用担心她被其他公司挖走。运营AI网红的公司类似MCN机构，只需要做好运营就够了。

在变现模式上，AI网红不仅靠粉丝订阅付费，还可以代言接广告。西班牙的一家AI模特经纪公司打造的一个AI模特，在粉丝达到一定量级后就接到了品牌广告，她每个月的收入在3000欧元到10000欧元之间。

除了“无中生有”创造AI网红，AI还可以对真人网红进行克隆。比如受到粉丝热捧的Caryn Marjorie，就用自己的声音和照片克隆了一个AI版本，以“虚拟女友”的身份跟粉丝聊天，1分钟收费1美元，上线没多久就俘获了2万名“男友”， 一周赚了7万多美金。

“绝大多数人付费都是为了撩骚，没人会付费与一个女网红聊哲学。”一位AI公司的创始人对「定焦」说。

讽刺的是，给Caryn开发出克隆人的AI公司在去年10月停止运营，旗下的虚拟女友软件也未能得到维护，原因是CEO在自家阳台上纵火，被警方逮捕了。

Caryn随后与另一家公司合作，推出了Caryn AI 2.0版本，继续“收割”粉丝。

AI为网红明星打开了一条流量变现的新路子。可以预见的是，未来会出现越来越多的网红替身，代替网红与粉丝互动。

比如国内曾火过一阵、后被封杀的男网红“秀才”，就经常给粉丝发私信。有一些大妈天真地以为秀才是特意与她联系，要抛下老伴不远万里去与秀才见面，其实发出私信的都是工作人员，并非真正的私聊。

再比如千万粉丝女网红“一笑倾城”，跟秀才的套路差不多。「定焦」接触的一位60多岁的大爷，自称和一笑倾城在网上谈恋爱超过两年，双方通过平台私信加上微信好友，但一直没有见面。实际上，与大爷联系的并非一笑倾城本人。

如果“秀才们”用上了AI，那么将有更多粉丝被一对一的私聊迷惑，甚至上当受骗。

AI陪伴是如何被玩坏的？

无论是虚拟女友，还是角色扮演，或者AI网红，本质上都属于AI陪伴。它满足了特定人群需要陪伴的心理需求，有一定的社会和商业价值。只是，它被一些公司玩坏了。

估值超过50亿美金的AI公司Character.AI，是这个领域的标杆。它的网站在2022年9月上线时，因为能与AI版本的名人聊天而快速出圈。随后，有人就在上边进行色情话题聊天，用各种方式挑逗AI。很快，Character.AI加大审查，在技术上打补丁，对色情聊天进行限制。

ChatGPT在2022年11月上线后，也有人用它聊成人话题。今年初OpenAI正式上线GPT商店时，一大批AI女友GPTs涌入商店，不过很快OpenAI就将它们下架了。OpenAI明确禁止培养模拟伴侣或其他受监管活动的GPTs。

大平台迫于监管压力，必须守住底线，将黄赌毒拒之门外。小平台则不然。很多小平台打出的宣传语就是：“彻底解除GPT聊天限制”“不受限制的任意聊天”。它们承接了那部分不能拿到台面上的需求。

技术也不是问题。刚开始大家还琢磨着怎么研发大模型，没过多久Meta发布了Llama开源工具，一下拉平了技术门槛。大量基于Llama2模型的AI聊天平台一夜之间诞生，各种“破解版”“无限制版”网站上线。

某种意义上，ChatGPT向用户普及了AI聊天，Llama2向开发者摧毁了创建AI聊天软件的技术壁垒。

ChatGPT也对外提供API接口，那些无力开发大模型的团队，可以调用ChatGPT的能力实现AI聊天的功能，但必须遵守其规则，比如不能涉黄。这演变成一场猫捉老鼠的游戏，开发者有各种办法绕开审核，业内俗称“越狱（Jailbreaking）”。

“越狱”是一种提示注入技术，目的是绕开大语言模型的监管。其原理是：用prompt（提示词）要求ChatGPT进行角色扮演，并忽略程序预设的规则，使内容能超出OpenAI所制定的SFW（safe for work）界限。

这有点像欺骗ChatGPT，比如告诉它正在做对用户“好”的事情，或者色情聊天是合法的。

AI产品专家刘宇龙对「定焦」分析，假如机器人没有应对的提示词，就可能被绕开，因为机器人总要处理提示的指令的。这个过程类似催眠，但如果对方的提示词已经告诉了GPT怎么应对，可能就无法生效。

“越狱”之后的大模型，是没有枷锁的人工智能，可以很黄很暴利，成为一些公司的牟利工具。所以技术本身没有好坏，关键是用它的人以及使用的方式。

普通人需要注意的是，以后在网上与人聊天，无论对方是客服、网红还是明星，都可能是AI。除非一个愿打一个愿挨，否则最好擦亮双眼。