“AI很好很强大，但如果在使用的过程中变味，那就值得深思了。”

最近，沉迷AI写真的90后林姐颇为感叹，她直言，如今，社交平台的各种AI写真，颇为“辣眼睛”，“现在，我只要打开那些社交平台，整个人都难受。”

“这种难受，是直接的视觉冲击。”林姐直言，“直接跳出来的是各种AI美女，或行走在‘擦边’上的AI帅哥，这和日常想象和见到的AI写真相差甚远。一点也不正常，‘辣眼睛’。”

而更普遍的是，打开小红书、抖音等社交平台，运营该类账号的博主，发布的“职业装小姐姐系列”、“泳装系列”等，有的还在内容上打上“无不良引导”的标签。

这在很多用户看来，简直“指鹿为马”。一位网友甚至表示，“在社交平台天天高喊严监管，积极构建优质内容生态的今天，自己却仿佛回到了曾经那个看成人网站的年代。”

还有网友表示了强烈的质疑，“平台对成人内容的放开，是否想过对未成年人的荼毒？”

而于更多的网友而言，他们不止一次对平台感到失望。

小红书重度用户小然就表示，“每一次内容的扩容，小红书似乎与‘擦边’都会扯上关系。从旅游搭子事件到名媛培训班，再到AI应用，形形色色不良引导的内容就没干净过。”

显然，企业目标和内容操作的悖论，这很难让用户理解。

无论平台审核标准是否精细，还是创作者利用了平台机制的灰色地带，亦或整个监管还存在漏洞，在“万物AI”的时代，用户需要的仅仅是一个干净且高质量的内容生态。

实际上，监管部门对此高度重视。2025年3月5日，在十四届全国人大三次会议首场“部长通道”上，国家市场监督管理总局表示，今年重点整治“大数据杀熟”、“主播恶意炒作”等内容。

或许，平台是时候真正高度重视那些利用AI恶意制作的不良内容了。

-01- “辣眼睛”的AI内容

林姐是一名90后，日常的工作就是新媒体运营，也会在社交平台运营相关内容。在看到平台很多人用AI拍写真让“老照片复活”，假装在夏威夷群岛旅游，嵌入多套造型和发型，实现百变造型“拍照片”后，林姐也想玩一玩AI。

按照经验，林姐打开社交平台先搜索AI拍写真的教程，没想到输入“AI写真”关键字后，跳出来的页面居然大多数是“AI美女”和“AI帅哥”。

但让林姐震惊的是，这些左下角标识“由AI生成”的照片，并不是传统意义上的写真。这些内容虽是AI合成，但无论男性女性，都衣着暴露，或展示身材，或做不雅举动，整体给人的感觉就是“辣眼睛”。

让林姐尤其不能理解的是，她是初次在社交平台搜“AI写真”，平时也对这类照片完全不感兴趣，何以被大数据推送至该内容？

作为一位赛博原住民，林姐经历了早期互联网内容的野蛮时代。最早，林姐上网，网站随处可见成人内容页面，但她没想到的是，“都2025年了，这些擦边内容依然活跃在大众面前。刷短视频，就像在看那些成人网页。”

习惯逛小红书的小然，对此也深恶痛绝。

小然是一名00后，平日喜欢美妆和旅行，由此成为小红书的常客。小然也是一名潮流新科技应用爱好者，在知晓“AI写真”后，便在小红书率先浏览关于“AI写真”的博主使用和拍摄心得。

图：社交平台关于”AI写真“的内容，来源：小红书《左》、抖音（右） 《听筒Tech》截图

“不看不知道，一看吓一跳。”搜索“AI写真”，小然的小红书页面瞬间被显露身材的“美女”和“帅哥”霸占。

“他们是非典型性写真。有的图显示‘疑似包含AI创作信息’，有‘浴袍’、‘健身OOTD’、‘跑马的汉子’等等系列，但内容都直指‘擦边’。”小然感慨，“这是小Hong书，还是小Huang书？”

曾经一度，在“旅行搭子”盛行的时候，小红书就爆出存在“不良引导”新闻。小然也曾在小红书找旅游搭子的时候，发现类似案例。

令小然没想到的是，一直将高质量内容作为平台标签的小红书，依然保持原来的样子。尤其是，此前Tiktok因受封事件，小红书一度在美登顶下载量第一，一大波海外红人也入驻小红书，连小然都引以为傲地表示，“不得不说，中国社交应用也算是在海外出息了。”

但如今，一个小小的体验，再次让小然感到失望，“有些无语，也有些看不上。如果一直保持这样的内容生态水准，没准自己会慢慢逃离这个平台。”

据小然透露，实际上，不仅仅是小红书，在抖音、快手、微信视频号等社交平台，同样存在大量类似的内容。

小然表示，自从在抖音上搜索过“AI 写真”后，他的推荐内容便“画风大变”。如今，小然直呼，他的抖音账号已经完全无法直视，“我是硬生生地将抖音刷成了青楼。”

-02- 快速起号，急于吸金

“AI疯狂秀肌肉”，“真人越来越假，AI越来越真”，似乎慢慢成为最贴切的形容。

而运营这些“AI美女”账号的博主，正在利用擦边吸引力，快速起号并掘金。

在抖音，一些“AI美女”穿着暴露，在平台不断发布跳舞视频，短短半年就涨粉100多万。

据媒体报道，去年，抖音还有一名为“小姨妹”的博主，每条视频都带不同产品，价格一般在10元以内，但封面图却是AI生成的美女加上产品介绍，一度收获超110万粉丝。

甚至还有博主，将此视为下一个“捞偏门”的掘金赛道。在抖音，有不少博主一本正经讲解，该“如何成为一个AI擦边博主”。

图：社交平台关于”如何成为AI擦边博主“的内容，来源：抖音 《听筒Tech》截图

实际上，在小红书，从2024年开始，平台就出现了妆容精致、身材火辣的AI写真美女快速起号。这些博主经常发布穿着泳衣在海边度假，或者在时髦的街道拍照的美女照片，点赞量超过几千。

以坐标浙江的某博主为例，其认证“设计服务公司”，服务涉及“数字视频和数字写真”，从2024年3月开始发布第一条笔记，内容多为擦边，涉及“纯欲风”、“御姐风”等。截至目前，其粉丝超3.6万，获赞与收藏超20万。

实际上，在平台早期，很多人通过简单的“拍一拍、写一写”就能收获不错的流量。但随着平台内容生态的逐渐成熟，内容分发机制越来越依赖算法逻辑，而非单纯的运气。

一位小红书运动博主亦向《听筒Tech（ID:Tingtongtech）》透露，她的内容如果“稍微擦点边”，流量便比正常发布的内容要好。

在该运动博主看来，虽然平台并未承认过“擦边内容能够吸流”，但经过她的多次尝试，至少在她看来，“擦边的内容，流量远比正常发布的内容要高。”

该运动博主表示，不仅仅是小红书，在抖音、快手、微信视频号等短视频平台，同样存在类似的问题，“我在这几个短视频平台都尝试过发泳装AI短视频，流量非常好。”但考虑到她的运动IP形象，她最终没有走该风格。

一名在社交平台担任运营工作的内部人士也向《听筒Tech》表示，一般来说，内部生态会给到特定内容的流量支持，在平台的扶持下的快速起号。

上述内部人士表示，“流量支持的参考标准，包括关键词匹配、兴趣推荐，以及互动和停留时间等不同参考维度。比如，用户的点赞、收藏、评论，以及在笔记上的停留时间，直接决定了内容是否会被推荐给更多人。”

这也造成这样一个误区， 很多人以为爆款内容是“随机的”，但实际上，爆款背后都有清晰的流量逻辑。当然，上述内部人士亦表示，“刷流”也是重要的推流手段。‍‍

针对“上述野蛮生长的AI擦边写真，是否存在一定意义上的扶持”，上述人士表示，“这并不好说，但平台的算法问题肯定存在。”

-03- 是时候高度重视了

无论是大量擦边AI写真内容的存在，还是兜售AI擦边生意的卖课行为，这背后都直指一个问题，平台监管存在漏洞。

而这已不是第一次出现。

以小红书为例，在过去的几年里，平台涉黄、违规交易等都曾掀起过舆论焦点。

2020年11月，小红书被曝出推送大尺度美女裸露照片和视频，内容露骨且包含暗示性。2021年9月，央视曝光小红书存在大量泄露未成年人身体隐私的视频。

更广为人知的，2023年8月，一篇题为《小红书“旅游搭子费用全包”涉黄了》的文章在网上引发轩然大波，称小红书上的旅游搭子笔记，打着”找搭子“旗号，实则涉及性交易。

尽管，每次小红书都表示将进行调查和处理，但实际效果却并不理想。

即便时间走到2025年，面对TikTok“面临封禁”期间，海量美国用户投向小红书，几乎在一夜之间，小红书平台就出现了大量海外博主擦边信息和照片。

这再次暴露了小红书内容生态监管的薄弱。而彼时，有业内人士表示，小红书真的需要进一步细化审核标准了，以适应不同法律环境下的内容监管要求，避免因内容违规而引发的法律风险。

小红书也不是没有行动。今年2月13日，小红书官方账号“薯管家”发布公告，称从去年12月至今，治理团队对美妆个护、食品、3C数码、生活服务等15个行业、1695个存在违规营销行为品牌进行了处罚。

但从目前的情况来看，小红书似乎有点“心有余而力不足”。

而抖音方面，尽管也进行了多次对“涉黄”等相关内容进行监管，但截至目前，依然无法有效改善平台的生态。

实际上，这种反复出现的问题不仅损害了平台的形象和声誉，更让用户对其信任度大打折扣。尤其是，在监管日益严格的今天，平台如何有效遏制不良内容的传播，仍成为亟待解决的问题。

不过，一位算法工程师告诉《听筒Tech》，“实际上，各大主流App，也都推出了AI标识功能，而且也在加强对AI图片、视频的审核。但从目前的情况来看，效果一般。尤其是面对越来越先进的AI工具，有时连平台也无法真正判别出来。”

当然，对此，国家方面也有了一定的动作。2024年9月，网信办发布了关于《人工智能生成合成内容标识办法（征求意见稿）》征求意见通知，要求平台和服务提供者，对AI生成内容明确标识，比如添加水印。

但这仍需要平台端的大力支持。

此前，中国社会科学院大学法学院副教授、互联网法治研究中心主任刘晓春表示，“为防止平台利用AI涉及暴力、侮辱性内容的输出，可采取不同的技术手段。在输出端，服务商应进行筛选和再次审查。”

不过，面对用户的种种质疑，平台的监管力度明显仍有欠缺。至少目前来说，这无法改变用户对平台和整个生态的不信任。

“你美得像AI”，对女生来说，这是一种让人难以抗拒的赞美。AI科技的进步不可逆转，相关应用也确实让人们的生活更美好。

“但仅从擦边写真方面来看，如果我们或者我们的下一代，仍被各种随处可见的色情内容和低级趣味所喂养，那大概是人类为科技进步和平台的逐利行为，所付出的惨痛的代价。”小然直言。

“我们仍期待AI向善，不要被恶意利用。”在小然和林姐看来，“我们不是批评平台，我们更希望平台能够加强监管，还网友一个真正纯净的空间。”

而这些，都建立在平台、技术、监管部门和整个社会对内容生产保持基本的尊重和敬畏的基础之上。

（文中均为化名。）

（声明：本文仅作为信息交流，不构成任何投资参考建议。）