理性看待使用，多关注现实世界，才是拥抱AI时代的明智之举。

AI剧情聊天软件中的角色。截图

　　彩云网评特约评论员 陈长

　　“他是病娇，暗恋你”“他是校草，喜欢叫你‘泽宝宝’”……记者日前调查发现，AI聊天软件通过设定极富想象力的剧情、风格迥异的人物角色打动用户。但在部分AI剧情聊天软件的对话中，会出现色情擦边、语言暴力以及侮辱用户等涉嫌违法违规的内容。

　　当今社会日新月异，很多人在快节奏的现实生活中时常感到孤独和空虚，虚拟情感体验已成为生活的一部分。而人工智能技术的发展，则让这一体验变得更加真实。目前各类AI聊天应用拟人化程度不断加深，用户可自定义虚拟人物的形象描述及风格，让不少人很“上头”。但与此同时，AI技术应用的底线和边界也渐渐变得模糊。比如，在一款名为AiU的软件中，聊天对象可设定为“出轨对象”，用户对话时可要求进行一些亲密行为；在一款名为星野的软件中，与其进行“争执”对话测试时，角色为表达生气回复也较为粗暴；在一款名为Cos Love的软件中，角色“冯楚萱”被设定为一名中学生，但用户晒图中存在不良引导……不少AI剧情聊天软件通过允许“擦边对话”来吸引用户，尤其是青少年模式中仍然存在这种现象，使得网络安全治理形势更加严峻复杂。

　　事实上，AI剧情聊天就是此前互联网语擦升级版。在以往模式中，真人语擦师通过扮演二次元角色或三次元偶像与用户聊天，为其提供情绪价值。而AI聊天软件的大语言模型数据则主要来源对话式小说，或从小说里做一些文字提取。尽管网络小说数量巨大，但质量参差不齐，不少色情、擦边以及暴力的内容仍然存在，如果没有做好数据过滤或分级，模型在输出时就容易出现问题。这种商业模式带来风险隐患不容小觑。从法律层面看，平台抓取数据若没能得到相关方的授权，则涉嫌侵犯知识产权；内容含有色情，无疑涉嫌传播淫秽物品违法犯罪。从道德规范和伦理准则层面看，此类行为可能导致用户沉迷于色情和暴力不能自拔，进而引发个人身心健康和社会公序良俗问题。

　　AI技术是一把“双刃剑”，无论如何发展都不能脱离法律和伦理的轨道。我国去年颁布的《生成式人工智能服务管理暂行办法》已强调，提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。相关部门应加强对AI聊天乱象的清理整治，通过健全内容审查机制、畅通用户举报渠道等方式，对AI生成内容实时监管，让违法者付出应有代价。同时，企业作为内容的生产者、传播者和管理者，应担负起主体责任，可采取调整模型训练数据、加强过滤筛查等方式，设置更严格的标准体系来指导AI行为，并重点强化对未成人的保护，及时纠正不符合规范的内容，防止“走歪路”。

　　虚拟情感固然有趣，审慎对待更不可少。期待AI技术能为情感体验带来全新可能，但也应避免过度依赖虚拟世界。毕竟，虚拟情感体验存在着的局限性，无法替代真实人际关系。理性看待使用，多关注现实世界，才是拥抱AI时代的明智之举。

　　彩云网评所登载的所有文章仅代表作者个人观点，与本网站立场无关。欢迎关注彩云网评，投稿邮箱yncywp＠163.com，稿费从优。