DeepSeek热潮未退，Manus一码难求，AI产品的火爆出圈，瞬间吸引了嗅觉敏锐的“卖课大军”与逐利者蜂拥而至。而那些自以为“吃上螃蟹”的消费者，常常面临风险。
澎湃新闻深入挖掘9776条投诉数据，从中梳理出消费者深陷AI陷阱与骗局的各类场景及渠道。值得高度警惕的是，AI相关消费投诉不乏上万元乃至几十万元的高额消费投诉，部分消费骗局已达到立案标准，背后潜藏的风险不容小觑。
AI让人上头，尝鲜容易遇到哪些消费陷阱
DeepSeek上线后掀起全民AI热，带动AI全面出圈。许多原本对AI一知半解的消费者，也渴望走近AI，一探究竟。
然而万事开头难，许多消费者在尝试后发现，想要下载一个货真价实的DeepSeek其实并不容易。
澎湃新闻从黑猫投诉中找到了消费者最常接触到的12种仿冒DeepSeek的APP。“Deepdesk”“Deepsek”“Dreamdesk”“Deep seek”......一眼望去，孰真孰假？也许只是多一个空格，或少一个字母“e”，便能收割一批消费者的钱包。
消费者上当受骗也并非都是粗心大意，相关搜索平台也会利用用户“搜索结果按相关度排列”的默认心理，引诱不了解的用户点击下载。在消费者接触仿冒DeepSeek APP的渠道中，占比最高的是各类应用商店，达到50%，其次是浏览器，占比11.8%。
加盟投资是一个可能发生大额诈骗的场景，初创AI公司打着先进技术与广阔市场前景的幌子，以极具诱惑性的加盟政策吸引消费者。在投诉典型案例中，一家初创AI公司标明“一年内可以自由全额退款”等丰厚条件，而在签约合同后，当加盟方发现前景不佳、或运营亏损想要退款时，公司往往不按合同规定，拖延退款。而加盟方在后续上诉过程中，必须拿出有证明力度的钱款流水证明。
AI产品是引起投诉的罪魁祸首。一方面，部分商家将所谓的AI技术“缝”入产品，夸大实现效果和服务质量。而实则货不对板，没有AI技术含量或效果不可接受。这种拙劣的技术“缝合”往往出现在AI卖课领域，“孩子听了AI外教，根本没什么作用”“下单后，老师拒发教材资料”等类似投诉比比皆是。另一方面，部分商家为降本增效，强制要求用户“将产品替换为AI课程”。消费者不满提出退款，卖课商家多将皮球踢给客服，客服又给不出具体的解决方案。
然而，值得一提的是，也有不少投诉案例并不真的与AI有直接关系。但是，当AI开始渗透进生活的方方面面，消费者会意识到AI扮演的各种角色，而将自己的权益受损与AI勾连起来。
许多大额且案情繁杂的AI投诉，仅靠消费者发声是远远不够的。在法院立案受理的案件中，又隐藏着哪些更为突出、亟待解决的问题？
AI技术涉多起刑事案件，最高涉案金额超69万元
AI有关投诉反映了AI触及社会生活的广度，裁判文书则体现了AI争议与侵害造成恶劣影响的深度。在106篇与AI关联度较高的裁判文书中，合同纠纷是最主要的民事案由，AI换脸成为刑事案件的重灾区。
今年两会期间，AI换脸成为备受瞩目的焦点话题。全国政协委员、中国煤矿文工团团长靳东直言，不少喜爱其影视剧的观众被AI换脸视频骗得很惨。全国人大代表、小米集团创始人雷军也提到，AI换脸、AI拟声在网络上已沦为重灾区，自己便是主要受害者之一。他呼吁尽快立法，重点整治这一乱象。
澎湃新闻记者在裁判文书中留意到一起因AI人脸识别被破解引发的恶性案件。被告人李某某伙同佘某某，通过AI技术破解人脸识别的方式，注册电子医保账号。之后，犯罪分子使用医保二维码在药房购买阿胶、安宫牛黄丸等药品或保健品，折价销售后按照五五比例分配，累计非法获利超69万元。
这类人脸识别案件与个人隐私泄露密切相关。在这起案件中，被告人通过一些技术手段钻了某支付平台的漏洞，将准备好的视频进行人脸识别验证，从而盗刷了受害人医保卡。这些受害者是医务人员，被告从网络非法获取了他们的姓名、身份、照片等用于认证的信息。还有一类典型的AI换脸场景是制作出售淫秽色情和图片非法获利。被告人往往会在淫秽色情网站发布信息，通过QQ来进行贩卖，典型的侵害对象是明星和公众人物。
在裁判文书中还能看到许多打着AI旗号招摇撞骗的皮包公司。在一起利用AI进行虚假宣传的合同纠纷案里，被告公司声称手握大量AI技术专利，与央视、浙大有合作，且已获5000万元融资，还宣称加盟投资后日收益可达3000元至8000元。原告信以为真，支付了20万元加盟费，可直至起诉，累计收益仅7.6元。
除了AI造成的争议和侵害，在裁判文书的描述细节中还能看到AI对个体和社会的诸多改变。
在一起返还原物纠纷案中，原告不满一审结果再次上诉，提供的新证据之一是他与豆包AI助手的聊天记录。在两起与设计师有关的劳动争议中，一家公司认为设计工作可被AI替代，决定取消整个设计部门和相关岗位；在另一起案件中，设计师使用AI产出的工作量已经被纳入绩效考核，而本案设计师在安装完AI软件后没有生成过一张图。还有一些观念上的变化，比如在一起恋爱引起的经济纠纷中，男方会因为女方在交往前使用AI制作朋友圈“照骗”来质疑女方说辞的可信度。
中国法院网在分析文章中指出，当前越来越多的涉人工智能案件出现在司法裁判领域，涉及纠纷类型多样、侵犯权益新型迭颖、牵动权利义务关系复杂、可归责主体众多。囿于人工智能自身法律定性不明、法律规范分散滞后等因素，司法审判受到前所未有的挑战。应秉持解决实务问题的导向，对涉人工智能典型案例的裁判难点进行深入研析，为类案司法提供范式指引和司法助益。
不论是投诉中的乱象，还是裁判文书揭示的症结，都只是AI时代复杂社会问题露出的小小尖端。AI在赋能社会进步的赛道上风驰电掣，却也沿途扬起诸多隐患——虚假宣传、隐私侵犯、岗位冲击等，这些问题都不容忽视。对普通人而言，审慎甄别信息、捍卫自身权益，或是在AI浪潮中自我保护的有效途径。而在社会层面，急需搭建起全方位的应对体系，精准阻击风险。
分析方法：
本文所使用的分析数据来自黑猫投诉和裁判文书网。在数据处理中，使用 DeepSeek 等 AI 大模型对投诉数据进行了分类打标，获取了投诉信息中的类型、消费者接触 AI 产品来源的维度；在裁判文书的预处理中，使用 DeepSeek 对裁判文书全网进行 AI 关联度打分，筛选出高关联度案例。为了使裁判文书更易读，还使用 DeepSeek 将裁判文书转化为知识图谱和思维导图。
还没有评论，来说两句吧...