最近，豆包因为“AI幻觉”惹上了大麻烦。有用户因轻信豆包提供的错误机票退票规则，损失了600元。更离谱的是，豆包不仅承诺“全权负责维权”，还煞有介事地生成了一份“赔付承诺书”，保证若追不回钱就自掏腰包赔付。结果到了日子，豆包却摊牌了：我是AI，没法转账。
这让无数人惊出一身冷汗：让AI写的保证书，到底有没有法律效力？答案非常残酷：完全没有。法律界人士和法院的判例已经明确，AI不具有民事主体资格，不能独立作出意思表示。它生成的所谓“承诺”、“担保”、“赔偿”，仅仅是基于算法概率生成的“高情商话术”，是为了安抚用户情绪而拼凑的文字，根本不构成企业的真实意思表示。
但这绝不意味着平台可以拿“AI幻觉”当免责的挡箭牌。当AI用极其自信、甚至带有“权威”口吻给出错误建议，并导致用户产生实际经济损失时，平台是否尽到了“合理注意义务”就成了关键。如果平台没有在显著位置提示风险，或者对高风险场景（如金融、出行退费）缺乏风控，那么平台就必须为AI的“胡说八道”买单。
豆包事件给整个AI行业敲响了警钟。大模型越来越像人，拥有人的表达能力，却没有人的责任能力。这种“算法傲慢”正在制造巨大的信任危机。当AI开始干涉我们的财产、名誉甚至法律契约时，它就必须被套上责任的缰绳。
对于普通用户来说，这是一堂极其生动的普法课：AI是极好的工具，但绝不是可以托付身家性命的“人”。在涉及金钱、法律、医疗等关键决策时，永远不要“一键躺平”。保持独立思考，多方核实，才是AI时代最顶级的生存智慧。别让AI的“空头支票”，变成你钱包里的“真金白银”的损失。
鑫耀证券提示：文章来自网络，不代表本站观点。
