多家银行警告AI代购风险
国民西敏银行、美国银行等多家金融机构发出警告,指出AI智能体代客购物模式可能引发诈骗、欺诈及数据隐私泄露风险。尽管OpenAI等科技企业正推动AI进入购物场景,且零售商数据显示AI搜索占比上升,但银行方强调行业标准与消费者保护机制滞后于技术发展,并呼吁建立透明度与数据保护规范。
驱动中国9月22日消息,据路透社报道,国民西敏银行、美国银行、ING、新西兰ASB银行及美国第一资本金融等多家银行机构近期发出警告,指出让AI智能体代替消费者进行网上购物的模式,可能显著增加诈骗、欺诈以及数据隐私泄露的风险。
当前,OpenAI、Anthropic、谷歌和Meta等科技企业正积极将AI聊天机器人引入购物场景,旨在实现由AI智能体协助消费者挑选商品并直接代为下单的功能。与此同时,零售商也开始竞相影响聊天机器人的商品推荐机制,试图在这一新兴流量入口中占据优势。
英国零售商约翰·刘易斯百货的数据印证了这一趋势。该百货9月披露,来自AI智能体的搜索占比已从一年前的0.3%上升至2.5%,且增速仍在加快。多家参与报告的银行指出,尽管消费者对AI智能体购物表现出浓厚兴趣并愿意尝试此类服务,但相关技术的发展速度明显超过了行业标准制定和消费者保护机制完善的步伐。
报告详细列举了潜在风险,指出消费者往往不清楚AI智能体是否真正基于其利益进行决策。用户担忧AI可能出现购买错误商品、花费超出预期等情况,甚至因遭遇诈骗和欺诈而遭受经济损失。此外,消费者对于出现问题后是否能获得保护以及应向谁寻求帮助也存在不确定性。
在操作层面,风险具体表现为AI智能体可能要求消费者提供银行卡信息并直接输入购物网站,或将用户引导至消费者保护力度较弱的支付方式。针对这些问题,多家银行计划与政策制定者讨论一系列提议,包括要求明确披露AI智能体是否参与交易、提高决策过程的透明度,以及建立更完善的客户数据保护机制。
报告还建议,消费者和商户应拥有自由选择AI电商服务的权利,不同系统之间也应实现互操作,以促进行业规范发展。