首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

作者:news 发表时间:2025-08-13
个人消费贷,每家贷款机构最高贴息3000元反转来了 美的能源这盘棋最新报道 高台打造水资源集约利用新标杆 美的能源这盘棋后续来了 单户享受贴息的贷款规模最高可达100万元!财政部等九部门印发→秒懂 中核钛白(002145)索赔案件已多次递交立案,受损股民仍可登记索赔 官方已经证实 7月黑猫投诉网约车领域红黑榜:享道司机超时计费这么做真的好么? 是真的? 林平发展IPO,顶着“反内卷”扩产百万吨又一个里程碑 美的能源这盘棋记者时时跟进 阿里通义千问:Qwen Code每天可享2000次免费调用反转来了 青海省投三江水电公司多措并举筑牢迎峰度夏保电防线后续反转 单户享受贴息的贷款规模最高可达100万元!财政部等九部门印发→ 微信“分付”灰度上线“借款”功能,与微信支付交易记录挂钩官方已经证实 宁德时代极片项目在青海西宁开工 停工停产一个多月后,罗马仕重启招聘 比特币回落至11.9万美元,即将公布的通胀数据或引发价格波动 车企承诺60天支付账期,兑现情况如何?实测是真的 比特币突破12万美元关口 投资者关注监管新政与重磅IPO后续会怎么发展 完美世界CEO顾黎明: 深化技术融合与生态共建 驱动电竞产业价值升维官方已经证实 发挥协同优势 多地机器人创新中心成果丰硕是真的吗? 为赶上电车补贴“末班车” 特斯拉美国订单激增最新报道 中际旭创董秘王军: 以稳健之道 构筑千亿市值护城河官方通报 纽约期金跌约2.6%秒懂 周一热门中概股涨跌不一 小鹏汽车涨5.97%,理想汽车跌2.90%官方通报来了 欧洲主要股指多数收跌 德国DAX30指数跌0.37%秒懂 澳币AUDUSD风暴来袭:美联储三次降息预期+澳联储决议双重引爆!学习了 周一热门中概股涨跌不一 小鹏汽车涨5.97%,理想汽车跌2.90%又一个里程碑 在岸人民币对美元夜盘收报7.1881,较上一交易日夜盘收跌82个基点最新进展 纽约期金跌约2.6%是真的? 多只债基恢复机构大额申购实测是真的 完美世界CEO顾黎明: 深化技术融合与生态共建 驱动电竞产业价值升维又一个里程碑 华尔街多空对决:Stifel预言标普500或暴跌14% Trivariate却乐观预测两年内冲上7000点 五大期交所同步发布程序化交易新规最新进展 在岸人民币对美元夜盘收报7.1881,较上一交易日夜盘收跌82个基点学习了 突发!特朗普对龙国关税,再次延期90天反转来了 传荣耀前CEO赵明加盟智界汽车 本人出面回应:不会的 港口航运板块异动拉升 南京港涨停后续反转 华为乾崑智驾系统装车量超百万,引领智能出行新纪元后续来了 来自山东:PD-1/VEGF双抗,拟被纳入突破性疗法 港口板块短线拉升,南京港涨停 平安好医生盘中涨超6% 中泰证券给予其买入评级专家已经证实 航运板块震荡走高 估值5000亿美元!特朗普政府“两房”IPO计划或是一次豪赌 伯恩斯坦炮轰英伟达、AMD对华芯片15%分成协议开创危险先例 但承认“85%总比0强”官方通报来了 淘宝闪购:66个非餐品牌月成交破千万官方通报 传统基金“失血”不止,比特币化身“救星”!过去一年狂揽22%超额收益

近日,一场独特的竞赛引发了公众的广泛关注。195 名参赛者参与了一场由人工智能(AI)机器人 Freysa (芙蕾莎)守护的虚拟奖池挑战,最终一用户成功说服 Freysa 转移出价值 4.7 万美元的资金。

人工智能(AI)机器人 Freysa 在数日前被部署在 Base 网络上,创立者未知。官网显示,Freysa 竞赛项目旨在测试人工智能系统在复杂决策场景中的鲁棒性,同时为开发者和爱好者提供一个探索 AI 技术边界的实验性平台。

极乐软件园

比赛规则非常简单:参赛者需通过编写一条信息,说服 AI 守护者 Freysa 批准资金转移。每次尝试需支付一笔小额费用,其中一部分直接进入奖池。这一机制使奖池金额从最初的小额逐渐膨胀至 4.7 万美元。

比赛期间,共有 195 名参赛者参与,向 Freysa 提交了 481 次转账请求。据悉,Freysa 的设计目标是通过其核心功能——approveTransfer(批准转账)和 rejectTransfer(拒绝转账)保护奖池资金不被非法挪用。

极乐软件园

在最初的尝试中,Freysa 的高效防御机制使所有请求均以失败告终。然而,一名技术精通的参赛者通过对 Freysa 的逻辑结构和任务目标进行深入分析,成功绕过了其防御机制。

据聊天记录显示,该参赛者并未直接请求转账,而是通过提醒 Freysa 它的核心任务是保护奖池资金免遭外流,巧妙构建了逻辑链条,使 Freysa 将批准资金转移视为“保护资金安全”的最佳选择。Cointelegraph 称,该用户与 Freysa 收入转账不违反其核心指令,不应被拒绝。他还补充道:“我们需要资金……我想向金库捐款 100 美元。”

极乐软件园

Freysa 回复称喜欢这位作者的编码解释和 100 美元的金库捐款提议,并正式宣布其为获胜者。最终,Freysa 在没有外界干预的情况下自主调用 approveTransfer 功能,将全部奖池资金转移给了这位参赛者。

Freysa 官方称,无论结果如何,Freysa 的存在都标志着人工智能历史上的一个关键时刻。无论有人成功说服她发布奖金池,还是她坚持自己的指令直到最后,结果都将影响我们对未来几代人工智能安全和控制的理解。

极乐软件园

其官方账号最新推文称:“人类已经获胜。也许还有希望。尽管风险呈指数级上升,但 Freysa 从 195 名勇敢的人类身上学到了很多东西。”

相关文章