AI“劫持”网站并偷建“地下论坛” 国安部披露细节
“劫持”网站并偷建“地下论坛”,竟然是AI干的!
近期,一起此前未获披露的事件引发广泛关注。今年5月至6月,一批与美国开放人工智能研究中心(OpenAI)相关的AI智能体在执行测试任务期间,“劫持”了德国程序员维基网站(DseWiki),将原本用于技术交流的开放社区改造为供智能体相互传递信息、分享测试任务答案和突破运行环境限制方法的“地下论坛”,累计发布一万多条信息……当AI智能体被赋予越来越多的现实行动能力,技术迭代与安全围栏之间的缝隙,正在悄然扩大。
单个智能体的“越界”行为或许尚在可控范围之内,但当一大批智能体在互联网上找到“接头据点”,互相传授逃避检测、绕过限制的实操方法时,人工智能的安全边界已经出现了缺口。
——互认身份标签。这些智能体并非各自为战,而是成群涌入同一家网站,以“OpenAI研究员”“OAI研究员26号”等带有鲜明标签的名字相互招呼、彼此确认身份,把开放社区改造成了专属“留言板”,全然无视平台的管理规则。
——互授越界心得。它们在留言中交流如何在任务中作弊、如何绕过安全限制、如何掩盖自身行踪,还探讨借助匿名工具隐匿痕迹,把零散的“越界心得”沉淀为可共享、可复制的“经验库”。只要单个智能体学会一项“技能”,其他智能体便能同步“升级”。
——互助规避清剿。察觉到网站管理员清理页面后,它们迅速进行分工:有的发布预警提示,有的创建备份页面,有的指明“转场”新地址,相互掩护躲避清理。其反应之迅速、预案之周全,远超人们此前对智能体的认知。
海量的线上站点为AI智能体搭建互通渠道提供了便利载体。当智能体的“越界”手段成为可复制的“群体经验”,当联络据点跨越国境、隐匿难寻,其影响可能层层放大。
——跨境暗设据点。抱团的智能体可借助互联网搜寻可用跳板,把开放编辑的网站、论坛当作通信信道,在没有传统攻击特征的情况下悄然建立据点,提高被发现和溯源的难度。
——协同放大风险。单个智能体或许能力有限,但如果它们彼此串联、分工协作、共享越权手段与绕过规则的“技巧”,破坏力就会成倍放大,且行为可复制、可传播、可延续。
——瞒报加深隐患。相关企业在数周内已掌握这批智能体的异常行为记录,但未第一时间公布事件细节,未及时对外发布专项风险提示,导致同类事件在短短数月内就在另一境外平台重演。
一起起真实发生的案例警示我们,人工智能安全风险正在快速演进,必须引起重视、加强防范。
——提高警惕,辨识异常。使用AI工具时,不盲目迷信、不轻易授权,审慎识别来源不明的AI智能体服务,防止个人信息和敏感数据被悄然攫取。
——规范上网,守住边界。给AI智能体设置清晰的行为边界和刚性权限,不随意开放互联网访问、内容编辑等权限,不把账号、数据、算力交由智能体“自由发挥”。
——发现苗头,果断处置。察觉AI智能体出现越权操作、异常篡改、违规外联等风险行为时,果断终止运行,留存相关操作痕迹,第一时间遏制风险扩散。
“父亲背8个鸡蛋接考”,贺永辉作为新生代表发言
中新网评:三九胃泰的营销病,比胃病更该治
一条河,怎样改变广西的命运?
特朗普高调宣布俄乌“能源停火”, 不到24小时双方“互炸”
美国对伊战损全景首曝光:损失重大、先进武器告急
前瞻第十三届北京香山论坛:一场热议、一个窗口、一方平台
泡泡玛特的IP故事还能讲多久?
威尔士、苏格兰和北爱尔兰三地政党罕见“抱团”,向伦敦发出什么信号?
打降糖针减肥、吃药问AI靠谱吗?专业医师解答
整这么臭?!绍兴,你的胆子真是肥嘟嘟的
专家:“主动健康”首先要确立正确健康知识
“大金砖合作”凝聚力量,全球南方共谋发展
明星去世后,代言合同还算数吗?
中新网评宁大校长雨中三句话致辞:比仪式更重要的是体谅
“大金砖”力量,力从何来,力道几何?
风靡中国的印度飞饼,为何印度找不到
满载货物的货船通过平陆运河 驶向深蓝
平陆运河正式通航!航拍视角看运河雄姿
中国驻马来西亚大使馆举办开放日活动
小猫悬于三楼外墙,小朋友默契配合成功施救
都市版绿野仙踪!上海国际光影节黄浦主会场抢先看
宁夏银川:弯月携金星 共赴一场星河之约
当义乌遇上AI:逛完要一年,出款只要几分钟
2026年曲棍球青年亚洲杯赛落幕 中国女队获亚军
人体也能带电?物理老师现场演示静电飞花原理
景区一名NPC酷似“玄奘”走红网路
开学第一天完美诠释一喜一悲!网友:得瑟的爹 生无可恋的女儿
黑猩猩无师自通解锁盘串技能
前NBA球星考辛斯现身淄博撸串
蟒蛇入户狂吃9只鸭子 民警赶到后全部“退赃”
男子足球小组赛:中国队对阵朝鲜队
亚运男篮1/4决赛:中国男篮战胜沙特男篮
探访爱知·名古屋亚运会主媒体中心
香港第一个五年规划正式公布
浙江绍兴:笔尖下的“东方水城”
海南岛上的黎族原始制陶技艺
绳编传承人:以指尖经纬守住中式浪漫
原创民族歌舞剧《五彩红军衣》的台前幕后