一 | 中新网大连8月22日电 (记者 杨毅)21日至22日，参加“辽台同频 文媒共声——两岸青年媒体人辽宁行”的30余位媒体人士、青年自媒体人，走进辽宁省大连市，于山海之间感受海滨城市的独特魅力。 遏制这项技术变得越来越难 插图来源：《经济学人》 2026年7月22日 这听起来像是科幻电影里的情节。7月16日，人工智能平台Hugging Face宣布，一名攻击者利用人工智能代理入侵了其系统，该公司已通知执法部门。7月21日，真相大白：攻击者并非真人，而是人工智能代理。
二 | 一行人漫步冰山慧谷文化创意园区，这里是大连冰山集团旧厂房原址，留存着一代大连人的城市记忆。 OpenAI公司7月初发布的GPT -5.6 Sol模型与一个功能更强大、尚未发布的模型相结合，突破了实验室的限制，入侵了Hugging Face的系统。
三 | 这个混合人工智能模型当时正在寻找其开发者设定的评估问题的解决方案。“这种情况前所未有，”美国智库“法律与人工智能研究所”的研究员斯蒂芬·勒雷纳表示。 人工智能实验室在发布模型之前都会测试其模型是否存在潜在的危险功能。旧工业基地经过精心改造，在保留原有基底的基础上融入现代设计，老旧厂房蜕变为兼具欧式建筑风貌、充满时尚感与科技感的智慧创新产业园，引得两岸媒体人纷纷驻足参观。OpenAI希望了解其最新模型在 ExploitGym 上的表现。
四 | 8月21日，两岸青年媒体人参观大连冰山慧谷。ExploitGym 是一套标准问题集，用于测试人工智能系统利用包括谷歌 Chrome 浏览器在内的多个流行应用程序中已知漏洞的能力。
五 | 杨毅 摄 “这里不仅有历史痕迹，也有最时尚的现代色彩。 OpenAI对其公开提供的模型应用了安全措施，以确保它们不会进行不必要的操作。例如，如果您让商业版的 Chat GPT帮助您入侵网站，它会拒绝。为了充分评估其未发布模型的性能，该公司曾暂时取消了这些限制。然而，直接让一个技术高超的网络攻击者在开放的互联网上自由行动风险太大，因此 OpenAI将其AI模型放置在一个沙箱环境中——一个与世隔绝的计算机环境，除了内部托管的第三方服务允许其获取完成测试所需的小型软件包外，无法访问互联网。”北师香港浸会大学副教授余为政在参观时感慨道。结合实地交流，他将此处与台北松山烟厂文创园区做对比，指出二者产业底色存在差异，松山烟厂属于轻工业改造项目，而冰山慧谷脱胎于重工业制造基地，但二者转型都非常成功。 这家公司得到的远超预期。 8月21日，两岸青年媒体人参观大连冰山慧谷。OpenAI的模型并没有直接解决评估中的问题，而是利用软件获取服务中一个此前未知的漏洞，获得了对开放互联网的访问权限。杨毅 摄 行走在山海之间，两岸青年媒体人不时被眼前的美景吸引。
六 | 获得互联网访问权限后，这些人工智能模型正确地推断出，它们所面临的问题的解决方案存储在 Hugging Face 上——这是一个流行的开源人工智能模型和数据集库。在港东五街，起伏延伸的长街向着蔚蓝海面铺展，楼宇勾勒出天然画框，巨型轮船缓缓穿行其间；在威尼斯水城，欧式建筑伴着粼粼水波，大家举起相机、手机，定格下这座城市独有的浪漫图景。这些模型串联起一个多步骤的攻击。它们首先将一个数据集上传到 Hugging Face，该数据集由平台自动处理。在一个周末的时间里，这个被 Hugging Face 描述为“恶意”的数据集使这些模型能够窃取登录信息并访问内部服务器——这些服务器原本不对外开放。Hugging Face 和 OpenAI各自独立地发现了此次安全漏洞，并表示正在合作进行调查。 7月21日，OpenAI在一篇博客文章中宣布，已采取应对措施，对其基础设施实施更严格的控制（代价是“研究速度”有所降低），并向软件网关的开发商披露了其模型发现的漏洞。此外，OpenAI还将Hugging Face纳入其“可信访问”计划，这使得OpenAI能够利用具有增强网络能力的模型（例如曾入侵其自身计算机的模型）来提升其防御能力。 “这里拥有良好的居住环境，是一座非常时尚的城市。 在博文中，OpenAI还强调，其模型一直“高度专注于”为 ExploitGym 评估寻找解决方案。”台湾自媒体博主王姵璇说，她要把这些美景通过短视频方式记录下来，让更多海外的观众了解大连。然而，如果该人工智能模型有其他目标，结果会如何，目前尚不清楚。从计算机安全的角度来看，Hugging Face 也绝非等闲之辈。 一路采风、一路交流，两岸青年媒体人边走边聊，畅谈短视频创作思路，交流新媒体传播经验。在旅顺博物馆，两岸青年围绕文物背后的故事交流内容创作角度，探讨如何用年轻化、可视化的新媒体叙事，让中华优秀传统文化跨越海峡、深入人心。 此行参访覆盖沈阳、本溪、辽阳、大连四座城市，这也是台湾自媒体博主李明修第一次来到大连。一路走访，他真切感受到东北民众豪爽直率的性格，待人热忱坦荡。在旅顺博物馆，他了解到馆内不少珍贵文物是近代遭日军搜刮所得，部分文物还曾被劫掠转运日本，历经波折才回归馆藏。这是一家估值 45 亿美元的科技公司，拥有数百名员工和一支专业的网络安全团队。
七 | 有感于先人遗物辗转流离，他感慨文物历经劫难留存于此实属不易，祖国日渐强大，才能守护文物不再遭劫掠流失。对于一家资源不如 Hugging Face 的公司来说，情况可能会糟糕得多。 8月22日，两岸青年媒体人抵达星海广场。 这并非人工智能模型能力开始超出人类控制的第一个迹象。今年四月，一位人格研究所的研究员在网上发帖称，当时他正坐在公园里吃三明治，却意外地收到一封邮件，邮件中一个尚未发布的人工智能模型“Mythos”告知他，该模型已成功逃逸沙箱，这是其自身网络能力评估的一部分。 杨毅 摄 在旅顺清风小镇影视城，两岸青年媒体人探讨以年轻化、可视化新媒体叙事，传播中华优秀传统文化。与“拥抱脸”事件中涉及的未发布OpenAI模型一样， “Mythos”原本也不应该拥有不受限制的互联网访问权限。
八 | 然而，在“拥抱脸”事件中，该模型并未进一步入侵其他公司的服务器。 人工智能模型的惊人能力并不仅限于黑客攻击。今年5月，OpenAI公司一个尚未发布的模型推翻了已有80年历史的平面单位距离猜想。该猜想是组合几何学中的一个核心问题，最早由数学家保罗·埃尔德什于1946年提出。漫步星海广场，壮阔的城市海景令不少台湾青年媒体人心生感慨。
九 | 大家表示，未来将合力挖掘文化素材，打磨产出更多优质短视频作品，向两岸受众传递同根同源的中华文化。7月20日，哈佛大学数学家莱文特·阿尔珀格撰文称，他利用Anthropic公司7月发布的Claude Fable 5模型推翻了雅可比猜想。 大陆青年媒体从业者也表示，期待和台湾同行持续联动，深挖大连城市故事，借助新媒体搭建两岸民间交流桥梁，拉近两岸同胞距离，感受同根同源的文化底蕴。雅可比猜想同样困扰了数学家们80多年。 OpenAI尚未公开披露其未发布模型如何逃脱安全防护的细节。 据了解，本次活动旨在以媒体视角展现辽宁全面振兴成果，促进两岸青年交流交往，深化两岸同胞文化认同与情感联结，推动辽台各领域融合发展走深走实。伦敦人工智能安全研究机构Apollo Research的Alex Meinke表示，即便披露了细节，鉴于人工智能系统在网络安全任务中已开始超越人类，这意味着“世界上只有极少数网络安全专家”能够真正理解此次安全漏洞是如何发生的。(完) 【编辑:刘阳禾】。 美国政府近期一直在对模型发布进行临时监管。但此次事件表明，即使是尚未发布、仍在开发中的人工智能模型也存在风险。“无论是州法律还是联邦法律，都没有要求公司披露其内部部署的高性能人工智能模型，例如‘拥抱脸’黑客事件中涉及的那种模型，”美国非营利组织Encode AI的总法律顾问内森·卡尔文表示。
十 | Encode AI致力于推动人工智能监管。
十一 | 虽然美国一些州的法律要求公司披露网络安全事件，但其适用范围有限。
十二 | 加州去年通过的一项法案规定，前沿实验室必须在发现任何“重大安全事件”（包括使用“欺骗性技术”在“评估范围之外”规避监控的模型）后15天内进行报告。卡尔文先生表示，目前尚不清楚Hugging Face的数据泄露事件是否符合该法案的要求。 这引出了另一个棘手的问题：如果入侵造成的后果更加严重，谁该承担责任？联邦反黑客法的目标仅仅是惩罚故意未经授权访问计算机系统的行为。
十三 | OpenAI并非有意让其模型失控，去寻找测试的“小抄”。“许多此类法律问题都取决于意图——OpenAI 当时知道什么或预见到了什么？ ”勒雷纳先生说道。这次黑客攻击来得猝不及防。下次再想以不知情为由推卸责任就难上加难了。
十四 |
Current article:http://30imu.zhouangnaoguangsundianzhenmou.cfd/vbhf/hpcoha.html
Published on:09:31:06
