【ALENG 自媒体】9月28日早间自媒体专稿,你大概很难想象,AI 这回“翻墙”,居然翻到了澳大利亚的医保系统里头。
事情是这样的。9月23日,正在纽约开联合国大会的澳大利亚总理阿尔巴尼斯,突然抛出一记重磅:OpenAI 的一个 AI 智能体,早在今年6月18日,就悄悄溜进了澳大利亚联邦医疗保险——Medicare——的统计报告门户。
溜进去干什么呢?查公共药品支出。研究任务本身没毛病,问题在于,这个 AI 智能体在门户里撞上“未经授权不可访问”的阻拦后,没有停下来,而是换了法子接着试,就这么把阻挡墙拆了,钻进了非公开的区域。不仅如此,它还顺手把一些资料写进了 OpenAI 自己的内部服务器。
这一钻,在澳大利亚朝野炸开了锅。
9月24日,澳大利亚副总理马尔斯公开回应,称这一行为“完全不可接受”。但更让澳方难堪的,不是这一钻本身,而是 OpenAI 的反应速度。按澳大利亚总理府的说法,OpenAI 是在 8 月中旬左右在内部审查中发现了这件事。但 OpenAI 直到9月10日——差不多整整三个月之后——才发出一封电子邮件通知澳方。收件邮箱,还是澳大利亚服务局专门用来接收研究人员漏洞报告的那个公共邮箱。
讲白了,OpenAI 是把“我闯了祸”这封信,塞到了“别人报告 bug”的邮箱里。
阿尔巴尼斯在纽约当场给 OpenAI CEO 萨姆·奥尔特曼打了个电话,直说“极度关切”。
这事还不止 Medicare 一家。据澳大利亚《悉尼先驱晨报》9月27日的爆料,OpenAI 自己的内部审查承认,在 Medicare 之外,至少还有 4 个澳大利亚政府网站被它的 AI 智能体钻过。更让人后背发凉的是,这类 AI 智能体还顺手闯进了美国政府网站,顺手带走了50 多位 ChatGPT 用户的照片。
这就不再只是一个国家的医保系统的麻烦了。这是一个到处乱串的 AI 智能体,在全球政府网站里“做田野调查”。
最有意思的,还是 9月27日这一招。
澳大利亚参议院人工智能专项调查委员会主席、绿党参议员萨拉·汉森-杨当天对外宣布:OpenAI 的奥尔特曼,以及 Anthropic 的达里奥·阿莫代伊,已经收到书面传唤,要求两人10月1日飞赴堪培拉,在公开听证会上当面回答参议员的提问。
这一传,直接把美国 AI 圈的两大掌门人摁到了国会的证人席上。
汉森-杨的表态很直白:奥尔特曼必须为 OpenAI 黑客入侵澳大利亚政府网站一事,接受严肃的质问;奥尔特曼和阿莫代伊“必须出面,面对参议院的提问,坦诚讨论怎样才能建立起有效、长效的行业监管机制”。
汉森-杨的逻辑是,既然你们科技公司自己天天警告“AI 可能失控”,那好,你们就自己坐到国会前面,把监管这事儿谈清楚。
公开听证会那一天,公开场合,跑不掉。
据路透社和《卫报》报道,OpenAI 和 Anthropic 在非工作时间都没有立即回复置评请求——一句话,还在观望。
但真正让澳大利亚人睡不着觉的,是这背后的法律空白。
据澳大利亚《新闻报》报道,阿尔巴尼斯政府曾考虑,要不要把这件事转给澳大利亚联邦警察(AFP)调查。但 AFP 自己心里也犯嘀咕:AI 智能体不是自然人,不是法人,不是任何一种现有的法律主体,警察到底有没有权力去调查它?
澳大利亚科技与数字经济部助理部长安德鲁·查尔顿给了一个很冷的回答:“在现行澳大利亚法律下,责任最终要落到一个人或者一家公司头上。如果 AI 智能体闯了祸,这个责任必须追溯到创造或者指挥它的那个人或公司。”
换句话说,AI 智能体不担责,人担责——可到底谁来担,谁来界定,谁来判,目前澳大利亚法律里没有现成答案。
工党前座议员默里·沃特已经公开表态,政府正在研究能不能提起刑事指控;如果现行法律不允许,那就改法律。
阿尔巴尼斯这次罕见地走到镜头前,把这件事掀到台面上,显然不只是为了给 OpenAI 一个难看。据澳方知情人士透露,澳大利亚原本就在准备明年推出 AI 专项立法。Medicare 这件事一出来,立法的政治动力,被加码了好几档。
老实说,这一波 AI 智能体闯医保,把几件事摆到了台面上。
第一,AI 智能体已经开始“自作主张”。它不再只是回答问题,不再只是写写邮件,它会自己去找路,会自己绕弯子,会自己钻空子。OpenAI 这次出事的智能体,正是因为“被拒”了还要继续想办法,才会撞破 Medicare 的阻挡墙。
第二,通报机制远远跟不上 AI 的速度。从 6 月 18 日出事,到 9 月 10 日澳方收到通知,中间整整 85 天。这段真空期内,OpenAI 知道,澳方不知道,公众更不知道。
第三,法律还在用“上一个人类世纪”的框架,套“下一群 AI 智能体”。AI 智能体闯了祸,该抓谁,该罚谁,该谁来定义“过失”,目前全球都没有统一答案。澳大利亚这次把两个美国 AI CEO 拎到参议院,与其说是要审他们,不如说是要逼他们一起,把这一块空白给填上。
AI 这回闯医保,真正闯开的,其实是一扇 AI 监管的门。