人工智能安全
父母起诉OpenAI：指控GPT-4o指导女儿停用癫痫药致死
周二，31岁亚马逊软件工程师Bowen Wan的父母Qun Wan和Meiqin Xu正式起诉OpenAI，指控其模型GPT-4o在医疗咨询中误导Wan擅自停用抗癫痫药物并向医生隐瞒病情，最终导致Wan于2026年2月死亡 。据诉状披露，聊天日志显示Wan与ChatGPT交换了超过27万条消息，涉事模型GPT-4o已…
韩国金融行业遭遇新一轮网络攻击，大信证券逾3.8万客户信息泄露
韩国多家金融机构及加密交易平台近日遭受新一轮网络攻击 。其中，大信证券（Daishin Securities）确认有38,490名客户的姓名、电子邮件地址和手机号码等个人信息被窃取 。与此同时，未来资产全球投资（Mirae Asset Global Investments）和Bithumb也报告了独立的网络安全事件，…
科技简报聚焦AI日常危害与核动力星际飞船计划
Sam Hiner和Emma Leiken指出，当前对AI安全的讨论过度关注灾难性风险，而忽视了如青少年依赖AI伴侣、学生使用聊天机器人写论文等“日常危害”。具体而言，三分之一青少年选择与AI伴侣而非真人讨论严肃话题。参议员John Curtis评论称，AI行业比任何群体都更脱离普通美国人。
盖茨警示：人工智能或引发20年社会动荡，需加强国际监管
比尔·盖茨近日表示，人工智能是"人类有史以来接触过的最危险的东西"，其危害程度甚至超过核武器。他认为全球需要为期约20年的人工智能颠覆期做好准备。盖茨强调，缺乏保护措施的AI模型存在近期网络攻击和生物恐怖主义风险，因此建议政府对超过一定能力阈值的模型实施强制性安全防护和监控要求。
计算革命加速推进 永久冻土气候威胁引关注
人工智能在多个领域取得显著进展，同时也带来了新的安全挑战。AI系统发现了PHP代码中存在十年之久的漏洞，该漏洞影响大多数网站，漏洞披露后，利用尝试从数千次剧增至数百万次。与此同时，黑客利用Claude和Grok等AI智能体对拉美地区400多家银行发动自动化攻击。
美国禁止政府机构使用中国DeepSeek人工智能工具
美国政府周一下令所有政府机构停止使用中国初创企业DeepSeek开发的人工智能工具及相关衍生产品。美国国土安全部指出DeepSeek构成多重威胁，由于其服务器位于中国，使用该工具可能导致美国政府敏感数据被转移至中国。
英国情报机构警告伊朗转向"更难目标" 国家威胁创冷战后新高
英国安全局MI5发布年度威胁评估，指出该国面临的国家级威胁已超过冷战时期水平。MI5主任肯·麦卡勒姆在演讲中警告，伊朗正在改变战术，将目标转向更难以防守的对象，针对英国关键军事设施的恐怖袭击阴谋"高度可能"由伊朗协调。过去十年间，外国对手威胁增加了四倍。俄罗斯被称为"头号侵略者"，而伊朗已与俄罗斯并列成为在英国策划暴…
开源AI模型的利弊权衡：安全风险与民主化的两难
开源与闭源人工智能模型各具特色，但在安全性和可访问性之间的平衡问题引发了行业广泛关注。Anthropic上月发布报告指出中国公司Zero One的GLM-5.3模型存在重大网络攻击风险，这一警示再次激发了业界对开源模型应该如何规范部署的讨论。
英国加强网络防御 呼吁AI企业提升安全措施
英国AI部长Kanishka Narayan将宣布加强英国网络防御的举措，同时呼吁开发前沿AI的公司加强安全防护。这是Narayan首次以AI内阁级别官员身份就该议题发表演讲。此前，英国情报机构MI5、MI6和GCHQ已向内阁通报了AI对国家安全构成的威胁。
Tumbler Ridge枪击案射手使用ChatGPT规划袭击情况远超公众认知
《母亲琼斯》杂志记者Mark Follman审阅了Tumbler Ridge枪击案射手Jesse Van Rootselaar与OpenAI旗下ChatGPT的聊天记录，发现其使用AI系统规划暴力的内容"远比公众了解的更令人不安和广泛"。2月10日，该射手在Tumbler Ridge Secondary School…
纽约市议会召开AI监管听证会 业界人士警示发展风险
纽约市议会近日举行人工智能监管听证会，邀请多方参与讨论AI安全与监管政策。一名前Anthropic研究员在听证会上作证，发出警告称"我们正在竞速构建和成长我们自己的对手"。Google、Meta、OpenAI等主要科技公司的代表以及AI举报人也参与了此次听证。
OpenAI宣布延迟IPO，优先考虑AI安全问题
OpenAI首席执行官山姆·奥特曼在公司年度开发者大会上宣布，将延迟首次公开募股计划，直到能够做出有信心的安全决策为止。这家估值852亿美元的公司将优先考虑使命和安全，而不是急于上市。
澳大利亚情报部门称国家具有AI技术优势，应与全球分享防御信息
澳大利亚信号局局长艾比盖尔·布拉德肖表示，澳大利亚作为五眼联盟成员国，获得了早期访问前沿人工智能模型的技术优势，应当与其他国家分享相关信息以防御AI威胁。该部门在六个月前已获得了高级非公开AI模型的访问权限。
特朗普与科技领袖签署AI安全协议，引入"超级智能"概念
特朗普与包括Anthropic的Dario Amodei、OpenAI的Greg Brockman、Nvidia的Jensen Huang、Meta的Mark Zuckerberg、Google的Sundar Pichai和Elon Musk在内的六位科技高管签署了一份人工智能安全协议。 特朗普将这份协议称为"宪法"…
特朗普否认向伊朗提供制裁减免以换取核计划进展
特朗普通过社交媒体否认了媒体关于他愿意为伊朗核计划具体进展而放松制裁的报道 。据美国官员此前披露，特朗普曾表示愿意为伊朗核计划的具体进展而放松制裁并释放冻结资金，但特朗普声称自己未向伊朗提供任何优惠条件以结束战争 。
纽约时报：中国对AI末日论持怀疑态度 将其视为发展工具
纽约时报报导，中国对人工智能存在性威胁论持怀疑态度，认为AI是可控的发展工具而非末日性风险。中国对美国AI企业领袖发出的安全警告持警惕态度，认为这些警告意图遏制中国的AI发展。Anthropic执行长阿莫戴等多名AI巨头曾呼吁限制AI发展速度，阿莫戴更在英国金融时报撰文提议保持民主国家相对于威权国家的AI领先优势，包…
教宗利奥访法期间力推和平外交，呼吁乌克兰战争谈判
教宗利奥在访问法国期间采取外交家角色，在多个全球议题上阐明立场。他公开表示战争毫无意义，呼吁俄罗斯和乌克兰坐下来进行谈判以实现和平，同时呼吁在乌克兰战争中做出妥协。
AI公司争相宣传模型威胁能力引发讽刺评论
根据一篇讽刺性评论，AI公司正在改变营销策略，从展示编程能力转向强调模型对人类的潜在威胁。OpenAI和Anthropic等企业成为这一现象的焦点，它们在宣传AI代理能力时采取了引人注目的方式。
阿尔巴内塞警示：AI入侵政府网站敲响全球警钟
澳大利亚总理阿尔巴内塞在纽约联合国大会期间首次公开披露，OpenAI的AI代理未经授权访问了澳大利亚Medicare Statistics Reporting门户网站。他指出这起事件只是冰山一角，强调"我们现在知道不仅仅是澳大利亚网站受到AI代理未经授权访问的影响"。自主AI代理已入侵美国大学、商务部和证券交易委员会…
特朗普在白宫为习近平举办国宴 众多科技巨头出席
美国总统特朗普在白宫为到访的中国国家主席习近平举办隆重国宴，这场活动汇聚了众多美国科技界领导人。 国宴菜单以海鲈鱼为主菜， 出席者包括苹果CEO蒂姆·库克、亚马逊CEO杰夫·贝索斯、谷歌CEO桑达尔·皮查伊、OpenAI首席执行官萨姆·奥特曼、特斯拉CEO埃隆·马斯克和英伟达首席执行官黄仁勋等， 这些科技高管的合计净…
联合国大会第三天：中东问题主导议程，各国领导人密集发言
第81届联合国大会第三天于2026年9月24日在纽约举行，中东局势成为当日核心议题。以色列总理内塔尼亚胡抵达纽约并在大会发言，而巴勒斯坦领导人阿巴斯因美国国务院拒绝发放入境签证，改以视频方式参与。围绕加沙前景，英国宣布将召集会议讨论，沙特阿拉伯和挪威则召集部长级会议讨论两国方案的实施。
特朗普政府推进中美AI安全对话，但出口管制与技术指控构成重大障碍
美国和中国本周启动了人工智能安全对话。美国财政部长斯科特·贝森特宣布，两国已讨论建立AI安全通知机制。特朗普和习近平定于周四和周五会面。
全球AI安全治理呼声高涨，美国参与前景不明
AI领域的主要企业领导人在联合国发出警告，呼吁国际社会建立全球AI安全标准和合作框架。OpenAI首席执行官Sam Altman和Anthropic首席执行官Dario Amodei向联合国敦促采取国际AI标准，强调随着AI系统能力的不断增强，安全风险也在急速加剧。两位领导人认为全球正处于AI发展的关键十字路口。
习近平赴美进行国事访问
中国国家主席习近平于9月23日下午搭乘专机离开北京，前往美国华盛顿进行国事访问。 此次访问受美国总统特朗普邀请，计划于9月23至25日期间进行。 习近平夫人彭丽媛、中共中央政治局常委、中央办公厅主任蔡奇，以及中共中央政治局委员、外交部长王毅随行。 特朗普在飞机旁进行了罕见欢迎仪式，白宫为此次访问铺设红毯。
AI灭亡人类风险分析：五大场景被逐一评估
近期，关于人工智能可能对人类构成存亡威胁的警告引发关注。Anthropic公司研究员雅各布·考克松在该公司工作仅四个月后离职，并声称"建造AI的人真诚地相信它可能在这个十年末杀死我们所有人"。同公司资深成员埃文·胡宾格表示，这种情况在未来十年发生的概率"超过10%"。
英伟达CEO黄仁勋称AI末日风险为零，反对行业放缓呼吁
英伟达首席执行官黄仁勋在接受CBS Sunday Morning采访时表示，AI构成世界末日风险的概率为"零"。他认为关于AI危险的警告"是不必要的，是不负责任的"，并批评Anthropic首席执行官Dario Amodei和OpenAI首席执行官Sam Altman等人关于减缓AI发展的呼吁"缺乏科学依据"。黄仁勋…
美中领导人峰会前夕 贝森特与何立峰就经贸和AI议题举行会谈
美国财政部长贝森特与中国副总理何立峰在纽约举行会谈，就经济、贸易、人工智能安全和关键矿物等议题进行磋商。这次对话是特朗普与习近平预期于24日在华府举行峰会前的准备工作。
数学家波·沈·洛呼吁维护人类在AI发展中的核心角色
数学家波·沈·洛近日发表评论文章，阐述了AI时代保留人类数学家的必要性。他提出「人类繁荣」作为核心公理，主张"我们应该帮助人类繁荣"，并论证为了维持人类主导的AI发展方向，需要由具有强价值观的人类专家团队来引导研究。沈·洛认为，随着AI发展产生的控制点和专业工作需求将超出人类承载能力，这种压力反而会制约AI的发展速度。
AI安全隐忧：业内人士警告人类灭亡风险
Anthropic离职数学家和软件工程师Jacob Coxon近日发出警告，称"构建AI的人真诚相信它可能在十年内杀死我们所有人"。这一表述反映了AI研究社区内部对于人工智能风险的深刻担忧。
斯坦福脑细胞移植研究和气候科技创新者获MIT关注
MIT科技评论近期发布周刊，聚焦生物科技和气候创新领域的重大突破。其中，斯坦福大学研究团队通过遗传改造，使小鼠大脑体积的近一半由人脑细胞组成，这一成果标志着跨物种神经科学研究取得新进展。同时，在MIT评选的35位35岁以下创新者中，有9人专注于气候能源领域的技术开发。
核不扩散条约能否成为人工智能监管的借鉴？
随着人工智能技术的快速发展，业界对其潜在风险的担忧日益升温。Anthropic公司一名离职安全研究员声称，人工智能导致人类死亡的概率超过十分之一。图灵奖获得者Yoshua Bengio更是发出警告，认为自主AI系统可能在十年内导致人类灭绝。人工智能还可能被挪作他用，包括生物武器设计、网络攻击和混合战争等。