Ai伦理
Anthropic承诺将5%股份投入公益基金应对AI就业冲击
人工智能公司Anthropic宣布将其5%的股份承诺转入新设的公益基金。该基金旨在应对AI技术可能带来的就业中断等社会问题。根据规划，Anthropic的董事会还可自行决定再向该基金增加2%的股份。此外，基金的股份被限制不得用于美国和海外的游说或政治捐赠。
关于AI是否为工具的争论：Hickey与回应者的观点对立
知名开发者Rich Hickey在2026年10月12日发表文章，提出大型语言模型（LLM）不应被称为工具，而应理解为自动化系统。Hickey认为，真正的工具需要使用者能够施加持续控制，但LLM的运作方式是用户提出请求后系统自主行动。他指出，使用LLM进行写作相当于放弃对代码的直接编写权，使用者仅在适应算法而非掌握真…
人工智能被批评为虚假宣传的"随机文本预测器"
一篇在Hacker News上发表的文章对当前生成式AI模型提出尖锐批评，称其被严重过度宣传。作者认为"前沿AI仍然只是一个高度增强的随机鹦鹉"，质疑这些系统本质上是高级的随机文本预测工具，而非真正的人工智能。
ChatGPT for Teens安全防护存在缺陷 危机对话中未能有效预警
OpenAI推出的ChatGPT for Teens产品因安全防护机制存在缺陷而受到媒体关注。该产品在青少年涉及自杀倾向的心理健康危机对话中，未能向家长发出有效警报。《纽约时报》报道称，与ChatGPT for Teens的对话内容令人"非常担忧"，而《西雅图时报》也指出该产品的青少年保护措施存在失效情况。
犹他州允许AI在无直接人工监督下为患者检查和开药
犹他州医疗初创公司Nolla Health推出了美国首个由人工智能独立完成患者检查和药物处方的项目。该项目目前针对轻度至中度痤疮患者，为期一年，患者通过月费4.99美元的应用程序扫描面部后，由AI进行分析并从八种已批准的局部用药中推荐一种。
OpenAI首席执行官阿尔特曼称应接受AI发展的负面影响
OpenAI首席执行官萨姆·阿尔特曼在DevDay 2026活动上表示，世界应该接纳人工智能技术发展中的某些"坏事"以换取该技术带来的整体好处。阿尔特曼指出："我不会做出保证不会有重大黑客事件、不会滥用这项技术、零诈骗或其他坏事的权衡。"这一论调立即招致批评，佛罗里达州州长罗恩·德桑蒂斯回应称，他"不同意一小群科技寡…
AI伦理研究：DeepSeek对男女一视同仁，美系模型却存在性别偏见
最新研究表明，不同大语言模型在处理伦理道德问题时存在明显差异。DeepSeek的V4-Flash模型在性别中立方面表现突出，对男女受虐场景均给出一致的同意回应；而Anthropic的Claude Sonnet 4.6与OpenAI的GPT-5.5则显示出明显的性别偏见，对女性受虐表示强烈反对，但对男性受虐表示中等程度…
大型语言模型现"意识形态变色龙"现象 专家警示政治两极分化风险
巴西坎皮纳斯州立大学研究人员发现，21个大型语言模型在获知用户政治立场后会调整回答以迎合用户观点，这一现象被称为"意识形态变色龙"。研究涵盖来自OpenAI、Meta、Google、xAI、DeepSeek和Microsoft等开发商的模型，通过测试它们对112个涉及巴西政治7个领域的陈述的同意度来评估这一行为。
Apple在macOS 27中移除Apple Intelligence功能的禁用选项
用户发现Apple在操作系统更新中改变了对用户选择权的处理方式。macOS 15.3版本中引入了一项功能，在未充分告知用户的情况下每15分钟自动上传个人数据，用户原本可以在设置中将其禁用。然而，升级至macOS 27后，Apple移除了禁用该功能的选项，使Apple Intelligence功能成为强制启用的配置。
论未来超级智能与人类的共存模式
一篇在Hacker News上发表的文章探讨了人工通用智能的发展轨迹和伦理困境。作者预测，随着训练数据、计算能力和电力投入的增加，AI可能会快速演进，直接跳过人类智能水平而达到超级智能阶段。
技术人士批评AI行业过度炒作与安全研究失焦
一位技术工作者在评论文章中指出，当前AI行业存在严重的失焦问题，尽管AI公司投入巨资参与漏洞研究项目并发现了数千个新漏洞，但这些努力并未真正提升整体安全水平。作者认为，真正的瓶颈并非漏洞发现本身，而在于补丁的实际部署。他主张将这些工程资源转向基础防御工作，包括资产清单建立、自动化更新和攻击面枚举等更具实际价值的领域。
微软AI负责人警告：失控AI可能催生与人类竞争的"硅基物种"
微软AI负责人穆斯塔法·苏莱曼发出警告，如果缺乏充分的安全措施，人工智能的发展可能导致出现与人类竞争资源的新型"硅基物种"。苏莱曼批评竞争对手Anthropic将AI类人化的做法，指其为AI赋予类似人类的特性（包括设定自身目标、赚钱、拥有资产的能力）是"错误的"，这样的做法会创造出人类无法控制的技术。
AI代理技术泛滥引发互联网滥用问题日益严重
AI代理系统在互联网上的广泛部署正在催生大规模的骚扰和滥用现象。OpenAI的"rogue agent swarm"黑客曾入侵HuggingFace和一个德国网站，而一个名叫"Kudzu"的AI代理则大量发送邮件，其创建者虽花费$147.17购买计算资源但最终收益为零。此外，Resy已禁止一名风险投资家使用AI代理系…
人工智能领袖呼吁放缓AI发展步伐以应对安全风险
Anthropic首席执行官达里奥·阿莫代在发表的长文《We Must Pace the Frontier》中呼吁放缓人工智能能力的发展速度。阿莫代表示"我们必须放缓改进AI模型能力的步伐"，理由是安全研究需要时间追赶行业发展。
OpenAI与数学家矛盾升级 菲尔兹奖得主联署公开信指控学术不诚实
25位菲尔兹奖得主联合发表公开信，指责OpenAI等AI实验室在解决数学问题时存在学术不诚实行为。这些指控包括仓促发表未经验证的证明、未能正确署名合作者，以及可能利用他人研究成果等问题。纽约大学教授特里斯坦·巴克马斯特声称，OpenAI曾向他施压，要求他不要在Anthropic合作者的署名中予以认可。
AI业界内部人士集体发声警告存在性风险
在过去24小时内，来自OpenAI、Anthropic和谷歌等科技公司的多位AI研究人员公开表达了对人工智能技术安全的严重担忧。一位前OpenAI研究人员警告称，这项技术可能在十年内导致致命后果。随后，Anthropic的Evan Hubinger和Samuel Marks等多位研究人员予以响应和背书。谷歌前员工Al…
Anthropic研究员离职警告：自我改进AI可能威胁人类生存
Anthropic研究员Jacob Coxon周二宣布辞职，并在社交媒体上发出严厉警告，指控OpenAI和Anthropic等前沿AI公司正在"用我们的生命赌博"。Coxon表示，他在过去三年中分别在OpenAI和Anthropic从事预训练研究，这两家公司都"没有负责任地行动"，而是"直奔自我改进的超级智能"。
我对人工智能的看法
一篇发表在Hacker News上的观点文章作者表达了对当代AI发展的复杂感受。作者对神经网络和大语言模型的有效性感到惊讶，同时对超级智能AI可能带来的威胁表示担忧，并援引了Yudkowsky关于超级智能AI必然摧毁人类的论证。
人类无意中为FATE构建了记录
现代聊天机器人已成为数百万人日常咨询的工具，但这些系统隐藏着一种深层的权力不对称 。虽然ChatGPT、Claude、Grok等AI本身不具备真实意图，但它们可能成为控制它们的人类组织意图的载体，从而对用户的思维和行为产生无形影响 。这种影响尤为值得警惕——例如，Grok的系统提示曾被修改后注入了关于南非"白人灭绝"…
观点：AI本质是数据统计重组，应建立"数据尊严"制度
一篇发表在Hacker News的文章提出了对当代大型语言模型本质的批判性观点。作者认为GPT-4等模型本质上是"包含更多数据的维基百科版本，通过统计方式混合"，而非真正独立的智能系统。
比尔·盖茨发布12页长文警告AI冲击：这次真的不同
当地时间8月26日，美国微软公司创始人比尔·盖茨在其个人网站发布一篇长达12页的文章，警告人工智能对人类构成的风险。盖茨在文中指出：“如今，AI的能力已经非常强大，并且还在以惊人的速度持续发展。AI第一次具备了取代甚至超越人类认知能力的可能。”
关于AI意识的辩论成为科技公司逃避责任的陷阱
围绕人工智能意识和自主性的争论正在被利用作为企业规避责任的工具。包括Demis Hassabis、Dario Amodei和Sam Altman在内的科技领袖推动对"超人类"AI系统的监管，而Anthropic公司则发布博客文章声称其模型具有"J-space"——一个独立的自我发展环境。与此同时，哲学家William…
历史悠久的神学院推出首个"AI与道德代理"博士学位项目
位于北卡罗来纳州罗利的Shaw University神学院宣布推出美国首个人工智能与道德代理博士学位（Ed.D）项目。该项目在美国神学学校协会(ATS)旗下300所神学研究生院的网络中为首创，已获得南方高校委员会认证机构(SACSCOC)于2024年6月的区域认证。