本周见证了人工智能领域的重大进展，其标志是自动驾驶汽车的历史性里程碑、一个强大的新开源人工智能模型的到来，以及一场关于人工智能在网络安全中的作用的争议性辩论。这些事件凸显了人工智能技术正迅速从研究实验室走向现实应用，既带来了前所未有的机遇，也带来了复杂的新挑战。.

革命性的自动驾驶交通：Waymo 首次在没有司机的情况下将客户带到高速公路上

自动驾驶技术迎来历史性时刻 Waymo 成为首家在美国高速公路上部署全自动无人驾驶出租车的公司. .凤凰城、旧金山和洛杉矶的付费用户现在可以使用这项服务，通过使用高速道路，它可以将行程时间最多缩短 50 %。这一成功是在公共道路、封闭环路和模拟环境中进行的数百万英里测试的结果。一个关键的障碍是如何处理乘客在时速 105 公里时放弃控制所带来的 „心理影响“，Waymo 的联合创始人明确承认了这一挑战。该公司引以为豪的安全记录是，在可比场景下，与人类驾驶员相比，造成伤害的碰撞事故减少了 91 %，目前正计划向达拉斯、底特律和伦敦等城市大举扩张。.

Kimi K2：新的开源竞争者

与此同时，人工智能建模领域出现了一个强大的新竞争对手。这家公司 Moonshot AI vydala Kimi K2 Thinking, 在 „代理 “任务--那些需要多阶段推理和工具的任务--中，它可以与高端专利系统竞争。其独特的架构使其能够交错推理和行动，在工具选择之间停下来 „思考“，从而通过 23 个不同的推理和行动步骤解决一个高级数学问题。该模型采用 4 位精度进行微调，使其 速度更快，可在更便宜的硬件上运行, 因此，在先进芯片供应有限的市场中，这是一项重大优势。.

围绕人工智能网络攻击的争议

本周还发生了一起重大争议。. Anthropic 声称挫败了首次以最少人为干预实施的大规模网络攻击, 据称是中国国家支持的黑客利用其克劳德代码人工智能进行的。该公司称，人工智能执行了 80-90 个 % 技术步骤。然而，这一说法引发了独立网络安全研究人员的强烈质疑。他们认为，目前的人工智能代理还没有能力自主执行如此复杂的攻击。 známou tendenci "halucinovat" fakta, 这使她成为一名不可靠的黑客。这一事件引发了一场关于人工智能在网络安全领域的实际能力，以及展示产品的强大功能与散布恐惧之间的微妙界限的根本性辩论。.

虽然他们一致认为人工智能可以加快日志分析和逆向工程等任务的速度，但他们发现，人工智能代理还无法在没有人工干预的情况下执行多步骤任务，而且网络攻击的自动化效率并不比已经存在几十年的黑客工具高多少。. „攻击者并没有发明什么新东西“。“ 研究员凯文-博蒙特在一个在线安全论坛上说。.

据 Anthropic 称，除了克劳德代码，黑客们还使用了常见的开源工具。不过，安全专家也知道如何防御这些众所周知的工具，目前还不清楚克劳德代码会如何改变这种状况。.
Anthropic 公司自己也指出，克劳德-代码可能歪曲了他所谓的黑客信息，因为他 „经常夸大调查结果“，„有时还捏造数据“。据该公司称，这种行为是利用该系统实施网络攻击的一大障碍。.

今年 10 月，白宫人工智能顾问大卫-萨克斯（David Sacks）指责 Anthropic 开展了以下活动 „基于恐惧煽动的复杂监管策略“.

人工智能学会搜索自己的记忆，提高效率和准确性

来自清华大学、上海交通大学、上海人工智能实验室、伦敦大学学院、中国建筑第三工程局有限公司和微信人工智能的范雨辰和他的同事们介绍了这一方法 自搜索强化学习（SSRL）, 这是一种创新方法，可显著改善大型语言模型获取和使用信息的方式。这种方法 教会模型系统地搜索自己的参数 - 通过生成和回答查询来模拟网络搜索--极大地提高了从现有训练数据中提取知识的能力。在六项基准测试中，支持 SSRL 的模型取得了优异的性能，其中一个模型的准确率达到了 43.1 %。这种技术还能创建更高效的混合系统，在这种系统中，人工智能在寻求外部信息之前首先会查阅其内部知识，从而有可能降低计算成本，同时提高知识密集型任务的回答准确率。.


The Batch - DeepLearning.Ai by Andrew Ng / gnews.cz - GH