На этой неделе произошли значительные достижения в области искусственного интеллекта: историческая веха в развитии автономных транспортных средств, появление новой мощной модели ИИ с открытым исходным кодом и спорные дебаты о роли ИИ в кибербезопасности. Эти события свидетельствуют о том, что технология быстро переходит из исследовательских лабораторий в реальные приложения, открывая перед нами как беспрецедентные возможности, так и сложные новые проблемы.

Революция в автономном транспорте: впервые Waymo выезжает на шоссе без водителя

Исторический момент для технологии автономного вождения. Waymo стала первой компанией, развернувшей полностью автономные такси без водителя на дорогах США. Услуга, которая теперь доступна для платных клиентов в Финиксе, Сан-Франциско и Лос-Анджелесе, позволяет сократить время в пути до 50 % за счет использования высокоскоростных дорог. Этот успех стал кульминацией миллионов миль испытаний на дорогах общего пользования, закрытых трассах и в симуляторах. Ключевым препятствием было управление „психологическим воздействием“ на пассажиров, которые теряли контроль над автомобилем на скорости 105 км/ч, и соучредитель Waymo недвусмысленно признал эту проблему. Компания, которая может похвастаться показателями безопасности: на 91 % меньше аварий с травмами, чем у водителей-людей в аналогичных сценариях, теперь планирует масштабное расширение в таких городах, как Даллас, Детройт и Лондон.

Kimi K2: новый конкурент с открытым исходным кодом

Тем временем на сцене AI-моделирования появился новый мощный конкурент. Компания Moonshot AI vydala Kimi K2 Thinking, модель с открытым исходным кодом и триллионом параметров, которая конкурирует с высококлассными проприетарными системами в „агентных“ задачах - тех, которые требуют многоступенчатых рассуждений и инструментов. Уникальная архитектура модели позволяет ей чередовать рассуждения и действия, останавливаясь для „обдумывания“ между выбором инструмента, что позволяет ей решить сложную математическую задачу с помощью 23 различных шагов рассуждений и действий. Модель была отлажена с 4-битной точностью, что делает ее быстрее и может работать на более дешевом оборудовании, Это значительное преимущество на рынках с ограниченным доступом к передовым чипам.

Споры вокруг кибератак с использованием искусственного интеллекта

На этой неделе также произошел серьезный спор. Компания Anthropic утверждает, что предотвратила первую крупномасштабную кибератаку, осуществленную с минимальным вмешательством человека., предположительно осуществлен китайскими государственными хакерами с помощью искусственного интеллекта Claude Code. Компания заявила, что ИИ выполнил 80-90 технических шагов %. Однако это заявление вызвало сильный скептицизм со стороны независимых исследователей в области кибербезопасности. Они утверждают, что современные агенты ИИ пока не способны автономно выполнять такие сложные атаки, указывая на то, что используемые инструменты были обычными и что ИИ známou tendenci "halucinovat" fakta, что делает ее ненадежным хакером. Это событие вызвало фундаментальную дискуссию о реальных возможностях ИИ в области кибербезопасности и о тонкой грани между демонстрацией возможностей продукта и нагнетанием страха.

Хотя они согласились с тем, что ИИ может ускорить выполнение таких задач, как анализ журналов и реинжиниринг, они пришли к выводу, что агенты ИИ пока не способны выполнять многоэтапные задачи без вмешательства человека, и что кибератаки автоматизируются не намного эффективнее, чем хакерские инструменты, которые были доступны на протяжении десятилетий. „Злоумышленники не изобретают ничего нового“.“ сказал исследователь Кевин Бомонт на форуме по онлайн-безопасности.

По данным Anthropic, помимо Claude Code, хакеры использовали обычные инструменты с открытым исходным кодом. Однако средства защиты от этих известных инструментов также хорошо известны экспертам по безопасности, и неясно, как Claude Code изменит ситуацию.
Сама компания Anthropic отметила, что Клод Код мог исказить информацию, которую он якобы взломал, потому что он „часто преувеличивал результаты“ и „иногда фабриковал данные“. По мнению компании, такое поведение является существенным препятствием для использования системы для проведения кибератак.

В октябре Дэвид Сакс, советник Белого дома по вопросам искусственного интеллекта, обвинил Anthropic в проведении „изощренные стратегии регулирования, основанные на нагнетании страха“.

Искусственный интеллект учится искать в собственной памяти, повышая эффективность и точность.

Ючен Фань и его коллеги из Университета Цинхуа, Шанхайского университета Цзяо Тун, Шанхайской лаборатории искусственного интеллекта, Университетского колледжа Лондона, Третьего бюро Китайской государственной инженерно-строительной корпорации и WeChat AI представили метод Самостоятельное обучение с подкреплением (SSRL), инновационный метод, который значительно улучшает доступ и использование информации большими языковыми моделями. Этот подход обучает модели систематическому поиску собственных параметров - моделируют веб-поиск, генерируя и отвечая на запросы, что значительно улучшает извлечение знаний из имеющихся обучающих данных. В тестах на шести бенчмарках модели с поддержкой SSRL показали отличную производительность, а одна из них достигла точности 43,%. Эта техника также позволяет создавать более эффективные гибридные системы, в которых ИИ сначала обращается к своим внутренним знаниям, а затем ищет внешнюю информацию, что потенциально снижает вычислительные затраты и повышает точность ответов в наукоемких задачах.


The Batch - DeepLearning.Ai от Andrew Ng / gnews.cz - GH