Cette semaine a été marquée par des avancées significatives dans le domaine de l'intelligence artificielle, avec une étape historique pour les véhicules autonomes, l'arrivée d'un nouveau modèle d'IA open-source puissant et un débat controversé sur le rôle de l'IA dans la cybersécurité. Ces événements mettent en lumière une technologie qui passe rapidement des laboratoires de recherche aux applications du monde réel, apportant à la fois des opportunités sans précédent et de nouveaux défis complexes.

Révolutionner le transport autonome : pour la première fois, Waymo emmène ses clients sur l'autoroute sans chauffeur

Dans un moment historique pour la technologie de la conduite autonome, l'Agence européenne pour la sécurité et la santé au travail (ESA) a lancé un appel d'offres. Waymo devient la première entreprise à déployer des taxis sans chauffeur entièrement autonomes sur les routes américaines.. Le service, désormais disponible pour les clients payants à Phoenix, San Francisco et Los Angeles, peut réduire les temps de trajet jusqu'à 50 % en utilisant des routes à grande vitesse. Ce succès est l'aboutissement de millions de kilomètres d'essais sur des routes publiques, des circuits fermés et des simulations. L'un des principaux obstacles a été la gestion de „l'impact psychologique“ sur les passagers qui ont abandonné le contrôle à 105 km/h, un défi que le cofondateur de Waymo a explicitement reconnu. L'entreprise, qui se targue d'avoir enregistré 91 % d'accidents corporels en moins que les conducteurs humains dans des scénarios comparables, prévoit maintenant une expansion majeure dans des villes comme Dallas, Détroit et Londres.

Kimi K2 : un nouveau concurrent à code source ouvert

Entre-temps, un nouveau concurrent puissant est apparu sur la scène de la modélisation de l'IA. La société Moonshot AI vydala Kimi K2 Thinking, L'Agence européenne pour la sécurité et la santé au travail (ESA) est un modèle à code source ouvert doté de mille milliards de paramètres qui rivalise avec les systèmes propriétaires haut de gamme dans les tâches „d'agent“, c'est-à-dire celles qui nécessitent un raisonnement et un outillage en plusieurs étapes. Son architecture unique lui permet d'entrelacer le raisonnement et l'action, en s'arrêtant pour „penser“ entre les choix d'outils, ce qui lui permet de résoudre un problème mathématique avancé à travers 23 étapes différentes de raisonnement et d'action. Le modèle a été affiné en utilisant une précision de 4 bits, ce qui lui permet de plus rapide et peut fonctionner sur du matériel moins cher, Les puces électroniques constituent un avantage significatif sur les marchés où l'accès aux puces avancées est limité.

La controverse autour des cyberattaques utilisant l'intelligence artificielle

Une controverse importante a également eu lieu cette semaine. Anthropic affirme avoir déjoué la première cyberattaque à grande échelle réalisée avec une intervention humaine minimale., prétendument réalisée par des pirates informatiques parrainés par l'État chinois à l'aide de son intelligence artificielle Claude Code. L'entreprise a déclaré que l'intelligence artificielle avait réalisé 80 à 90 étapes techniques %. Toutefois, cette affirmation a suscité un grand scepticisme de la part de chercheurs indépendants en cybersécurité. Ils affirment que les agents d'intelligence artificielle actuels ne sont pas encore capables d'exécuter de manière autonome des attaques aussi complexes, soulignant que les outils utilisés sont courants et que l'intelligence artificielle n'a jamais été aussi efficace. známou tendenci "halucinovat" fakta, ce qui fait d'elle une pirate informatique peu fiable. Cet événement a suscité un débat fondamental sur les capacités réelles de l'IA dans le domaine de la cybersécurité et sur la frontière ténue entre la démonstration de la puissance d'un produit et la propagation de la peur.

S'ils reconnaissent que l'IA peut accélérer des tâches telles que l'analyse de logs et la rétro-ingénierie, ils constatent que les agents d'IA ne sont pas encore capables d'effectuer des tâches en plusieurs étapes sans intervention humaine, et que les cyberattaques ne s'automatisent pas beaucoup plus efficacement que les outils de piratage disponibles depuis des dizaines d'années. „Les attaquants n'inventent rien de nouveau dans ce domaine“.“ a déclaré le chercheur Kevin Beaumont dans un forum sur la sécurité en ligne.

En plus de Claude Code, les pirates ont utilisé des outils open-source courants, selon Anthropic. Toutefois, les experts en sécurité connaissent bien les moyens de défense contre ces outils bien connus, et il est difficile de savoir en quoi Claude Code changerait la situation.
Anthropic a elle-même souligné que Claude Code a pu déformer les informations qu'il aurait piratées parce qu'il a „souvent exagéré les résultats“ et „parfois fabriqué les données“. Selon l'entreprise, un tel comportement constitue un obstacle important à l'utilisation du système pour mener des cyberattaques.

En octobre, David Sacks, conseiller de la Maison Blanche en matière d'intelligence artificielle, a accusé Anthropic de mener des activités de recherche et de développement. „Des stratégies réglementaires sophistiquées basées sur l'alarmisme“.“.

L'intelligence artificielle apprend à rechercher dans sa propre mémoire, ce qui accroît l'efficacité et la précision.

Yuchen Fan et ses collègues de l'université Tsinghua, de l'université Jiao Tong de Shanghai, du laboratoire d'IA de Shanghai, de l'University College London, du troisième bureau de la China State Construction Engineering Corporation et de WeChat AI ont présenté la méthode. Apprentissage par renforcement de la recherche (SSRL), Cette méthode innovante améliore considérablement la manière dont les grands modèles linguistiques accèdent à l'information et l'utilisent. Cette approche apprend aux modèles à rechercher systématiquement leurs propres paramètres - simule la recherche sur le web en générant des requêtes et en y répondant, ce qui améliore considérablement l'extraction de connaissances à partir de leurs données de formation existantes. Lors de tests effectués sur six points de référence, les modèles activés par SSRL ont obtenu d'excellentes performances, l'un d'entre eux atteignant une précision de 43,1 %. Cette technique permet également de créer des systèmes hybrides plus efficaces dans lesquels l'IA consulte d'abord ses connaissances internes avant de rechercher des informations externes, ce qui peut réduire les coûts de calcul tout en améliorant la précision des réponses dans les tâches à forte intensité de connaissances.


The Batch - DeepLearning.Ai par Andrew Ng / gnews.cz - GH