Esta semana hemos sido testigos de importantes avances en el campo de la inteligencia artificial, marcados por un hito histórico para los vehículos autónomos, la llegada de un nuevo y potente modelo de IA de código abierto y un controvertido debate sobre el papel de la IA en la ciberseguridad. Estos acontecimientos ponen de relieve una tecnología que está pasando rápidamente de los laboratorios de investigación a las aplicaciones en el mundo real, aportando tanto oportunidades sin precedentes como nuevos y complejos retos.

Revolucionando el transporte autónomo: por primera vez, Waymo lleva a sus clientes por la autopista sin conductor

En un momento histórico para la tecnología de conducción autónoma, el Waymo se convierte en la primera empresa en desplegar taxis sin conductor totalmente autónomos en las carreteras de EEUU. El servicio, ya disponible para clientes de pago en Phoenix, San Francisco y Los Ángeles, puede reducir la duración de los trayectos hasta en un 50 % utilizando carreteras de alta velocidad. Este éxito es la culminación de millones de kilómetros de pruebas en carreteras públicas, circuitos cerrados y en simulaciones. Un obstáculo clave fue gestionar el „impacto psicológico“ en los pasajeros que cedían el control a 105 km/h, un reto que el cofundador de Waymo reconoció explícitamente. La empresa, que presume de un historial de seguridad con 91 % menos accidentes con heridos que los conductores humanos en escenarios comparables, planea ahora una gran expansión a ciudades como Dallas, Detroit y Londres.

Kimi K2: nuevo competidor de código abierto

Mientras tanto, ha surgido un nuevo y poderoso competidor en la escena del modelado de IA. La empresa Moonshot AI vydala Kimi K2 Thinking, es un modelo de código abierto con un billón de parámetros que compite con sistemas patentados de gama alta en tareas de „agente“, es decir, aquellas que requieren razonamiento y herramientas en varias fases. Su arquitectura única le permite intercalar el razonamiento y la acción, deteniéndose a „pensar“ entre las opciones de herramientas, lo que le permite resolver un problema matemático avanzado a través de 23 pasos diferentes de razonamiento y acción. El modelo se ha ajustado con precisión de 4 bits, lo que le permite más rápido y puede funcionar con hardware más barato, Una ventaja significativa en mercados con acceso limitado a chips avanzados.

La polémica en torno al ciberataque mediante inteligencia artificial

Esta semana también ha habido una gran polémica. Anthropic afirma haber frustrado el primer ciberataque a gran escala llevado a cabo con una intervención humana mínima, supuestamente llevada a cabo por hackers chinos patrocinados por el Estado utilizando su inteligencia artificial Claude Code. La empresa afirmó que la IA realizó entre 80 y 90 pasos técnicos %. Sin embargo, esta afirmación ha suscitado un gran escepticismo por parte de investigadores independientes en ciberseguridad. Argumentan que los agentes de IA actuales aún no son capaces de realizar de forma autónoma ataques tan complejos, señalando que las herramientas utilizadas eran comunes y que la IA ha známou tendenci "halucinovat" fakta, lo que la convierte en una hacker poco fiable. Este suceso ha suscitado un debate fundamental sobre las capacidades reales de la IA en ciberseguridad y la delgada línea que separa la demostración del poder de un producto de la propagación del miedo.

Aunque coincidieron en que la IA puede acelerar tareas como el análisis de registros y la ingeniería inversa, constataron que los agentes de IA aún no son capaces de realizar tareas de varios pasos sin intervención humana, y que los ciberataques no se automatizan de forma mucho más eficiente que las herramientas de piratería informática disponibles desde hace décadas. „Los atacantes no están inventando nada nuevo aquí“.“ afirmó el investigador Kevin Beaumont en un foro de seguridad en línea.

Además de Claude Code, los hackers utilizaron herramientas comunes de código abierto, según Anthropic. Sin embargo, las defensas contra estas conocidas herramientas también son bien conocidas por los expertos en seguridad, y no está claro en qué cambiaría Claude Code esta situación.
La propia Anthropic ha señalado que Claude Code puede haber tergiversado la información que supuestamente pirateó porque „a menudo exageraba los hallazgos“ y „a veces fabricaba los datos“. Según la empresa, este comportamiento es un obstáculo importante para utilizar el sistema para llevar a cabo ciberataques.

En octubre, David Sacks, asesor de la Casa Blanca sobre inteligencia artificial, acusó a Anthropic de llevar a cabo „sofisticadas estrategias reguladoras basadas en el alarmismo“.

La inteligencia artificial aprende a buscar en su propia memoria, aumentando la eficacia y la precisión

Yuchen Fan y sus colegas de la Universidad Tsinghua, la Universidad Jiao Tong de Shanghai, el Laboratorio de IA de Shanghai, el University College de Londres, la Tercera Oficina de la Corporación Estatal China de Ingeniería de la Construcción y WeChat AI presentaron el método Aprendizaje por refuerzo de búsqueda automática (SSRL), un método innovador que mejora notablemente la forma en que los grandes modelos lingüísticos acceden a la información y la utilizan. Este método enseña a los modelos a buscar sistemáticamente sus propios parámetros - simula la búsqueda en Internet generando y respondiendo consultas, lo que mejora notablemente la extracción de conocimientos a partir de los datos de entrenamiento existentes. En las pruebas realizadas con seis puntos de referencia, los modelos habilitados para SSRL obtuvieron un rendimiento excelente, con un modelo que alcanzó una precisión de 43,1 %. Esta técnica también crea sistemas híbridos más eficientes en los que la IA consulta primero sus conocimientos internos antes de buscar información externa, lo que puede reducir el coste computacional y mejorar la precisión de las respuestas en tareas intensivas en conocimientos.


The Batch - DeepLearning.Ai por Andrew Ng / gnews.cz - GH