Las investigaciones demuestran que la combinación de modelos lingüísticos con algoritmos tradicionales logra mejores resultados que los LLM por sí solos, Google presenta una herramienta para crear aplicaciones de IA sin código y OpenAI endurece las normas de seguridad. He aquí un resumen de lo más destacado de la semana pasada.

Lo más destacado de la semana:

  • Los sistemas híbridos de IA que combinan LLM con algoritmos clásicos superan a los modelos lingüísticos puros
  • Google Cloud presenta Gemini API Expander para crear aplicaciones de IA sin codificar
  • OpenAI publica normas de seguridad para escalar modelos a inteligencia humana
  • Microsoft lanza una herramienta para la detección automática de vulnerabilidades en sistemas de IA
  • Un nuevo estudio demuestra que la IA puede predecir el riesgo de muerte con una precisión 75%

Los sistemas híbridos de IA superan a los modelos lingüísticos puros

Cada vez son más los investigadores que descubren que la combinación de grandes modelos lingüísticos con algoritmos tradicionales proporciona mejores resultados que los LLM por sí solos. Los sistemas híbridos utilizan LLM para el procesamiento del lenguaje natural y algoritmos tradicionales para tareas que requieren cálculos precisos o la manipulación de datos estructurados. Este enfoque muestra un rendimiento superior en la resolución de tareas complejas como el razonamiento matemático y las simulaciones científicas, en las que los LLM puros suelen fallar. El paso a arquitecturas híbridas representa un cambio significativo en el diseño de sistemas de IA.

Google Cloud lanza Gemini API Expander

Google Cloud ha presentado Gemini API Expander, una herramienta que permite a las empresas crear aplicaciones de IA sin necesidad de codificación. La plataforma utiliza el aprendizaje por transferencia para adaptar los modelos preentrenados de Gemini a casos de uso empresariales específicos. Una nueva función Prompt Shield ofrece protección contra los ataques de inyección de prompt, mientras que una API RAG actualizada mejora la precisión de la búsqueda de documentos. La empresa también ha anunciado la disponibilidad general del modelo Gemini 1.5 Flash y la ampliación de la ventana de contexto a 2 millones de tokens, lo que permite procesar documentos de gran tamaño.

OpenAI refuerza las normas de seguridad

OpenAI ha publicado nuevas normas de seguridad destinadas a gestionar los riesgos asociados al desarrollo de modelos capaces de inteligencia de nivel humano. El marco incluye la evaluación obligatoria de las capacidades de los modelos antes durante el entrenamiento, la fijación de límites para la replicación autónoma y el establecimiento de procedimientos para apagar sistemas muy avanzados. La empresa también anunció la creación de un Consejo Asesor de Seguridad formado por expertos externos para supervisar la aplicación de la política. La medida refleja la creciente preocupación por los riesgos potenciales de los sistemas superinteligentes de IA.

Microsoft lanza una herramienta de detección de vulnerabilidades mediante IA

Microsoft ha presentado una nueva herramienta de seguridad capaz de identificar automáticamente vulnerabilidades en sistemas de IA. La herramienta utiliza una combinación de análisis estático de código y pruebas dinámicas para descubrir lagunas de seguridad en las aplicaciones de IA. La herramienta es capaz de detectar problemas comunes, como la inyección puntual, el envenenamiento de datos y los ataques de inversión de modelos. La empresa también ha publicado un conjunto de buenas prácticas para proteger las aplicaciones de IA, que incluye recomendaciones para controlar el acceso a los modelos y vigilar comportamientos inusuales.

La IA predice la mortalidad con una precisión de 75%

Un nuevo estudio publicado en Nature demuestra que un modelo de IA entrenado a partir de historiales médicos rutinarios puede predecir el riesgo de muerte con una precisión 75%. El sistema analiza datos como la presión arterial, los niveles de colesterol y el estilo de vida sin acceder a diagnósticos explícitos. El modelo superó a las herramientas de predicción tradicionales utilizadas en la práctica clínica y fue capaz de identificar a pacientes de alto riesgo meses antes de posibles complicaciones de salud. Este enfoque podría revolucionar la medicina preventiva, aunque plantea cuestiones éticas sobre la privacidad y el uso de datos sensibles.

The Batch – DeepLearning.Ai by Andrew Ng / gnews.cz – GH