Noticias de IA

La versión 1.107.0 del paquete de Python LiteLLM en PyPI fue comprometida para incluir un robador de credenciales y una puerta trasera. Tras la instalación, la carga útil maliciosa escanea automáticamente el sistema host en busca de datos confidenciales, incluidas claves de API, variables de entorno y credenciales de la nube, antes de exfiltrarlos a un punto final controlado por el atacante. Debido a que LiteLLM se implementa ampliamente como una capa de abstracción y proxy para acceder a múltiples API de modelos de lenguaje grandes, este ataque a la cadena de suministro representa riesgos significativos para los entornos de desarrollo de IA. Los desarrolladores que utilicen la versión afectada deben eliminar el paquete de inmediato, rotar las credenciales expuestas y actualizar a una versión limpia.

General Motors está orientando su estrategia de ingeniería hacia la inteligencia artificial y las plataformas de cómputo a bordo avanzadas para mantenerse al ritmo de los fabricantes chinos de vehículos eléctricos, que iteran rápidamente. Según los ejecutivos de GM, los competidores chinos han obtenido ventaja al acelerar los ciclos de desarrollo e integrar amplias funciones digitales a menores costos. Para contrarrestar esto, GM está desarrollando una arquitectura centralizada de vehículo definido por software y desplegando IA en el diseño, las pruebas y la fabricación de vehículos. Al expandir la capacidad de cómputo en toda su flota, GM busca acortar los tiempos de desarrollo, acelerar las actualizaciones de software y ofrecer experiencias de asistencia al conductor y en el habitáculo más avanzadas.

Una demanda colectiva presentada en Illinois alega que los robots autónomos de entrega en aceras de Serve Robotics escanean los rostros de los transeúntes y recopilan datos biométricos sin obtener el consentimiento requerido. Según la querella, los robots impulsados por IA utilizan cámaras y sensores para la navegación y la verificación de pedidos, capturando la geometría facial de transeúntes y clientes sin una divulgación previa por escrito ni un cronograma de retención accesible al público, violando la Ley de Privacidad de Información Biométrica de Illinois (BIPA). El desafío legal pone de relieve las crecientes preocupaciones sobre la privacidad con respecto a cómo los dispositivos autónomos recopilan y manejan los datos de identificación personal en espacios públicos.

OpenAI afirma que su modelo de IA avanzado ayudó a identificar vulnerabilidades de seguridad críticas en PHP, el lenguaje de programación subyacente en millones de sitios web de todo el mundo. Si se explotan, estos fallos de seguridad podrían permitir la ejecución no autorizada de código y el compromiso del servidor. OpenAI destacó este descubrimiento para demostrar cómo los modelos de IA pueden ayudar a los defensores en la ciberseguridad proactiva y la búsqueda automatizada de errores. Aunque los investigadores de seguridad agradecen la capacidad de la IA para descubrir fallos informáticos complejos antes de que lo hagan actores malintencionados, este avance también pone de manifiesto la creciente preocupación por el uso que los atacantes puedan hacer de herramientas de IA automatizadas similares para descubrir vulnerabilidades de día cero.

General Motors está trabajando para transformar los vehículos en asistentes personales proactivos mediante la integración de inteligencia artificial generativa en sus sistemas de software a bordo. El fabricante de automóviles tiene como objetivo permitir que los vehículos realicen tareas cotidianas para los conductores, como programar citas, pedir comida, pagar el estacionamiento y controlar dispositivos del hogar inteligente, utilizando comandos de voz naturales. Al conectar las preferencias del conductor con servicios digitales de terceros, GM prevé reducir la fricción cognitiva durante los desplazamientos cotidianos. Sin embargo, la utilidad práctica del sistema dependerá de una integración fluida entre plataformas, sólidas protecciones de privacidad de datos y de garantizar que las interacciones automatizadas de manos libres no distraigan a los conductores.

Dell ha integrado el chip DGX Spark de Nvidia en su línea de estaciones de trabajo Pro Precision, ofreciendo hardware de alto rendimiento adaptado al desarrollo local de IA a un precio $1,000 menor que la oferta independiente de Nvidia. La estación de trabajo está dirigida a científicos de datos, desarrolladores e investigadores que realizan entrenamiento de modelos de aprendizaje automático, prototipado de IA generativa y procesamiento complejo de datos directamente en el hardware de escritorio. Al empaquetar chips de cómputo de nivel empresarial en un chasis de estación de trabajo estándar a un costo reducido, Dell ofrece a las organizaciones una alternativa más económica para ejecutar cargas de trabajo intensivas de IA a nivel local sin depender exclusivamente de la infraestructura en la nube.

Para satisfacer la creciente demanda de electricidad de los centros de datos de inteligencia artificial, las empresas energéticas estadounidenses están tomando medidas para reiniciar tres reactores nucleares cerrados. Constellation Energy planea reabrir la Unidad 1 de Three Mile Island en Pensilvania para 2028 bajo un contrato de suministro eléctrico de 20 años con Microsoft. Mientras tanto, Holtec International tiene como objetivo reiniciar la planta de Palisades en Míchigan a finales de 2025, respaldada por garantías de préstamos federales, y NextEra Energy está evaluando la reapertura de las instalaciones de Duane Arnold en Iowa. A medida que las empresas tecnológicas buscan energía continua e idónea sin emisiones de carbono para sus crecientes cargas de trabajo de inteligencia artificial, estos complejos proyectos de infraestructura aún enfrentan extensas aprobaciones de la Comisión Reguladora Nuclear, inspecciones de seguridad e inversiones financieras sustanciales antes de volver a estar operativos.

Aunque las herramientas de generación de código con IA ayudan a los desarrolladores a escribir código más rápido, un nuevo informe de Faros AI advierte que codificar más rápido no se traduce en entregar mejor software antes. Tras examinar datos de más de 10 000 desarrolladores en 30 organizaciones de ingeniería, el estudio reveló que los asistentes de IA crean cuellos de botella en otras partes del ciclo de vida del desarrollo de software, especialmente durante las revisiones de código y las pruebas. Los desarrolladores están enviando más solicitudes de extracción (pull requests), lo que aumenta los tiempos de revisión y la acumulación de trabajo. Para lograr ganancias reales de productividad, el informe enfatiza que las organizaciones deben optimizar los procesos posteriores, como las revisiones, las pruebas automatizadas y la implementación, junto con la adopción de asistentes de código.

Wiz Research utilizó un marco de agentes de IA para descubrir una vulnerabilidad crítica de ejecución remota de código (RCE) en el motor principal de PHP. Bautizada como PHP2Shell, la falla se debe a la corrupción de memoria al procesar solicitudes multipart form-data, lo que potencialmente permite a atacantes no autenticados ejecutar código arbitrario en los servidores afectados. Wiz divulgó de manera responsable la vulnerabilidad a los mantenedores de PHP, quienes lanzaron parches de seguridad para solucionarla. Este hallazgo demuestra la creciente capacidad de las herramientas de IA para identificar vulnerabilidades complejas de día cero en software de código abierto de uso generalizado, lo que subraya la importancia de aplicar parches rápidamente a medida que se expande la investigación de seguridad automatizada.

El proveedor de VPN Windscribe ha llevado a cabo una auditoría de seguridad de su código fuente utilizando modelos de IA, incluido Claude de Anthropic, en lo que podría ser la primera auditoría de VPN impulsada por IA. El agente de IA escaneó la base de código de la empresa para detectar vulnerabilidades de seguridad y fallos de lógica, descubriendo problemas que las herramientas automatizadas estándar habían pasado por alto. Aunque el experimento demostró que la IA puede acelerar significativamente el análisis de código y la detección de vulnerabilidades, Windscribe enfatizó que los expertos humanos en seguridad siguen siendo esenciales para revisar los hallazgos, eliminar los falsos positivos e interpretar contextos de seguridad complejos.

La startup de IA Flint está desarrollando modelos centrados en la auto-mejora recursiva, un proceso mediante el cual la inteligencia artificial genera, prueba y perfecciona de manera iterativa su propio código y sistemas de razonamiento. Su modelo más reciente demuestra mejoras significativas de rendimiento al identificar errores de forma autónoma, proponer optimizaciones y entrenar iteraciones actualizadas sin depender de la anotación humana continua. Al permitir que los modelos guíen sus propios ciclos evolutivos, la empresa busca superar los embotellamientos de datos tradicionales y acelerar el desarrollo, mientras que los investigadores advierten que las arquitecturas de auto-mejora requieren una supervisión estricta para evitar errores acumulativos o comportamientos no deseados.

Red Hat Inc. y Nvidia Corp. han ampliado su alianza estratégica para reforzar la seguridad, la gobernanza y los controles de despliegue de los agentes de IA autónomos en entornos empresariales. Al integrar Red Hat OpenShift AI con el software Nvidia AI Enterprise —incluidos los microservicios Nvidia NIM y NeMo Guardrails—, la colaboración permite a las organizaciones ejecutar y escalar complejos flujos de trabajo agénticos con controles de acceso integrados y supervisión en tiempo real. La solución conjunta busca mitigar riesgos como la exposición de datos, las acciones automatizadas no verificadas y los ataques de inyección de prompts, ayudando a las empresas a adoptar sistemas autónomos de manera segura al tiempo que mantienen un estricto cumplimiento en toda la infraestructura de nube híbrida.

Microsoft ha reducido varias funciones de IA en las compilaciones recientes de vista previa de Windows 11, pero la decisión quedó eclipsada después de que un ejecutivo de la empresa reconociera que el equipo de diseño de Windows 11 recurre a herramientas de IA generativa en su flujo de trabajo diario. El ejecutivo aclaró que la IA se utiliza estrictamente para asistir al personal humano durante las primeras etapas de lluvia de ideas, creación rápida de prototipos y experimentación visual, en lugar de generar elementos finales o reemplazar a los diseñadores. A pesar de las garantías de que la supervisión creativa humana sigue siendo central, la admisión planteó cuestiones más amplias entre los observadores sobre el papel y la influencia de las herramientas de diseño automatizadas en la conformación de las interfaces de los sistemas operativos de escritorio principales.

El Antigravity A1 Follow Me Bundle ofrece a los creadores de contenido en solitario un sistema de grabación aérea automatizado al combinar un dron con cámara de 360 grados y un control remoto de seguimiento wearable. El controlador vestible permite que el dron siga al sujeto de forma autónoma mientras graba video esférico completo, lo que permite a los usuarios reencuadrar las tomas durante la edición sin necesidad de conocimientos de vuelo manual. El sistema proporciona una estabilización de video fluida y un funcionamiento manos libres para actividades de acción, pero su rendimiento se ve limitado por un tiempo de vuelo corto de aproximadamente 15 minutos por batería, la sensibilidad a vientos fuertes debido a su estructura ligera y un precio elevado. Para los videógrafos individuales, simplifica la captura de tomas dinámicas en perspectiva de tercera persona sin requerir un operador dedicado.

El CEO de Nvidia, Jensen Huang, aboga por el uso de centros de datos prefabricados y modulares en toda Europa para ayudar a la región a expandir rápidamente su infraestructura de inteligencia artificial. Ante los estrictos requisitos de soberanía de datos y los graves cuellos de botella en la red eléctrica que retrasan la construcción de instalaciones tradicionales, las empresas y proveedores de telecomunicaciones europeos pueden utilizar estas unidades de cómputo conectables («plug-in») para un despliegue más rápido. Este enfoque tiene como objetivo apoyar las iniciativas de IA soberana, permitiendo a las organizaciones locales procesar datos y ejecutar modelos de IA a nivel nacional mientras evitan prolongados trámites de permisos y obstáculos de disponibilidad de energía.