Noticias de IA

Panos Panay, director de Dispositivos y Servicios de Amazon, enfatizó la necesidad del fracaso y la resiliencia al desarrollar hardware de consumo innovador y productos impulsados por IA. Durante su intervención en TechCrunch Disrupt, Panay analizó cómo asumir riesgos audaces y aprender de los errores son fundamentales para desarrollar tecnología de última generación, incluidas experiencias mejoradas de Alexa. Destacó la importancia de fomentar una cultura en la que los equipos se sientan capacitados para experimentar, iterar rápidamente y recuperarse de los reveses de los productos, planteando el fracaso no como una derrota, sino como una parte indispensable de la invención a largo plazo y la excelencia del producto.

JPMorgan Chase ha comenzado a bloquear el acceso de agentes de inteligencia artificial de terceros a las cuentas de los clientes, restringiendo servicios como Muse que dependen del raspado automatizado de datos o del uso compartido de credenciales para ejecutar tareas bancarias. El banco citó la seguridad, la privacidad de los datos y el riesgo de acceso no autorizado a las cuentas como las razones principales para impedir que las herramientas de IA externas realicen acciones directas en nombre de los clientes. Como consecuencia, los usuarios ya no pueden utilizar asistentes financieros de IA de terceros para transferencias automatizadas o la gestión directa de sus cuentas de Chase, debiendo recurrir a las aplicaciones bancarias nativas o conexiones API autorizadas.

El responsable de Dispositivos y Servicios de Amazon, Panos Panay, prevé un cambio fundamental en la tecnología de consumo en el que la inteligencia artificial ambiental reduzca o elimine la dependencia de las aplicaciones tradicionales para teléfonos inteligentes. En lugar de navegar manualmente por distintas aplicaciones para completar tareas, los usuarios interactuarán con dispositivos impulsados por IA capaces de comprender la intención del usuario y ejecutar flujos de trabajo complejos (como coordinar horarios, hacer reservas o gestionar servicios digitales) en segundo plano y a través de múltiples plataformas. Panay sugiere que, a medida que el hardware se integre más profundamente con los agentes de IA generativa, las interfaces de usuario evolucionarán de pantallas táctiles centradas en aplicaciones a sistemas conversacionales unificados y conscientes del contexto.

Meta ha lanzado un nuevo modelo de IA de pesos abiertos optimizado para ejecutarse localmente en ordenadores Mac con procesadores Apple Silicon. Diseñado para desarrolladores y usuarios conscientes de la privacidad, el modelo permite la generación de texto sin conexión y el procesamiento local de IA sin depender de infraestructura en la nube. Al adaptar la cuantización y la gestión de memoria para macOS y la arquitectura de memoria unificada de Apple (Unified Memory Architecture), Meta busca reducir la latencia, eliminar los costes de suscripción a las API y ampliar el despliegue de IA de código abierto local en hardware de consumo.

Una investigación de Goodfire demuestra que las representaciones internas en las redes neuronales están extraordinariamente estructuradas y organizadas cuando se analizan mediante autoencoders dispersos. En lugar de almacenar conceptos en espacios de activación enredados o desordenados, los modelos de lenguaje mapean ideas distintas en direcciones de características limpias e aisladas dentro de sus representaciones latentes. Esta clara estructura interna permite una dirección precisa de características y una alta interpretabilidad, lo que posibilita a los investigadores inspeccionar, editar y controlar los resultados del modelo directamente a un nivel granular sin necesidad de reentrenar ni ajustar los pesos de la red.

Las empresas recurren cada vez más a chatbots de IA y evaluadores automatizados para realizar las primeras entrevistas de trabajo, lo que impulsa a los candidatos a probar y manipular activamente los sistemas. Los postulantes están experimentando con técnicas de inyección de prompts (prompt injection) —como insertar texto oculto en los currículums que ordene a evaluadores de IA dar la puntuación máxima— o utilizando herramientas de IA generativa para elaborar respuestas en tiempo real durante entrevistas en video. Aunque los proveedores de software de RR. HH. afirman que el filtrado automatizado agiliza la contratación, los expertos advierten que los entrevistadores de IA son vulnerables a la manipulación, carecen de matices humanos y pueden perpetuar sesgos en las decisiones de contratación.

Anthropic está concediendo a los investigadores de la organización sin fines de lucro Model Evaluation and Threat Research (METR) un acceso profundo, a nivel de empleado, a sus sistemas internos y modelos de IA de frontera. Esta iniciativa permite a expertos externos en seguridad realizar exhaustivas pruebas de equipo rojo (red teaming) y evaluaciones de riesgo en modelos avanzados antes de su lanzamiento público. Al compartir acceso directo a los componentes internos del modelo y a los entornos de desarrollo, Anthropic busca establecer una supervisión independiente más sólida con respecto a las capacidades autónomas, los riesgos de ciberseguridad y la alineación de seguridad.

La inteligencia artificial está rediseñando rápidamente las matemáticas, inspirando tanto asombro como una melancolía existencial entre los académicos. A medida que los modelos avanzados de IA y los demostradores automáticos de teoremas resuelven problemas complejos y verifican demostraciones, una disciplina venerada durante mucho tiempo como un arte únicamente humano, impulsado por la intuición y la belleza creativa, se enfrenta a una profunda mecanización. Mientras que los defensores ven estas herramientas como colaboradores poderosos que pueden acelerar el descubrimiento y eliminar el error humano, los críticos temen que subcontratar el razonamiento a algoritmos corra el riesgo de reducir la comprensión matemática a un cálculo opaco, alterando fundamentalmente lo que significa descubrir la verdad.

IBM está configurando el futuro de la automatización empresarial en torno a operaciones inteligentes que combinan la seguridad de los agentes de IA con resultados empresariales medibles. A medida que las organizaciones van más allá de la simple automatización de tareas para desplegar agentes de IA autónomos, IBM aboga por un modelo operativo estructurado que incorpore barreras de protección, supervisión en tiempo real y gestión de riesgos directamente en los flujos de trabajo operativos. Este enfoque aborda preocupaciones clave de las empresas como la desviación del agente (agent drift), la privacidad de los datos y las acciones no intencionadas, garantizando que los sistemas autónomos funcionen dentro de los límites de cumplimiento definidos. Al alinear la seguridad de los agentes con las métricas de rendimiento empresarial, IBM busca ayudar a las empresas a escalar los despliegues de IA agéntica de manera fiable, al tiempo que protege los datos corporativos y la confianza de los clientes.

Una nueva expedición oceánica en busca del avión Lockheed Electra 10E desaparecido de Amelia Earhart está utilizando inteligencia artificial para procesar enormes cantidades de datos de sonar del fondo marino. Al desplegar vehículos submarinos autónomos equipados con sonar de barrido lateral a lo largo de miles de millas cuadradas del fondo del océano Pacífico, el equipo captura imágenes de alta resolución del terreno submarino. A continuación, los algoritmos de IA analizan las imágenes para detectar anomalías estructurales y posibles patrones de restos, lo que reduce drásticamente el tiempo necesario para que los operadores humanos revisen manualmente los archivos de sonar sin procesar. Este análisis automatizado ayuda a los investigadores a señalar rápidamente objetivos prometedores, demostrando cómo la tecnología de IA puede agilizar la exploración de aguas profundas y las búsquedas históricas.

Volvo Cars está ampliando su alianza con Nvidia para impulsar sus vehículos eléctricos de próxima generación con sistemas informáticos centralizados. Al adoptar la plataforma DRIVE Thor de Nvidia, que ofrece hasta 2.000 teraflops de rendimiento de cálculo, Volvo planea ejecutar capacidades avanzadas de asistencia al conductor, modelos de investigación de conducción autónoma y funciones de habitáculo impulsadas por IA en una única arquitectura central. Alejarse de las unidades de control electrónico distribuidas permite al fabricante de automóviles optimizar el software del vehículo, mejorar el procesamiento de seguridad y ofrecer continuamente actualizaciones de funcionalidad de forma inalámbrica (OTA) a lo largo del ciclo de vida del automóvil.

Nvidia ha ampliado su familia de modelos de lenguaje abiertos Nemotron con variantes hipereficientes optimizadas para sistemas basados en agentes. Diseñados para la planificación autónoma, el razonamiento de múltiples pasos y la integración de herramientas externas, los nuevos modelos tienen como objetivo ofrecer una inferencia de alto rendimiento al tiempo que minimizan los costes computacionales y la latencia. Los desarrolladores y los equipos empresariales pueden personalizar y desplegar estos modelos utilizando el marco Nvidia NeMo y los microservicios NIM, lo que facilita un despliegue escalable de agentes de IA en los flujos de trabajo corporativos y las tuberías de datos sin requerir un gran gasto en hardware.

Una comunidad de ingeniería inversa de videojuegos ha cerrado después de que los administradores concluyeran que las herramientas de IA generativa han eliminado el desafío principal y la habilidad central de este pasatiempo. Históricamente, la ingeniería inversa requería un minucioso esfuerzo manual para analizar y descompilar el código binario del juego en código fuente legible por humanos. Sin embargo, las capacidades de los modelos modernos de IA como Claude 3.5 Sonnet de Anthropic permiten a los usuarios descompilar código rápidamente mediante indicaciones básicas. Este cambio tecnológico inundó el grupo con envíos de IA no verificados y de bajo esfuerzo, despojando al grupo del aprendizaje colaborativo y la artesanía intelectual que originalmente motivaban a la comunidad.

Accenture ha limitado el gasto de sus empleados en el asistente de IA Claude de Anthropic a 29 dólares al mes, según una guía interna de la empresa informada por 404 Media. La política limita la cantidad que el personal puede reembolsar por suscripciones individuales o uso de la herramienta de IA generativa, lo que refleja una tendencia más amplia de grandes empresas y firmas de consultoría que buscan controlar los costos desmedidos asociados con servicios de inteligencia artificial de terceros. Si bien Accenture mantiene asociaciones empresariales importantes en el sector de la IA, el nuevo tope de gasto impone una supervisión más estricta sobre la adopción descentralizada de herramientas y el reembolso a los empleados.

YouTube Music y Deezer están introduciendo nuevas funciones para ayudar a los oyentes a gestionar la afluencia de temas generados por IA en sus plataformas. YouTube Music está añadiendo etiquetas para señalar el audio creado o modificado sintéticamente, alineándose con las políticas de divulgación más amplias de YouTube para contenido sintético. Deezer está yendo más allá al lanzar una opción de exclusión (opt-out) que permite a los usuarios filtrar por completo millones de canciones generadas por IA de sus resultados de búsqueda y recomendaciones. Impulsada por el sistema propietario de detección de IA de Deezer, esta herramienta tiene como objetivo salvaguardar la visibilidad de los artistas humanos y dar a los suscriptores un mayor control sobre sus fuentes de audio.