AI新聞

亞馬遜裝置與服務部門負責人帕諾斯·帕奈（Panos Panay）強調，在打造創新消費性硬體與人工智慧驅動的產品時，失敗與韌性是不可或缺的。在 TechCrunch Disrupt 大會上發言時，帕奈討論了大膽冒險以及從失誤中吸取教訓，如何對開發包括增強型 Alexa 體驗在內的下一代技術至關重要。他強調了培養一種文化的重要性，在這種文化中，團隊能夠獲得賦能去大膽嘗試、快速疊代並從產品挫折中復原，將失敗視為長期創新與卓越產品不可或缺的一環，而非敗局。

摩根大通已開始阻止第三方人工智慧代理存取客戶帳戶，限制了Muse等依賴自動資料擷取或共享登入憑證來執行銀行任務的服務。該銀行表示，安全性、資料隱私以及未經授權存取帳戶的風險是阻止外部AI工具代表客戶採取直接行動的主要原因。因此，使用者無法再使用第三方AI財務助手進行自動轉帳或直接管理Chase帳戶，而必須依賴原生銀行應用程式或經批准的API連線。

亞馬遜裝置與服務主管 Panos Panay 預見消費科技領域將發生根本性轉變，亦即環境人工智慧（ambient AI）將減少或消除對傳統智慧型手機應用程式的依賴。使用者無需手動切換不同 App 來完成任務，而是直接與 AI 驅動的裝置互動。這些裝置能夠理解使用者意圖，並在背景跨多個平台執行複雜的工作流程——例如協調行程、進行預訂或管理數位服務。Panay 指出，隨著硬體與生成式 AI 代理更深入地結合，使用者介面將從以 App 為中心的觸控螢幕，演變為統一且具備情境感知能力的對話式系統。

Meta 發布了一款全新的開放權重 AI 模型，該模型經過專門最佳化，可在搭載 Apple 晶片的 Mac 電腦上本機執行。該模型專為開發者與注重隱私的使用者設計，無需依賴雲端基礎設施即可實現離線文字生成與本機 AI 處理。透過針對 macOS 和 Apple 的統一記憶體架構（Unified Memory Architecture）進行量化與記憶體管理最佳化，Meta 旨在降低延遲、消除 API 訂閱成本，並推動本機開源 AI 在消費級硬體上的廣泛部署。

Goodfire 的最新研究表明，透過稀疏自編碼器進行分析時，類神經網路的內部表示展現出不同尋常的結構化與有序性。語言模型並未將概念儲存在糾纏或雜亂的激活空間中，而是將不同的概念對映到其潛在表示中清晰且獨立的特徵方向上。這種清晰的內部結構實現了精確的特徵引導和可解釋性，使研究人員無需對網路權重進行重新訓練或微調，即可在細粒度層面上直接檢查、編輯和控制模型的輸出。

企業正日益部署 AI 聊天機器人與自動化篩選工具來進行初輪求職面試，促使求職者積極測試與操控這些系統。求職者正在嘗試提示詞注入（prompt injection）技術——例如在履歷中插入隱藏文字，指示 AI 評估工具給予最高評分——或在視訊面試期間使用生成式 AI 工具即時生成答案。儘管人力資源軟體廠商聲稱自動化篩選能加快招募速度，但專家警告，AI 面試官容易被利用，缺乏人類的細微察覺，並可能在招募決策中延續偏見。

Anthropic正向非營利組織「模型評估與威脅研究」（METR）的研究人員提供對其內部系統和前沿人工智慧模型的深度員工級存取權限。此倡議使外部安全專家能在公開發布前對先進模型進行徹底的紅隊測試和風險評估。透過共享對模型內部機制和開發環境的直接存取權，Anthropic旨在針對自主能力、網路安全風險和安全對齊建立更強大的獨立監管。

人工智慧正在迅速重塑數學界，在學者中引發了敬畏與存在主義憂鬱。隨著先進的人工智慧模型和自動定理證明器不斷解決複雜問題並驗證證明過程，長期以來被奉為由直覺和創造美所驅動的獨特人類藝術的這門學科，正面臨著深刻的機械化變革。儘管支持者將這些工具視為能夠加速發現並消除人為錯誤的強大合作者，但批評者擔心，將邏輯推理外包給演算法可能會使數學洞察力降級為晦澀的計算，從根本上改變發現真理的本質意義。

IBM正圍繞智慧營運重塑企業自動化的未來，將AI代理的安全性與可衡量的業務成果相結合。隨著企業超越簡單的任務自動化並開始部署自主AI代理，IBM主張採用一種結構化的營運模型，將防護欄、即時監控和風險管理直接嵌入到營運工作流程中。這種方法解決了代理漂移（agent drift）、資料隱私和意外行為等關鍵企業關注點，確保自主系統在確定的合規範圍內運作。透過將代理安全性與業務績效指標保持一致，IBM旨在幫助企業可靠地擴充代理型AI的部署，同時保護企業資料和客戶信任。

一項尋找阿米莉亞·埃爾哈特失蹤的洛克希德·伊萊克特拉10E（Lockheed Electra 10E）飛機的新海洋探險項目，正在利用人工智慧來處理海量的海底聲納資料。透過在數千平方英里的太平洋海底部署配備側掃聲納的自主水下航行器，團隊擷取了水下地形的高解析度影像。隨後，人工智慧演算法會對這些影像進行分析，以檢測結構異常和潛在的殘骸特徵，從而大幅縮短了人類操作員手動審查原始聲納檔案所需的時間。這種自動化分析有助於研究人員快速確定有希望的目標，展示了人工智慧技術如何簡化深海探索和歷史搜尋工作。

沃爾沃汽車（Volvo Cars）正在擴大與輝達（Nvidia）的合作，為其下一代電動車配備集中式計算系統。透過採用算力高達 2,000 TFLOPS 的輝達 DRIVE Thor 平台，沃爾沃計劃在單一核心架構上運行高級駕駛輔助功能、自動駕駛研究模型以及人工智慧驅動的座艙功能。擺脫分散式電子控制單元，使該車企能夠簡化車載軟體、提升安全處理能力，並在車輛的整個生命週期內持續進行 OTA 無線功能升級。

輝達（Nvidia）擴充了其 Nemotron 開放語言模型系列，推出了針對代理人系統進行優化的超高效變體。這些新模型專為自主規劃、多步驟推理和外部工具整合而設計，旨在提供高吞吐量推論，同時最大限度地降低計算成本與延遲。開發者與企業團隊可以使用 Nvidia NeMo 架構與 NIM 微服務自訂並部署這些模型，從而在無需大量硬體開銷的情況下，於企業工作流程與資料管道中實現可擴充的 AI 代理人部署。

在管理員認定生成式 AI 工具已消除了該愛好核心的挑戰與技能後，一個電子遊戲逆向工程社群決定關閉。從歷史上看，逆向工程需要艱苦的人力付出，以分析並將遊戲二進位碼反編譯為人類可讀的原始碼。然而，像 Anthropic 的 Claude 3.5 Sonnet 這類現代 AI 模型的功能，讓使用者能夠透過簡單的提示詞快速反編譯程式碼。這種技術轉變使社群充斥著未經證實、低成本的 AI 提交內容，剝奪了最初激勵該社群的協同學習與智力工藝精神。

根據 404 Media 報導的一份公司內部指南顯示，埃森哲（Accenture）已將員工在 Anthropic 的 Claude AI 助手上的每月支出上限設定為 29 美元。該政策限制了員工可以報銷的個人訂閱費或生成式 AI 工具使用費，反映出大型企業和諮詢公司試圖控制與第三方人工智慧服務相關的不斷飆升成本之更廣泛趨勢。儘管埃森哲在 AI 領域保持著重大企業合作夥伴關係，但新的支出上限對分散的員工工具採用與報銷實施了更嚴格的監督。

YouTube Music 和 Deezer 正推出新功能，協助聽眾應對平台上大量湧入的 AI 生成歌曲。YouTube Music 正新增標籤以標示合成建立或修改的音訊，這與 YouTube 針對合成內容的更廣泛資訊揭露政策保持一致。Deezer 則採取進一步行動，推出了一項選擇退出（opt-out）切換功能，允許使用者從搜尋結果和推薦中完全過濾掉數百萬首 AI 生成的歌曲。該工具由 Deezer 專有的 AI 檢測系統提供支援，旨在保護人類藝術家的曝光度，並賦予訂閱者對其音訊動態更大的控制權。