%20--%3e%3cdefs%3e%3cstyle%3e%20.st0%20{%20fill:%20%23061b40;%20}%20.st1%20{%20fill:%20%23306af1;%20}%20.st2%20{%20fill:%20%235ce5cf;%20}%20%3c/style%3e%3c/defs%3e%3cg%3e%3cpath%20class='st0'%20d='M55,10.5h9v3h-9v9h12V7.5h-12v3ZM64,19.5h-6v-3h6v3Z'/%3e%3cpolygon%20class='st0'%20points='69%2016.5%2078%2016.5%2078%2019.5%2069%2019.5%2069%2022.5%2081%2022.5%2081%2013.5%2072%2013.5%2072%2010.5%2081%2010.5%2081%207.5%2069%207.5%2069%2016.5'/%3e%3cpolygon%20class='st0'%20points='95%2010.5%2095%207.5%2083%207.5%2083%2022.5%2095%2022.5%2095%2019.5%2086%2019.5%2086%2016.5%2095%2016.5%2095%2013.5%2086%2013.5%2086%2010.5%2095%2010.5'/%3e%3cpath%20class='st0'%20d='M40,1.5v21h11.6l1.4-1.4v-7.6h0c0,0-1.4-1.5-1.4-1.5l1.4-1.4V2.9l-1.4-1.4h-11.6ZM50,19.5h-7v-6h7v6ZM50,10.5h-7v-6h7v6Z'/%3e%3c/g%3e%3cpath%20class='st1'%20d='M23.1,24L14.7,4.8l-4.9,11.2h3.8l-1.8,4H3.3L12.1,0H2C.9,0,0,.9,0,2v20c0,1.1.9,2,2,2h21.1Z'/%3e%3cpath%20class='st2'%20d='M34,0h-16.8l10.6,24h6.2c1.1,0,2-.9,2-2V2C36,.9,35.1,0,34,0ZM32.5,20h-4V4h4v16Z'/%3e%3c/svg%3e)
安德森·霍洛維茨基金合夥人賈斯汀·摩爾最近在X上介紹了一項新的投資理念，支持“由LLMs 和代理人打造的新一波‘育兒副駕駛’”。
她提到了Cradlewise等公司，該公司生產一種人工智能嬰兒監視器，可以檢測嬰兒的睡眠模式並搖動嬰兒牀，而Nanit則使用人工智能處理嬰兒牀錄像來判斷嬰兒是否在呼吸。
圖源備註:圖片由AI生成，圖片授權服務商Midjourney
摩爾寫道:“想象一下，一個人工智能育兒伴侶始終陪伴在你身邊——隨時準備回答你的問題或談論你在白天（或晚上）的任何時候的感受。”像Soula這樣的應用程序使用人工智能來收集用戶數據並指導母親度過懷孕和產後時期。
摩爾認爲，人工智能 x 育兒是一個充滿前景的領域，儘管還需要做很多工作。“人工智能 x 育兒還爲時過早，”她寫道。“還有很多事情要做!”
a16z的這一投資理念表明，人工智能在育兒領域的應用將是一個重要的趨勢。人工智能可以幫助父母更好地照顧孩子，提供更好的育兒體驗。
在人工智能領域，獎勵模型是對齊大型語言模型（LLMs）與人類反饋的關鍵組成部分，但現有模型面臨着 “獎勵黑客” 問題。這些模型往往關注表面的特徵，例如回覆的長度或格式，而不是識別真正的質量指標，如事實準確性和相關性。問題的根源在於，標準訓練目標無法區分訓練數據中存在的虛假關聯和真實的因果驅動因素。這種失敗導致了脆弱的獎勵模型（RMs），從而生成不對齊的策略。爲了解決這一問題，需要一種利用因果理解來訓練 RMs 的新方法，以便對因果質量屬性敏感，並對
Mistral 公司近日發佈了其全新的 Agents API，這是一個專爲開發者設計的框架，旨在簡化 AI 代理的創建，代理可以執行多種任務，例如運行 Python 代碼、生成圖像以及進行檢索增強生成（RAG）。這一 API 的推出，旨在爲大型語言模型（LLMs）提供一個統一的環境，使其能夠與多個工具和數據源以結構化且持久的方式進行交互。Agents API 建立在 Mistral 的語言模型基礎上，集成了多個內置連接器。這些連接器使代理能夠在受控環境中運行 Python 代碼、通過專用模型生成圖像、訪問實時網絡搜索，並利
網絡安全研究人員發出警告，一種名爲“Slopsquatting”的新型軟件供應鏈攻擊正浮出水面。該攻擊利用生成式 AI（如 LLMs）在代碼編寫時可能產生的“包幻覺”——即推薦不存在的軟件包名稱——的漏洞。攻擊者可以搶先註冊這些虛構的名稱，並植入惡意代碼。圖源備註:圖片由AI生成，圖片授權服務商Midjourney研究團隊發現，AI 虛構的軟件包名稱往往具有高度可信性和重複性，約38% 的幻覺包名與真實包名相似，僅13% 是簡單拼寫錯誤，這使得開發者在不加驗證的情況下更容易直接採用。通過對
一個名爲OpenR的創新開源框架近日問世，旨在解決大型語言模型（LLMs）在複雜推理任務中的短板。這一由倫敦大學學院、利物浦大學、上海交通大學、香港科技大學(廣州)和西湖大學研究人員聯合開發的框架，通過結合測試時計算、強化學習和過程監督，爲提升LLMs的推理能力開闢了新途徑。儘管LLMs在語言生成方面取得了顯著進展，但在處理數學、編程和科學問題等複雜任務時仍面臨挑戰。OpenR的出現正是爲了彌補這一差距，將LLMs的能力從簡單的文本生成拓展到更高級的推理領域。OpenR的設
大型語言模型（LLMs）因出色的自然語言處理能力而聞名，但在實踐中，它們的推理階段面臨高計算成本和內存佔用的挑戰。爲了提高LLMs效率，研究人員引入了一項名爲 Q-Sparse 的技術。Q-Sparse 方法通過在激活中應用 top-K 稀疏化和直通估計器，實現了完全稀疏激活的狀態壓縮，顯著提升推理效率。研究發現，Q-Sparse 能在保持結果與 baseline LLMs相當的條件下，提高推理效率。這種方法適用於全精度和 1 位（如 BitNet b1.58）LLMs。 稀疏激活通過減少矩陣乘法和輸入/輸出傳輸量來提高效率。Q-Sparse 在每個線性投影中實現全激活稀疏化，通過 top-K 稀疏化函數實現與反向傳播中梯度計算的直通估計器相結合，進一步提高了激活稀疏性。採用平方 ReLU 函數提高激活稀疏性。 實驗結果揭示，隨着模型大小和稀疏比率的增加，稀疏激活模型的性能提高，這也適用於從頭開始訓練、已有的 LLMs 繼續訓練和微調。Q-Sparse 還被應用於包括 BitNet b1.58 和混合專家（MoE）在內的 LLMs，並探索兼容批量模式的優化以增加訓練和推理的靈活性。