近期小樣本學習研究進展報告
引言
小樣本學習是機器學習領域中一個日益重要的研究方向,它旨在解決當只有極少量標註數據可用時如何訓練出高性能模型的問題。在現實世界的諸多應用場景中,獲取大規模標註數據往往面臨著成本高昂、耗時漫長或涉及隱私等諸多限制 1。傳統的機器學習方法在數據量不足的情況下通常難以有效泛化 1。因此,研究如何在少量樣本條件下進行有效學習,對於推動人工智能在更廣泛的實際問題中落地具有關鍵意義。本報告旨在概述過去一年在頂級人工智能和機器學習會議(如 NeurIPS、ICML、CVPR、ICLR、ECCV)上發表的關於小樣本學習的最新進展 [User Query12。報告將重點關注元學習、度量學習、預訓練模型、生成模型等關鍵技術在小樣本學習中的最新發展,以及小樣本學習在計算機視覺、自然語言處理等領域的應用。此外,報告還將探討當前研究面臨的主要挑戰和未來的研究方向。
小樣本學習方法的主要進展
- 元學習:新的方法和改進
元學習是小樣本學習領域的核心策略之一,其目標是使模型具備“學會學習”的能力,即從一系列不同的任務中學習經驗,從而能夠快速適應新的、只有少量標註樣本的任務 1。元學習通過在大量的相關任務上進行訓練(元訓練階段),使得模型能夠學習到通用的知識或學習策略,這些知識或策略可以幫助模型在遇到新的、只有少量樣本的任務時(元測試階段)快速進行適應和泛化 4。近期研究表明,元學習仍然是小樣本學習領域的主流範式,並且不斷湧現出新的方法和改進。
MetaFormer 是一種新穎的元學習框架,它完全基於自注意力機制,並擴展了視覺Transformer(ViT)的能力,使其不僅能夠建模圖像塊之間的關係,還能同時學習樣本和任務之間的關係,從而顯著提升了小樣本圖像分類的性能 23。MetaFormer 的核心在於提出了兩種新的注意力機制:掩碼樣本注意力(Masked Sample Attention, MSA)和塊粒度任務注意力(Patch-grained Task Attention, PTA)24。MSA 通過高效地將樣本關係嵌入網絡中,並利用自適應掩碼增強任務特定的特徵一致性,同時靈活地切換不同粒度的注意力。PTA 則旨在維護一個動態的知識池,整合來自歷史任務的各種模式,從而有效捕獲任務之間的關係並過濾掉背景噪聲 24。實驗結果表明,MetaFormer 能夠與現有的預訓練ViT(包括CLIP)無縫集成,並在各種領域內和跨領域的少樣本學習基準數據集上取得了顯著的性能提升,相較於現有最優方法,性能提升高達 8.77% 和 6.25% 23。MetaFormer 的出現表明,利用注意力機制和Transformer架構的優勢,結合元學習的思想,是當前小樣本學習研究的一個重要趨勢。
除了 MetaFormer 之外,模型無關的元學習(Model-Agnostic Meta-Learning, MAML)和原型網絡(Prototypical Networks)等經典元學習方法在近期研究中仍然具有重要意義 6。MAML 的目標是學習一個良好的模型參數初始化,使得模型僅需少量梯度更新就能快速適應新任務 7。原型網絡則學習一個特徵空間,其中每個類別都由一個原型表示,新樣本通過計算其與各類原型之間的距離來進行分類 7。這些方法為小樣本學習提供了堅實的基礎,並持續被研究者們探索和改進。 - 基於度量學習的小樣本學習技術
度量學習是另一種重要的小樣本學習策略,其核心思想是學習一個合適的距離或相似性度量函數,使得在特徵空間中,屬於同一類別的樣本彼此靠近,而屬於不同類別的樣本彼此遠離,從而提高小樣本條件下的分類性能 1。通過優化這個度量函數,模型能夠更好地理解數據點之間的關係,從而在只有少量樣本的情況下做出準確的預測 1。
注意力特徵正則化(Attentive Feature Regularization, AFR) 是一種近期提出的基於度量學習的小樣本學習方法,旨在通過使用語義信息選擇相關的類別進行正則化,並在實例和通道層面引入注意力機制,從而增強特徵的代表性和可區分性 31。傳統的基於流形正則化的小樣本學習方法通過混合來自不同類別的樣本來提升性能,但這種混合操作可能會由於線性插值和忽略特定通道的重要性而削弱特徵表示 31。AFR 通過計算語義標籤不同類別之間的關係來選擇用於正則化的相關特徵,並在實例層面利用注意力機制自適應地利用相關基類別的協作組件,從而提升新穎類別的特徵表示。在通道層面,AFR 通過計算通道的重要性權重來強調區分模式的關鍵特徵通道 31。實驗結果表明,AFR 能夠有效地提高小樣本學習的識別準確率,尤其是在單樣本學習(1-shot)的場景下,且無需重新訓練特徵提取器 31。
基於實例的最大間隔(Instance-based Max-margin, IbM2) 是另一種為實際小樣本識別提出的度量學習方法 16。IbM2 提出了一種新的實用小樣本學習(Practical Few-Shot Learning, pFSL)設置,該設置基於無監督預訓練模型,能夠同時識別許多新穎類別。相較於傳統的小樣本學習,pFSL 在公式化、評估和實際應用方面都更為簡單有效 16。為了應對訓練樣本稀疏的問題,IbM2 提出了一種基於實例的最大間隔方法,該方法不僅適用於新的 pFSL 設置,也適用於傳統的 FSL 場景。IbM2 基於高斯環定理,將應用於實例的隨機噪聲轉化為實現多類別 pFSL(或傳統 FSL)識別任務中最大間隔的機制 16。實驗證明,IbM2 在各種自監督預訓練方法和不同的少樣本或多樣本 FSL 任務中幾乎總是能夠帶來性能的提升 16。 - 利用預訓練模型進行小樣本學習的方法
近年來,大規模預訓練模型,特別是視覺-語言模型(Vision-Language Models, VLMs)和語言模型(Language Models, LLMs),由於其強大的特徵表示能力和知識遷移能力,在小樣本學習領域得到了廣泛應用 1。這些模型通過在海量數據上進行預訓練,學習到了豐富的通用知識,可以作為小樣本學習的強大先驗知識來源 1。
低秩自適應(Low-Rank Adaptation, LoRA) 是一種高效地將大型預訓練模型適配到特定任務的參數高效微調(Parameter-Efficient Fine-Tuning, PEFT)技術 44。LoRA 通過使用低秩矩陣來更新模型參數,從而在微調過程中顯著減少了計算和內存開銷 44。在小樣本學習中,將 LoRA 應用於視覺-語言模型(VLMs)展現出了巨大的潛力 15。研究表明,相較於基於提示(prompt)和適配器(adapter)的方法,LoRA 在多個數據集上取得了顯著的性能提升,同時還降低了訓練時間,並在不同任務中保持了超參數的一致性 15。互補子空間低秩自適應(Complementary Subspace Low-Rank Adaptation, Comp-LoRA) 是一種針對小樣本 VLM 微調中災難性遺忘問題的改進方法。Comp-LoRA 通過在互補子空間中優化低秩矩陣,從而在學習新穎的少量樣本信息的同時,保留了 VLM 預訓練所獲得的通用視覺-語言對齊能力 47。
提示學習(Prompt Learning)和提示調優(Prompt Tuning) 是利用預訓練模型進行小樣本學習的另一種重要方法,尤其是在自然語言處理領域 4。這種方法通過設計特定的自然語言提示,引導預訓練的語言模型(特別是大型語言模型,LLMs)在少量甚至零樣本的情況下完成下游任務,而無需進行大規模的參數微調 40。例如,通過在輸入文本中加入任務描述和幾個示例,可以有效地引導 LLM 完成文本分類、問答等任務 40。Q-tuning 是一種用於終身小樣本語言學習的提示調優技術,它通過維護一個提示隊列,並在學習新任務時添加任務特定的提示,從而更好地遷移舊任務的知識 41。 - 生成模型在小樣本學習中的應用
生成模型,如擴散模型(Diffusion Models)和特徵生成器(Feature Generators),在小樣本學習中也發揮著越來越重要的作用,它們可以通過生成額外的合成數據來擴充有限的訓練集,從而提升模型的性能 4。
擴散模型 近年來在圖像和視頻生成方面取得了顯著的成功,並且也被應用於小樣本學習 55。小樣本擴散模型通過使用有限的目標樣本對在大量源數據上預訓練的擴散模型進行微調,從而生成符合特定用戶需求的樣本 55。理論分析表明,小樣本擴散模型能夠獲得更好的逼近誤差界,並且可以直接獲得近似的極小值,而無需複雜的優化過程 55。實驗結果也驗證了其在圖像和視頻生成等領域的有效性 55。
特徵生成器 是一種通過合成新的數據點來增強有限數據集的技術 56。特別是,一些研究提出了利用類別級別的文本描述來生成視覺特徵的特徵生成器,從而解決由於每個類別圖像稀疏而導致的嵌入不準確問題 56。這些特徵生成器通常通過結合分類器損失、判別器損失和生成特徵與真實類別嵌入之間的距離損失進行訓練,以確保生成準確的同類別特徵並增強整體特徵表示 56。實驗結果表明,這種方法能夠顯著提高小樣本學習的準確率 56。
小樣本學習在計算機視覺、自然語言處理等領域的最新應用
- 計算機視覺
小樣本學習在計算機視覺領域得到了廣泛應用,特別是在數據稀疏或獲取成本高昂的場景中 1。例如,在醫學影像領域,由於標註成本高昂和數據隱私等問題,小樣本學習被用於全切片圖像分類(Whole Slide Image Classification, WSI)53,罕見疾病的診斷 1,以及皮膚癌的檢測 11。在物體識別方面,小樣本學習使得模型能夠在只有少量示例的情況下識別新的物體類別 1。此外,小樣本學習也被應用於異常檢測 1 和第一人稱視角動作識別 42。近期的一些研究利用視覺-語言模型進行小樣本學習的適配,如 LoRA 15,以及基於實例的最大間隔方法 IbM2 用於小樣本識別 16。利用文本描述生成視覺特徵的方法也在小樣本學習中得到應用 56。 - 自然語言處理
小樣本學習在自然語言處理領域也展現出巨大的潛力,尤其是在缺乏大規模標註數據的場景下 1。例如,小樣本學習被用於情感分析 1、問答系統 (MinPrompt 7)、對話質量評估 41、低資源語言處理 1 以及醫學自然語言處理 1。利用大型語言模型進行提示學習是當前 NLP 小樣本學習的一個主要趨勢 40。例如,Q-tuning 被提出用於終身小樣本語言學習 41。 - 其他領域
小樣本學習在機器人領域也具有應用潛力,可以幫助機器人通過有限的演示學習新的任務和識別物體 3。
小樣本學習相關的開源代碼庫和工具
近期發佈了多個與小樣本學習相關的開源代碼庫和工具,這些資源極大地促進了該領域的研究和應用 28。例如,IbM2 的官方實現代碼已在 GitHub 上開源 38。CLIP-LoRA 提供了一個簡便的方法來將低秩自適應應用於 CLIP 模型以進行小樣本學習任務,其代碼也已開源 52。用於語言模型的小樣本上下文學習代碼庫也在 GitHub 上提供 50。EasyFSL 是一個易於使用且可靠的小樣本學習代碼庫 73。Papers with Code 平臺也跟蹤了小樣本學習任務和相關的代碼資源 28。這些開源工具和庫的出現,使得研究人員和開發者能夠更便捷地進行小樣本學習的實驗和應用開發。
小樣本學習中遇到的主要挑戰和未來的研究方向
儘管小樣本學習取得了顯著的進展,但仍然面臨著一些主要的挑戰 3。其中包括模型在不同任務和領域之間的泛化能力、在數據量極小的情況下如何避免過擬合、如何處理非獨立同分布(non-IID)的數據、如何彌合已見類別和未見類別之間的語義鴻溝,以及如何設計更有效的特徵提取和適應技術。此外,在將預訓練模型應用於小樣本學習時,如何避免災難性遺忘也是一個重要的挑戰 47。
未來的研究方向可能包括將元學習與其他技術(如強化學習、持續學習和圖神經網絡)相結合 7,探索零樣本學習的進展以及如何有效地利用多模態數據 4。提高小樣本學習模型的可解釋性和可解釋性也將是未來研究的一個重要方面 75。此外,開發更魯棒和更通用的評估基準和數據集對於推動該領域的發展至關重要 77。
新的小樣本學習數據集或基準測試
近期出現了一些新的小樣本學習數據集和基準測試,旨在推動該領域的發展 10。Meta-Album 是一個大規模、多領域的元數據集,專門為跨領域的小樣本學習研究而設計 78。FS-Mol 是一個用於藥物發現的小樣本學習分子數據集 80。Danish Fungi 2020 數據集被認為是一個具有挑戰性的細粒度小樣本分類基準,它包含大量類別 81。這些新的數據集和基準測試的出現,為更全面地評估小樣本學習算法的泛化能力提供了更現實的場景。
將小樣本學習應用於實際問題的案例研究或應用
最近的案例研究和應用表明,小樣本學習在解決實際問題方面具有顯著的潛力 1。例如,在醫療診斷領域,小樣本學習被用於罕見疾病的識別和癌症的早期檢測 1。在機器人領域,小樣本學習使得機器人能夠通過少量的演示學習新的操作技能 3。小樣本學習也被應用於欺詐檢測 30 和自然語言處理任務,如低資源語言的翻譯和情感分析 1。Facebook AI Research 將小樣本學習應用於改進面部識別系統 9,斯坦福大學的研究人員則利用小樣本學習加速藥物發現過程 11。這些案例研究表明,小樣本學習正在成為解決數據稀疏場景下實際問題的有效工具。
近期小樣本學習研究的主要進展總結
近期的小樣本學習研究在方法、應用和挑戰方面都取得了顯著的進展。在方法方面,元學習仍然是核心範式,並且與Transformer等先進架構相結合,如 MetaFormer 的出現。度量學習通過引入注意力機制和考慮更實用的學習設置(如 IbM2)得到了進一步發展。預訓練模型,尤其是 VLMs 和 LLMs,通過參數高效微調(如 LoRA)和提示學習等技術,在小樣本學習中發揮著越來越重要的作用。生成模型,包括擴散模型和特徵生成器,被有效地用於數據增強,從而提升模型性能。
在應用方面,小樣本學習在計算機視覺和自然語言處理領域都取得了重要的突破,並在醫療診斷、機器人、欺詐檢測等多個實際問題中展現出巨大的潛力。
在挑戰方面,模型泛化能力、過擬合問題以及如何有效利用有限的數據仍然是研究的重點。未來的研究方向將可能集中在開發更魯棒、更具可解釋性的模型,探索新的學習範式和數據模態,並構建更具挑戰性的評估基準。
總而言之,小樣本學習作為一個充滿活力的研究領域,正不斷克服數據稀疏帶來的挑戰,並在各種實際應用中展現出強大的生命力。隨著研究的不斷深入,我們有理由相信,小樣本學習將在未來的人工智能發展中扮演越來越重要的角色。
有價值的表格
- 近期小樣本學習方法概要
| 方法名稱 | 核心技術 | 主要思想/方法 | 會議/發表 (如適用) | Snippet ID(s) |
| MetaFormer | 元學習/自注意力 | 擴展 ViT,同時建模樣本和任務關係,提出 MSA 和 PTA 注意力機制 | ICML 2024 | 23 |
| AFR | 度量學習/注意力 | 利用語義信息選擇相關類別進行正則化,在實例和通道層面引入注意力機制 | AAAI 2024 | 31 |
| IbM2 | 度量學習/最大間隔 | 提出 pFSL 設置,基於無監督預訓練模型識別多類別,利用高斯環定理實現實例級最大間隔 | CVPR 2024 | 16 |
| LoRA | 預訓練模型/低秩自適應 | 使用低秩矩陣高效微調大型預訓練模型(如 VLMs),減少計算和內存開銷 | CVPRW 2024 | 15 |
| Comp-LoRA | 預訓練模型/低秩自適應 | 在 LoRA 的基礎上,通過在互補子空間中優化低秩矩陣,解決小樣本 VLM 微調中的災難性遺忘問題 | - | 47 |
| 提示學習/調優 | 預訓練模型/語言模型 | 通過設計自然語言提示,引導預訓練的語言模型在少量甚至零樣本情況下完成任務 | ACL 2024 等 | 40 |
| 擴散模型 | 生成模型 | 通過微調預訓練的擴散模型,利用有限的目標樣本生成符合特定需求的樣本 | NeurIPS 2024 | 55 |
| 特徵生成器 | 生成模型 | 通過合成新的數據點(特別是利用類別級別的文本描述生成視覺特徵),增強有限數據集,提高小樣本學習性能 | ACCV 2024 | 56 |
- 近期小樣本學習應用領域
| 領域 | 具體應用 | 關鍵技術/方法 | Snippet ID(s) |
| 計算機視覺 | 醫學影像分析(WSI 分類,罕見疾病診斷,皮膚癌檢測) | 元學習,度量學習,預訓練模型微調 | 1 |
| 計算機視覺 | 物體識別 | 元學習,度量學習,預訓練模型微調,特徵生成 | 1 |
| 計算機視覺 | 異常檢測 | 度量學習,預訓練模型微調 | 1 |
| 計算機視覺 | 第一人稱視角動作識別 | 預訓練模型微調,多模態學習 | 42 |
| 自然語言處理 | 情感分析 | 提示學習,預訓練語言模型微調 | 1 |
| 自然語言處理 | 問答系統 | 提示學習,預訓練語言模型 | 7 |
| 自然語言處理 | 低資源語言處理 | 提示學習,預訓練語言模型微調 | 1 |
| 自然語言處理 | 醫學自然語言處理 | 預訓練語言模型微調 | 1 |
| 機器人 | 物體識別與操作 | 元學習,強化學習 | 3 |
| 金融 | 欺詐檢測 | 小樣本學習,異常檢測 | 30 |
- 小樣本學習的主要挑戰與未來方向
| 挑戰 | 描述 | 未來方向 | Snippet ID(s) |
| 跨任務/領域泛化 | 模型在與訓練任務差異較大的新任務或領域上的性能下降 | 研究更通用的元學習方法,探索領域自適應技術 | 3 |
| 過擬合 | 在少量樣本上訓練的模型容易記住訓練數據,難以在新數據上泛化 | 引入更有效的正則化方法,探索數據增強技術 | 3 |
| 非獨立同分布數據 | 實際應用中數據分佈可能隨時間或環境變化,影響模型性能 | 研究魯棒的學習方法,探索持續學習技術 | 7 |
| 語義鴻溝 | 模型難以理解新類別與已知類別之間的語義關係 | 結合語義信息進行學習,利用知識圖譜等外部知識 | 22 |
| 特徵提取與適應 | 如何從預訓練模型中提取有效特徵並適應新任務 | 研究更有效的特徵選擇和微調策略,探索參數高效微調方法 | 9 |
| 災難性遺忘 | 在適應新任務時,模型可能會遺忘之前學習到的知識 | 研究持續學習和增量學習方法 | 47 |
| 模型可解釋性 | 小樣本學習模型通常較為複雜,難以理解其決策過程 | 提高模型透明度和可解釋性的研究 | 8 |
| 評估基準 | 缺乏能夠真實反映實際應用場景的、具有挑戰性的評估基準 | 開發更全面、更具挑戰性的數據集和評估協議 | 77 |
引用的著作
- Recent Advancement for Few-Shot Learning, 訪問時間為 三月 23, 2025, https://www.pioneerpublisher.com/jpeps/article/download/580/519
- Few-shot learning based on deep learning: A survey, 訪問時間為 三月 23, 2025, https://www.aimspress.com/article/id/658235b8ba35de05607ed3c6
- Few-Shot Learning Explained: Transforming AI With Minimal Data - Grammarly, 訪問時間為 三月 23, 2025, https://www.grammarly.com/blog/ai/what-is-few-shot-learning/
- What is Few-Shot Learning? Strategies and Examples - Roboflow Blog, 訪問時間為 三月 23, 2025, https://blog.roboflow.com/few-shot-learning/
- Few Shot Learning in Computer Vision: Approaches & Uses - Encord, 訪問時間為 三月 23, 2025, https://encord.com/blog/few-shot-learning-in-computer-vision/
- Few-Shot Learning in Computer Vision: Practical Applications and Techniques, 訪問時間為 三月 23, 2025, https://thesciencebrigade.com/hcip/article/view/332
- Few-Shot Learning: Learning with Limited Data | by Hassaan Idrees - Medium, 訪問時間為 三月 23, 2025, https://medium.com/@hassaanidrees7/few-shot-learning-learning-with-limited-data-9916165f5a40
- What is Few-Shot Learning? Unlocking Insights with Limited Data - DataCamp, 訪問時間為 三月 23, 2025, https://www.datacamp.com/blog/what-is-few-shot-learning
- What is Few-Shot Learning? - Lyzr AI, 訪問時間為 三月 23, 2025, https://www.lyzr.ai/glossaries/few-shot-learning/
- Few-shot learning: everything you need to know - CUDO Compute, 訪問時間為 三月 23, 2025, https://www.cudocompute.com/blog/few-shot-learning-everything-you-need-to-know
- Few-Shot Learning Case Studies - BytePlus, 訪問時間為 三月 23, 2025, https://www.byteplus.com/en/topic/400655
- NeurIPS 2024 Papers, 訪問時間為 三月 23, 2025, https://nips.cc/virtual/2024/papers.html
- ICML 2024 Conference | OpenReview, 訪問時間為 三月 23, 2025, https://openreview.net/group?id=ICML.cc/2024/Conference
- ICML 2024 Papers, 訪問時間為 三月 23, 2025, https://icml.cc/virtual/2024/papers.html
- Low-Rank Few-Shot Adaptation of Vision-Language Models, 訪問時間為 三月 23, 2025, https://openaccess.thecvf.com/content/CVPR2024W/PV/html/Zanella_Low-Rank_Few-Shot_Adaptation_of_Vision-Language_Models_CVPRW_2024_paper.html
- CVPR 2024 Open Access Repository, 訪問時間為 三月 23, 2025, https://openaccess.thecvf.com/content/CVPR2024/html/Fu_Instance-based_Max-margin_for_Practical_Few-shot_Recognition_CVPR_2024_paper.html
- Discriminative Sample-Guided and Parameter ... - CVF Open Access, 訪問時間為 三月 23, 2025, https://openaccess.thecvf.com/content/CVPR2024/html/Perera_Discriminative_Sample-Guided_and_Parameter-Efficient_Feature_Space_Adaptation_for_Cross-Domain_Few-Shot_CVPR_2024_paper.html
- CVPR 2024 Open Access Repository, 訪問時間為 三月 23, 2025, https://openaccess.thecvf.com/content/CVPR2024/html/Zou_Flatten_Long-Range_Loss_Landscapes_for_Cross-Domain_Few-Shot_Learning_CVPR_2024_paper.html
- ICLR 2024 Papers, 訪問時間為 三月 23, 2025, https://iclr.cc/virtual/2024/papers.html
- ICLR 2024 Neural Fine-Tuning Search for Few-Shot Learning Oral, 訪問時間為 三月 23, 2025, https://iclr.cc/virtual/2024/oral/19760
- ECCV 2024 Papers, 訪問時間為 三月 23, 2025, https://eccv.ecva.net/virtual/2024/papers.html
- A Comprehensive Survey of Few-shot Learning: Evolution, Applications, Challenges, and Opportunities - SciSpace, 訪問時間為 三月 23, 2025, https://scispace.com/papers/a-comprehensive-survey-of-few-shot-learning-evolution-2nzpufgr
- One Meta-tuned Transformer is What You Need for Few-shot Learning - OpenReview, 訪問時間為 三月 23, 2025, https://openreview.net/pdf/06e74355729cbbba05e5627f2be61d331e35a2cb.pdf
- One Meta-tuned Transformer is What You Need for Few-shot Learning, 訪問時間為 三月 23, 2025, https://proceedings.mlr.press/v235/yang24ah.html
- Few-shot learning based on deep learning: A survey - AIMS Press, 訪問時間為 三月 23, 2025, https://www.aimspress.com/article/doi/10.3934/mbe.2024029?viewType=HTML
- XDNet: A Few-Shot Meta-Learning Approach for Cross-Domain Visual Inspection - CVF Open Access - The Computer Vision Foundation, 訪問時間為 三月 23, 2025, https://openaccess.thecvf.com/content/CVPR2023W/VISION/papers/Lee_XDNet_A_Few-Shot_Meta-Learning_Approach_for_Cross-Domain_Visual_Inspection_CVPRW_2023_paper.pdf
- Few-shot Learning Explained & Step-by-step How To Python Tutorial - Spot Intelligence, 訪問時間為 三月 23, 2025, https://spotintelligence.com/2023/06/29/few-shot-learning/
- Few-Shot Learning | Papers With Code, 訪問時間為 三月 23, 2025, https://paperswithcode.com/task/few-shot-learning
- Attentive Pooling Network for Few-Shot Learning - JMIS(Journal of Multimedia Information System), 訪問時間為 三月 23, 2025, https://www.jmis.org/archive/view_article?pid=jmis-9-4-269
- Few-shot classification case studies: revolutionizing machine learning with limited data - BytePlus, 訪問時間為 三月 23, 2025, https://www.byteplus.com/en/topic/400710
- Boosting Few-Shot Learning via Attentive Feature Regularization, 訪問時間為 三月 23, 2025, https://ojs.aaai.org/index.php/AAAI/article/view/28614/29193
- Boosting Few-Shot Learning via Attentive Feature Regularization - arXiv, 訪問時間為 三月 23, 2025, https://arxiv.org/html/2403.17025v1
- [2403.17025] Boosting Few-Shot Learning via Attentive Feature Regularization - arXiv, 訪問時間為 三月 23, 2025, https://arxiv.org/abs/2403.17025
- Boosting Few-Shot Learning via Attentive Feature Regularization - ResearchGate, 訪問時間為 三月 23, 2025, https://www.researchgate.net/publication/379280333_Boosting_Few-Shot_Learning_via_Attentive_Feature_Regularization
- Instance-based Max-margin for Practical Few-shot Recognition - CVF Open Access, 訪問時間為 三月 23, 2025, https://openaccess.thecvf.com/content/CVPR2024/papers/Fu_Instance-based_Max-margin_for_Practical_Few-shot_Recognition_CVPR_2024_paper.pdf
- [2305.17368] Instance-based Max-margin for Practical Few-shot Recognition - arXiv, 訪問時間為 三月 23, 2025, https://arxiv.org/abs/2305.17368
- Instance-based Max-margin for Practical Few-shot Recognition - IEEE Computer Society, 訪問時間為 三月 23, 2025, https://www.computer.org/csdl/proceedings-article/cvpr/2024/530000ad674/20hTzGdojDO
- heekhero/IbM2: This repo is the official implementation of ... - GitHub, 訪問時間為 三月 23, 2025, https://github.com/heekhero/IbM2
- CVPR Poster Instance-based Max-margin for Practical Few-shot Recognition, 訪問時間為 三月 23, 2025, https://cvpr.thecvf.com/virtual/2024/poster/29970
- NeurIPS Poster The Representation Landscape of Few-Shot ..., 訪問時間為 三月 23, 2025, https://neurips.cc/virtual/2024/poster/93666
- Few-shot learning - Amazon Science, 訪問時間為 三月 23, 2025, https://www.amazon.science/tag/few-shot-learning
- Multimodal Cross-Domain Few-Shot Learning for Egocentric Action Recognition - arXiv, 訪問時間為 三月 23, 2025, https://arxiv.org/abs/2405.19917
- [2301.02419] Exploring Efficient Few-shot Adaptation for Vision Transformers - arXiv, 訪問時間為 三月 23, 2025, https://arxiv.org/abs/2301.02419
- NORA: NESTED LOW-RANK ADAPTATION FOR EFFI- CIENT FINE-TUNING LARGE MODELS - OpenReview, 訪問時間為 三月 23, 2025, https://openreview.net/pdf/fbf030c71d4228a1a08a5f0b9eb589a08bf974ae.pdf
- Low-Rank Few-Shot Adaptation of Vision-Language Models | AI Research Paper Details, 訪問時間為 三月 23, 2025, https://www.aimodels.fyi/papers/arxiv/low-rank-few-shot-adaptation-vision-language
- [PDF] Low-Rank Few-Shot Adaptation of Vision-Language Models | Semantic Scholar, 訪問時間為 三月 23, 2025, https://www.semanticscholar.org/paper/Low-Rank-Few-Shot-Adaptation-of-Vision-Language-Zanella-Ayed/42012c4e9dc8d787adb101548cefc42b8a4507d9
- Complementary Subspace Low-Rank Adaptation of Vision-Language Models for Few-Shot Classification - ResearchGate, 訪問時間為 三月 23, 2025, https://www.researchgate.net/publication/388422577_Complementary_Subspace_Low-Rank_Adaptation_of_Vision-Language_Models_for_Few-Shot_Classification
- Low-Rank Few-Shot Adaptation of Vision-Language Models - IEEE Computer Society, 訪問時間為 三月 23, 2025, https://www.computer.org/csdl/proceedings-article/cvprw/2024/654700b593/20A2rXUClFe
- Few-shot Learning in Natural Language Processing - NTT Data, 訪問時間為 三月 23, 2025, https://www.nttdata.com/global/en/-/media/nttdataglobal/1_files/services/data-and-intelligence/few-shot_learning_in_natural_language_processing.pdf?rev=37e2bca167ad474485aa5de0978851f3
- Few-shot Learning With Language Models - GitHub, 訪問時間為 三月 23, 2025, https://github.com/tonyzhaozh/few-shot-learning
- Exploring Zero-Shot and Few-Shot Learning in Generative AI - [x]cube LABS, 訪問時間為 三月 23, 2025, https://www.xcubelabs.com/blog/exploring-zero-shot-and-few-shot-learning-in-generative-ai/
- MaxZanella/CLIP-LoRA: An easy way to apply LoRA to ... - GitHub, 訪問時間為 三月 23, 2025, https://github.com/MaxZanella/CLIP-LoRA
- NeurIPS Poster FAST: A Dual-tier Few-Shot Learning Paradigm for ..., 訪問時間為 三月 23, 2025, https://neurips.cc/virtual/2024/poster/96289
- LLM Learning Corner: Zero-Shot & Few-Shot Learning - Devolved AI, 訪問時間為 三月 23, 2025, https://www.devolvedai.com/posts/06-zero-shot-few-shot-learning
- NeurIPS Poster Few-Shot Diffusion Models Escape the Curse of ..., 訪問時間為 三月 23, 2025, https://neurips.cc/virtual/2024/poster/95694
- Feature Generator for Few-Shot Learning - CVF Open Access, 訪問時間為 三月 23, 2025, https://openaccess.thecvf.com/content/ACCV2024/papers/Kanagalingam_Feature_Generator_for_Few-Shot_Learning_ACCV_2024_paper.pdf
- [2409.14141] A Feature Generator for Few-Shot Learning - arXiv, 訪問時間為 三月 23, 2025, https://arxiv.org/abs/2409.14141
- A Feature Generator for Few-Shot Learning - arXiv, 訪問時間為 三月 23, 2025, https://arxiv.org/html/2409.14141
- A Feature Generator for Few-Shot Learning - ResearchGate, 訪問時間為 三月 23, 2025, https://www.researchgate.net/publication/384267222_A_Feature_Generator_for_Few-Shot_Learning
- [PDF] A Feature Generator for Few-Shot Learning - Semantic Scholar, 訪問時間為 三月 23, 2025, https://www.semanticscholar.org/paper/A-Feature-Generator-for-Few-Shot-Learning-Kanagalingam-Pathmanathan/c846e73707bc4db66bb436bc6cdb45f19088c249
- [ECCV 2024] Multimodal Cross-Domain Few-Shot Learning for ..., 訪問時間為 三月 23, 2025, https://www.youtube.com/watch?v=f4ZK66xI3LU
- Masashi Hatano, 訪問時間為 三月 23, 2025, https://masashi-hatano.github.io/
- milvus.io, 訪問時間為 三月 23, 2025, https://milvus.io/ai-quick-reference/how-can-fewshot-learning-be-applied-in-computer-vision#:~:text=A%20practical%20example%20of%20few,class%20from%20the%20limited%20examples.
- How can few-shot learning be applied in computer vision? - Milvus, 訪問時間為 三月 23, 2025, https://milvus.io/ai-quick-reference/how-can-fewshot-learning-be-applied-in-computer-vision
- Recent Advances in Few-Shot Learning | Restackio, 訪問時間為 三月 23, 2025, https://www.restack.io/p/few-shot-learning-answer-advances-applications-cat-ai
- Few-Shot Learning for Clinical Natural Language Processing Using Siamese Neural Networks: Algorithm Development and Validation Study, 訪問時間為 三月 23, 2025, https://pmc.ncbi.nlm.nih.gov/articles/PMC11041484/
- Learning to explain is a good biomedical few-shot learner | Bioinformatics | Oxford Academic, 訪問時間為 三月 23, 2025, https://academic.oup.com/bioinformatics/article/40/10/btae589/7808853
- What are the typical applications of few-shot learning? - Milvus, 訪問時間為 三月 23, 2025, https://milvus.io/ai-quick-reference/what-are-the-typical-applications-of-fewshot-learning
- Multimodal Cross-Domain Few-Shot Learning for Egocentric Action Recognition - arXiv, 訪問時間為 三月 23, 2025, https://arxiv.org/html/2405.19917v1
- Multimodal Cross-Domain Few-Shot Learning for Egocentric Action Recognition, 訪問時間為 三月 23, 2025, https://www.researchgate.net/publication/381005611_Multimodal_Cross-Domain_Few-Shot_Learning_for_Egocentric_Action_Recognition
- Multimodal Cross-Domain Few-Shot Learning for Egocentric Action Recognition, 訪問時間為 三月 23, 2025, https://www.ecva.net/papers/eccv_2024/papers_ECCV/papers/04830.pdf
- Everything you need to know about Few-Shot Learning | DigitalOcean, 訪問時間為 三月 23, 2025, https://www.digitalocean.com/community/tutorials/few-shot-learning
- EasyFSL: Easy and Reliable Code for Few-Shot Learning - Theodo Data & AI, 訪問時間為 三月 23, 2025, https://data-ai.theodo.com/en/technical-blog/easyfsl-code-few-shot-learning
- How can few-shot learning be used to identify new diseases in healthcare? - Milvus Blog, 訪問時間為 三月 23, 2025, https://blog.milvus.io/ai-quick-reference/how-can-fewshot-learning-be-used-to-identify-new-diseases-in-healthcare
- What are the challenges of using few-shot learning in real-world applications? - Milvus, 訪問時間為 三月 23, 2025, https://milvus.io/ai-quick-reference/what-are-the-challenges-of-using-fewshot-learning-in-realworld-applications
- [2402.01440] A Survey of Few-Shot Learning on Graphs: from Meta-Learning to Pre-Training and Prompt Learning - arXiv, 訪問時間為 三月 23, 2025, https://arxiv.org/abs/2402.01440
- A Survey of Few-Shot Learning for Biomedical Time Series | AI Research Paper Details, 訪問時間為 三月 23, 2025, https://www.aimodels.fyi/papers/arxiv/survey-few-shot-learning-biomedical-time-series
- Meta-Album: Multi-domain Meta-Dataset for Few-Shot Image Classification - NeurIPS, 訪問時間為 三月 23, 2025, https://proceedings.neurips.cc/paper_files/paper/2022/file/1585da86b5a3c4fb15520a2b3682051f-Paper-Datasets_and_Benchmarks.pdf
- Announcing Meta-Dataset: A Dataset of Datasets for Few-Shot Learning - Google Research, 訪問時間為 三月 23, 2025, https://research.google/blog/announcing-meta-dataset-a-dataset-of-datasets-for-few-shot-learning/
- FS-Mol: A Few-Shot Learning Dataset of Molecules, 訪問時間為 三月 23, 2025, https://datasets-benchmarks-proceedings.neurips.cc/paper/2021/hash/8d3bba7425e7c98c50f52ca1b52d3735-Abstract-round2.html
- Few-Shot Image Classification Benchmarks Are Too Far From Reality: Build Back Better With Semantic Task Sampling, 訪問時間為 三月 23, 2025, https://openaccess.thecvf.com/content/CVPR2022W/VDU/papers/Bennequin_Few-Shot_Image_Classification_Benchmarks_Are_Too_Far_From_Reality_Build_CVPRW_2022_paper.pdf