• 基金會模型

    編輯
    本詞條由“匿名用戶” 建檔。

    基金會模型

    編輯

    基金會模型是一個大型的人工智能模型,在大規模的無標簽數據上進行訓練(通常是通過自我監督學習),形成一個可以適應廣泛的下游任務的模型。自2018年推出以來,基礎模型是人工智能系統構建方式的重大變革的背后。基礎模型的早期例子是大型預訓練的語言模型,包括BERT和GPT-3。利用同樣的想法,使用其他種類的標記序列的特定領域模型,如醫療代碼,也已經建立。隨后,幾個多模態基礎模型已經產生,包括DALL-E、Flamingo和Florence。斯坦福大學以人為本的人工智能研究所的基礎模型研究中心(CRFM)普及了這個術語。

    基金會模型的定義

    編輯

    斯坦福大學以人為本的人工智能研究所的基礎模型研究中心(CRFM)創造了基礎模型這個術語,指的是任何在廣泛的數據上訓練出來的模型(一般使用規模化的自我監督),可以適應(例如,微調)廣泛的下游任務。斯坦福大學的研究小組認為,這本身并不是一項新技術,因為它是基于深度神經網絡和自我監督學習的,但它在過去幾年中的發展規模,以及一個模型可用于許多不同目的的潛力,需要一個新術語。基礎模型是一種建立人工智能系統的范式,在這種范式中,一個在大量無標簽數據上訓練的模型可以適應許多應用。基礎模型被設計為通過對廣泛的數據進行規模化的預訓練,以適應(例如,微調)各種下游的認知任務。基礎模型的關鍵特征涌現和同質化。因為訓練數據不是由人類標記的,所以模型是出現的,而不是被明確編碼的。沒有預料到的屬性會出現。

    人工智能模型

    例如,一個在大型語言數據集上訓練的模型可能會學習生成自己的故事,或者做算術,而不需要明確的編程來做。同質化意味著同樣的方法被用于許多領域,這允許強大的進步,但也有可能出現單點故障。機會和風險2021年的一份arXiv報告列出了基礎模型在語言、視覺、機器人、推理和人類互動方面的能力,技術原理,如模型架構、訓練程序、數據、系統、安全、評估和理論,它們的應用。

    內容由匿名用戶提供,本內容不代表www.gelinmeiz.com立場,內容投訴舉報請聯系www.gelinmeiz.com客服。如若轉載,請注明出處:http://www.gelinmeiz.com/175655/

    (4)
    詞條目錄
    1. 基金會模型
    2. 基金會模型的定義

    輕觸這里

    關閉目錄

    目錄
    91麻精品国产91久久久久