Category: AI技術情報

AI関連の技術情報です

大規模言語モデルの謎

プロンプトを巡る考察創発能力の出現：モデルのパラメータ数が10 Billionを超えると出現する

pre-trainingで作成したモデルのパラメータをfine tuningするために、各タスクの入力はデリミッタでつながった１つのシーケンスで表現したのが斬新なアイデア。

AIテクノロジーは、discriminativeモデルとgenerativeモデルに大きく分類される。生成AI …