Category: AI技術情報

AI関連の技術情報です

大規模言語モデルの謎

プロンプトを巡る考察 創発能力の出現: モデルのパラメータ数が10 Billionを超えると出現する

GPT

pre-trainingで作成したモデルのパラメータをfine tuningするために、各タスクの入力はデリミッタでつながった1つのシーケンスで表現したのが斬新なアイデア。

生成AIについて

AIテクノロジーは、discriminativeモデルとgenerativeモデルに大きく分類される。生成AI …

続きを読む