プロンプトを巡る考察 創発能力の出現: モデルのパラメータ数が10 Billionを超えると出現する
Category: AI技術情報
AI関連の技術情報です
GPT
pre-trainingで作成したモデルのパラメータをfine tuningするために、各タスクの入力はデリミッタでつながった1つのシーケンスで表現したのが斬新なアイデア。
AI関連の技術情報です
プロンプトを巡る考察 創発能力の出現: モデルのパラメータ数が10 Billionを超えると出現する
pre-trainingで作成したモデルのパラメータをfine tuningするために、各タスクの入力はデリミッタでつながった1つのシーケンスで表現したのが斬新なアイデア。