BioErrorLog Tech Blog

試行錯誤の記録

2024-05-01から1ヶ月間の記事一覧

深層学習と集団的知性 | 論文: Collective intelligence for deep learning: A survey of recent developments

深層学習と集団的知性の関係についての論文"Collective intelligence for deep learning: A survey of recent developments" の論文要約メモです。 はじめに Collective intelligence for deep learning: A survey of recent developments 概要 深層学習の歴…

"周辺確率"という名前の由来

周辺確率(marginal probability)という名前の由来はどこから来ているのか? はじめに "周辺確率"という名前の由来 おわりに 参考 はじめに 周辺確率という名前の由来は? 周辺確率の"周辺"ってどういう意味? 知らなかったので備忘録です。 "周辺確率"という…

GPT-2を理解する | 論文メモ: Language Models are Unsupervised Multitask Learners

GPT-2の論文"Language Models are Unsupervised Multitask Learners" の論文要約メモです。 はじめに Language Models are Unsupervised Multitask Learners 概要 手法 学習データセットWebTextの作成 BPE: Byte Pair Encoding モデルアーキテクチャ 結果 言…