Genarative AI
画像を生成したチャットを削除すれば、対応するChatGPT Libraryの画像も削除されます。 はじめに ChatGPT Libraryの画像を削除する やり方 やってみる おわりに 参考 はじめに ChatGPTに"Library"というタブが最近追加されました。 ここには、ChatGPTで自分…
LLMのプロンプトに貼り付ける用に、指定した複数ファイル内容をディレクトリ構造情報を添えて連結するシェルコマンドを用意します。 はじめに LLM用に複数ファイル情報を連結するシェルコマンド やりたいこと コマンド実装 実行例 おわりに 参考 はじめに AI…
Go言語でMCPサーバーを実装する方法の備忘録です。 はじめに 前提: Go言語の公式MCP SDKはあるのか? MCPサーバーをGoで実装する 実装するMCPサーバー GoでのMCPサーバー実装 Toolの実装 Resourceの実装 Promptの実装 MCP InspectorでMCPサーバーをテスト実…
MCP CLIの使い方をまとめます。 はじめに MCP CLIの使い方 MCP CLIをインストールする MCP CLIの機能一覧 mcp runの使い方 mcp devの使い方 mcp installの使い方 おわりに 参考 はじめに MCP CLIはMCPサーバー開発を効率化するツールで、MCP SDKに内包されて…
MCPサーバーのブラウザベースのテストツール"MCP Inspector"の使い方の備忘録です。 はじめに MCP Inspectorの使い方 前準備: ミニマムなMCPサーバーを用意する MCP Inspectorを起動する MCP Inspectorを使う おわりに 参考 はじめに MCP Inspectorは、MCPが…
MCPを介して、LLMにマインスイーパーをプレーさせます。 はじめに MCPでマインスイーパーを遊ぶ 全体構成 マインスイーパーサーバーを起動する MCPサーバーをビルドする Claude DesktopとMCPサーバーを接続する Claudeにマインスイーパーを遊んでもらう おわ…
Claude DesktopとMCP (Model Context Protocol) サーバーを接続する方法の備忘録です。 はじめに Claude DesktopをMCPサーバーに接続する方法 1. Claude Desktop設定ファイルにMCPサーバー情報を追記 2. Claude Desktopを再起動 おわりに 参考 はじめに Clau…
AIエージェントパターンとプラクティスを、Anthropicの記事"Building effective agents"とそのフォローアップ動画から学びます。 はじめに 前提: AIエージェントの定義 AIエージェントパターン Augmented LLM Workflow: Prompt chaining Workflow: Routing W…
MCP (Model Context Protocol)をOpenAI API / GPTと組み合わせて動かして、MCPの仕組みを学んでいきます。 はじめに おさらい: MCPとは何か GPTとMCPサーバーを接続して使う MCPサーバーの実装 MCPクライアントの実装 MCPクライアント - サーバーの実行 おわ…
最近英語圏でよく目にする "Vibe coding" とは何か、まとめます。 はじめに Vibe coding とは何か おわりに 参考 はじめに 最近、特に英語圏のテック界隈で "Vibe coding" という単語をやたら目にするようになりました。 X(Twitter)やYouTubeでVibe codingと…
LLMが3Dモデル情報を出力するLLaMA-Mesh、そのBlenderアドオンであるMeshGenで遊びます。 番外編では、ChatGPTを使って同じく3Dモデリングさせてみます。 はじめに LLaMA-Meshをざっくり理解する MeshGenで3Dモデリング MeshGenをBlenderにインストールする …
深層学習と集団的知性の関係についての論文"Collective intelligence for deep learning: A survey of recent developments" の論文要約メモです。 はじめに Collective intelligence for deep learning: A survey of recent developments 概要 深層学習の歴…
GPT-2の論文"Language Models are Unsupervised Multitask Learners" の論文要約メモです。 はじめに Language Models are Unsupervised Multitask Learners 概要 手法 学習データセットWebTextの作成 BPE: Byte Pair Encoding モデルアーキテクチャ 結果 言…
最初のGPT論文"Improving Language Understanding by Generative Pre-Training" の要約メモです。 はじめに Improving Language Understanding by Generative Pre-Training 概要 手法 結果 Natural Language Inferenceタスク Question answering / commonsen…
Transformerの原典である"Attention Is All You Need" の論文要約メモです。 はじめに Attention Is All You Need 概要 手法 モデルアーキテクチャ 学習方法 結果 翻訳タスク Transformerモデルバリエーション 英語構文解析 おわりに/所感 参考 はじめに か…
"The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits" の論文要約メモです。 はじめに The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits 概要 手法 結果 おわりに/所感 参考 はじめに 今回まとめる論文はこちら: arxiv.…
Sakana.aiの進化的モデルマージを記述した論文"Evolutionary Optimization of Model Merging Recipes" の論文要約メモです。 はじめに Evolutionary Optimization of Model Merging Recipes 概要 手法 結果 LLMタスク VLMタスク おわりに/所感 参考 はじめに…
Andrej KarpathyのNeural Networks: Zero to Hero動画シリーズがとても良かったので紹介します。 はじめに 前提 Neural Networks: Zero to Hero 1. ニューラルネットワークと誤差逆伝播法への入門: microgradの構築 2. 言語モデリングへの入門: makemoreの構…
LLMOpsとは何か? 概念の勘所をまとめます。 はじめに 補足: LLMOpsの指す範囲について LLMOps モデルの選定 プロンプト管理 テスト/品質評価 デプロイ モニタリング 継続的改善とfine-tuning 結論: LLMアプリケーションのテスト駆動開発 おわりに 参考 はじ…
Raspberry Pi上で、カメラ/サーボモーターとGPT-4 Visionを組み合わせて簡単なロボット実験を行います。 前回はこちら: www.bioerrorlog.work はじめに GPT-4 VisionとRaspberry Piを組み合わせる コンセプト 構成 ハードウェア ソフトウェア 動作結果 おわ…
OpenAIのプロンプトエンジニアリングガイドに従って、LLMの回答を自動評価するプラクティスを整理します。 はじめに LLM回答の自動評価ベストプラクティス 回答評価の具体例 例1. ある既知の事実が回答に含まれているか評価する 例2. 理想回答との矛盾や重な…
Citadel AIのLLM回答評価ツール"LangCheck"を使ってみます。 はじめに LangCheckとは 基本的な使い方 評価メトリクスには何があるか 補足: 評価メトリクス判定に使われるモデル LangCheckで回答自動評価をやってみる 補足: semantic_similarity()でEmbedding…
OpenAI APIでGPT-4Vを使うにあたって、下記のエラーが出た時の対処法の備忘録です。 openai.NotFoundError: Error code: 404 - {'error': {'message': 'The model `gpt-4-vision-preview` does not exist or you do not have access to it. Learn more: http…
自由エネルギー原理のActive Inference (能動的推論)と、LLM (大規模言語モデル)の違いと類似点を、論文 "Predictive Minds: LLMs As Atypical Active Inference Agents" から整理します。 はじめに 一言でまとめると 論文メモ: Predictive Minds: LLMs As A…
LLMアプリケーションにおけるアーキテクチャ構成の考え方を学びます。 はじめに LLMアプリケーションアーキテクチャ入門 LLMアプリケーション構築の5ステップ 1. 解決すべき1つの課題を明確にする 2. LLMモデルを選定する 3. LLMモデルをカスタマイズする 4.…
サムアルトマンCEOが取締役会との喧嘩別れで解任されてしまった。 なんということだ。 はじめに OpenAIのサムアルトマンCEOが解任された件 OpenAIからの発表 サムアルトマン解任の理由 サムアルトマン本人の反応 追記: グレッグ・ブロックマンの反応 追記: …
2023年11月6日に行われた、OpenAI DevDayアップデートを要約します。 はじめに OpenAI DevDayアップデートまとめ GPT-4 Turboの発表 GPT-3.5 Turboのアップデート Assistants APIの発表 マルチモーダルAPI GPTsの発表 おわりに 参考 はじめに OpenAI DevDay…
OpenAI APIをPythonで呼び出すとき、GPTのstreamとtimeoutを併用するとどうなるのか、検証します。 はじめに GPTのstreamとtimeoutを併用した時の挙動 仮説 検証方法 検証結果 まとめ おわりに 参考 はじめに OpenAI APIをPythonで呼び出すときは、timeoutや…
OpenAI APIで、GPTのstreamレスポンスをPythonで実装する方法のメモです。 はじめに OpenAI APIでGPTのstreamレスポンス おわりに 参考 はじめに OpenAI APIでGPTを呼び出すと、デフォルトでは全ての回答生成が終わってからレスポンスが返ってきます。 これ…
Prompt Injectionを攻撃者目線で遊べるサイトGandalfの紹介です。 はじめに 攻撃者目線で学ぶPrompt Injection Gandalf ちょっとやってみる例 解法を学ぶ おわりに 参考 はじめに LLMを利用したサービスを開発するときは、Prompt Injectionにどう対策するか…