この動画では、RAGのバリエーションのひとつであるGraphRAGについて、仕組みの解説とLangChainによる実装をセットでご説明します。 00:01:16 今回の内容 00:01:43 RAGの広がりとGraphRAG 00:03:33 知識グラフ 00:09:25 グラフデータベース 00:13:55 GraphRAG 00:22:57 座学まとめ 00:23:10 LangChainによる実装 Colabノートブック：https://x.gd/F2CRB スライド：https://x.gd/6lrvZ 実際に運用可能なシステムとして実現するためには、たとえば以下の点を考慮する必要がありますが、本動画には内容として含まれておりませんのでご了承ください。 ・外部文書の検討方法 ・外部文書の分割 ・構築されたRAGシステムの評価方法（こちらの動画は参考になると思います https://youtu.be/DLwhHZUd2fU ） ・システムのデプロイ先、データの格納先 ・セキュリティ上のリスク対応 また、動画内では例としてOpenAIのGPTをモデルに採用していますが、RAGは「プロンプトに適切な補足を入れ込む技術」であり、後段のチャットモデルはOpenAI GPTに限らず利用することができます。 --- 「数理の弾丸」は、人工知能や言語にまつわる専門知をわかりやすく、誤魔化さずに伝えることを目指すチャンネルです。 ■スピーカー：吉田、スミス、辻 #chatgpt #rag #langchain #graphrag #グラフRAG

Google Drive: https://drive.google.com/file/d/1US5btebVMTrX8ljRwbG-6urIWirJS8FS/view?usp=sharing 00:01:17 線形代数超入門 00:22:25 Python機械学習最短距離 01:53:18 大規模言語モデルの基礎知識（線形代数・埋め込み・Transformer） 02:49:35 LangChain入門 03:13:34 LLM の仕組み 03:31:27 LLM API、LangChainによるGPT-4oの呼び出し 04:13:20 RAGの仕組み 04:30:26 LangChainによるRAGの実装 ---------- 「数理の弾丸」は、人工知能や言語にまつわる専門知をわかりやすく、誤魔化さずに伝えることを目指すチャンネルです。 ■スピーカー：吉田、鈴木、スミス、辻

この動画では、既存サービスの活用に加え、新たな技術を生み出す・既存技術を進化させるための基礎知識としてまず押さえるべき内容をお伝えし、機械学習での活用を志向した線形代数の入門解説を行います。 00:30 本題 03:40 何ができるようになればいいのか 07:43 写像って何すか 12:38 行列 15:00 行列とベクトルの積 19:49 ニューラルネットワークと行列 23:23 Q＆A ---------- 「数理の弾丸」は、人工知能や言語にまつわる専門知をわかりやすく、誤魔化さずに伝えることを目指すチャンネルです。 ■スピーカー：吉田、鈴木、スミス、辻 #機械学習 #数学 #線形代数 #ai

この動画では、Stable Diffusionをはじめとする画像生成モデルの多くを支える技術である拡散モデルの基本的な機構と、初代Stable Diffusionにて提案された潜在拡散モデルについてご説明します。エンタテインメントだけでなくビジネスシーンでも活用の広がる画像生成AIのバックボーンを理解することができます。 00:28 Stable Diffusionって何？ 05:35 今回の内容 06:35 拡散モデルの仕組み 12:13 拡散モデルの学習データ 14:05 拡散過程の典型的な定式化 18:48 拡散モデルの学習 19:50 逆拡散過程の典型的な定式化 24:26 素朴な拡散モデルの課題 25:31 生成画像のコントロール 28:53 潜在拡散モデル 35:52 近年の展開 - Stable Diffusion 3 ---------- 「数理の弾丸」は、人工知能や言語にまつわる専門知をわかりやすく、誤魔化さずに伝えることを目指すチャンネルです。 ■スピーカー：吉田、スミス、辻 #stablediffusion #生成ai #画像生成ai #拡散モデル

この動画では、チャットボットを業務用システムとして活用する際の形態として広く採用されているRAGという技術について解説します。前半で基本的な仕組みを座学として学び、後半でLangChainを用いた実装を行います。実際に運用可能なシステムとして実現するためには、たとえば以下の点を考慮する必要がありますが、本動画には内容として含まれておりませんのでご了承ください。 ・外部文書の検討方法 ・外部文書の分割 ・構築されたRAGシステムの評価方法（こちらの動画は参考になると思います https://youtu.be/DLwhHZUd2fU ） ・システムのデプロイ先、データの格納先 ・セキュリティ上のリスク対応 また、動画内では例としてOpenAIのGPTをモデルに採用していますが、RAGは「プロンプトに適切な補足を入れ込む技術」であり、後段のチャットモデルはOpenAI GPTに限らず利用することができます。 Colabノートブック: https://x.gd/RoU4q RAG参照用PDF: https://x.gd/hR8y4 スライド: https://x.gd/th5YP 00:00:35 RAGで実現できること 00:03:15 RAGの基本的な仕組み 00:09:07 データをベクトルで表すという発想 00:14:02 性能に関わるのはどの部分か 00:17:35 APIキーの準備 00:23:10 PDFデータの読み込み 00:27:25 文埋め込みと類似文書探索 00:34:30 シンプルにGPT-4oに聞いてみる 00:38:00 プロンプトテンプレートを作る 00:43:55 RAGのチェインを作る ---------- 「数理の弾丸」は、人工知能や言語にまつわる専門知をわかりやすく、誤魔化さずに伝えることを目指すチャンネルです。 ■スピーカー：吉田、鈴木、スミス、辻 #chatgpt #rag #langchain #embedding

この動画では、開発競争が激化し、情報が日々増えているLLMの「評価」に焦点を当てて解説します。自身の判断基準を持ってモデルを比較し、モデルの評価競争を解像度高く追っていくための知識を得ることができます。新たなモデルが発表されたときの情報の見方や、LLM導入時のモデル比較検討に役立つと幸いです！ 01:40 背景：LLM戦国時代 04:15 今回の内容 04:40 良いモデル、とは 05:35 先にまとめ 06:09 LLMの評価手法 15:55 評価手法の現状にある背景 18:16 評価結果の情報はどこにあるのか 19:45 Chatbot Arena - 自由記述の評価手法 22:10 各評価手法の課題 24:25 Q&A MMLU リーダーボード: https://paperswithcode.com/sota/multi-task-language-understanding-on-mmlu Chatbot Arena リーダーボード: https://chat.lmsys.org/?leaderboard ---------- 「数理の弾丸」は、人工知能や言語にまつわる専門知をわかりやすく、誤魔化さずに伝えることを目指すチャンネルです。 ■スピーカー：吉田、鈴木、スミス、辻 #chatgpt #gemini #claude3 #大規模言語モデル #ai

この動画では、GPT-4oによる革新のうち特に速度とコスト面に着目して、LLMのAPIを活用する上での主たるコスト源は何かをご説明し、その上でLangChainのコーディング演習を行います。この動画を見ることで、LLMがどのような仕組みでテキストを入力・出力しているのかがクリアになり、さらに、API、LangChainといったツールについて具体的なイメージを伴った理解を得ることができます。 Colab ノートブック：https://colab.research.google.com/drive/1RhcBb0JZINkqlzbBYLbYtrxnIH5iGsz6?usp=sharing GPT-4o公式リリースページ：https://openai.com/index/hello-gpt-4o/ GPT-4o API：https://platform.openai.com/docs/models/gpt-4o 00:00:50 GPT-4o振り返り/動画の主眼と構成 00:05:00 LLMにテキストが入力され、テキストが出力される仕組み 00:16:17 APIの主たるコスト源とGPT-4o 00:23:20 LLMのAPIとは何のためにあるのか？ 00:29:00 LangChain実践のための準備 00:34:20 GPT-4oをLangChainで呼び出す 00:43:20 APIの応答にかかる時間の計測 00:52:40 ストリーミング出力 00:56:20 トークナイザの振る舞いを見る 01:02:30 これから学ぶべきこと、今回のまとめ ---------- 「数理の弾丸」は、人工知能や言語にまつわる専門知をわかりやすく、誤魔化さずに伝えることを目指すチャンネルです。 ■スピーカー：吉田、スミス、辻 #chatgpt #gpt4o #langchain #openai

GPT-4オーじゃなくてGPT-4オムニの方がかっこいいから、そっちで呼べばよかった。 この動画では、OpenAIが5月14日 AM2:00にリリースした新たなモデル「GPT-4o」について、従来モデルであるGPT-4と比較しての性能改善と、研究成果としての側面について解説します。 GPT-4o公式リリースページ：https://openai.com/index/hello-gpt-4o/ GPT-4o API：https://platform.openai.com/docs/models/gpt-4o 00:03:00 チャットボットの性能が良いってどういう意味？ 00:06:40 性能評価の結果 00:10:20 現在提供されている・今後提供予定の機能 00:12:02 GPT-4oがAI研究へ与えうるインパクト ---------- 「数理の弾丸」は、人工知能や言語にまつわる専門知をわかりやすく、誤魔化さずに伝えることを目指すチャンネルです。 ■スピーカー：吉田、鈴木 #chatgpt #gpt4o #機械学習

ChatGPTやClaudeなどのLLMサービスを支える技術であるTransformer、そして実務での活用も高速に広がっているRAG、およびそれを実現するためのLangChainについて、数学や深層学習の基礎から最短距離で解説します。 参照用PDF：https://drive.google.com/file/d/1bSYa9FSU3O-yplR80AuKfXLW4-WBOH9K/view?usp=drive_link Colab ノートブック：https://colab.research.google.com/drive/137TcES6RXJLinCCwnf1DC97N3R2tnC-s?usp=sharing スライド：https://speakerdeck.com/mathbullet/zerokarashi-meruda-gui-mo-yan-yu-moderuru-men 00:00:20 動画の目的とゴール 00:05:35 行列と深層学習 00:15:00 埋め込み 00:18:18 大規模言語モデルの基本構成 00:25:41 Transformerの全体像 00:37:16 自己注意機構 00:49:25 Transformerまとめ 00:49:49 研究トピックの紹介 00:53:14 RAG：LLMの知識拡張 00:56:20 LangChain入門 #chatgpt #langchain #llm #transformer #機械学習 #深層学習

中級編、上級編も乞うご期待！ Google Colab ノートブック: https://colab.research.google.com/drive/1p0HW_4bdcQAWrm6_DV_hdfJfEyMq0Pii?usp=sharing 「数理の弾丸」は、人工知能や言語にまつわる専門知をわかりやすく、誤魔化さずに伝えることを目指すチャンネルです。 ■スピーカー：吉田、スミス 00:02:08 四則演算、代入、条件分岐、ループ処理 00:22:58 関数、クラス 00:49:50 データの作成・分割・可視化 00:58:35 モデルの学習・評価 01:21:30 モデルの可視化 #python #機械学習 #データサイエンス