- Llama 3.1｜最新・最大の言語モデルを支える技術

Llama 3.1｜最新・最大の言語モデルを支える技術

Metaから最新のLLM「Llama 3.1」がリリースされました。
論文は長大ですが、特に注目したい要素技術に焦点を当てて解説します。

以下の動画を事前にチェックいただけると、より楽しめると思います！
・https://youtu.be/DLwhHZUd2fU?si=yJU0yv1GJ28RL6DM
・https://youtu.be/3I-e70ZzHLM?si=C1yEkI-rDMsbXIbk
・https:/...
Metaから最新のLLM「Llama 3.1」がリリースされました。
論文は長大ですが、特に注目したい要素技術に焦点を当てて解説します。

以下の動画を事前にチェックいただけると、より楽しめると思います！
・https://youtu.be/DLwhHZUd2fU?si=yJU0yv1GJ28RL6DM
・https://youtu.be/3I-e70ZzHLM?si=C1yEkI-rDMsbXIbk
・https://youtu.be/6tcjwdanedU?si=BV4hmwsno_ov6eoM

03:34 Llama 3.1 の概要
08:35 Llama 3.1 の機構
12:30 Grouped Query Attention
18:32 学習の仕組み
22:59 Direct Preference Optimization
25:20 データの品質を維持する策
---
「数理の弾丸」は、人工知能や言語にまつわる専門知をわかりやすく、誤魔化さずに伝えることを目指すチャンネルです。

■スピーカー：吉田

#llama #meta #attention #生成ai #大規模言語モデル

スペースでAND検索・ORで区切るとOR検索・先頭に「-」で除外検索

Llama 3.1 の概要 - Llama 3.1｜最新・最大の言語モデルを支える技術

Llama 3.1 の概要

Llama 3.1｜最新・最大の言語モデルを支える技術
2024年07月28日　
00:03:34 - 00:08:35
Llama 3.1 の機構 - Llama 3.1｜最新・最大の言語モデルを支える技術

Llama 3.1 の機構

Llama 3.1｜最新・最大の言語モデルを支える技術
2024年07月28日　
00:08:35 - 00:12:30
Grouped Query Attention - Llama 3.1｜最新・最大の言語モデルを支える技術

Grouped Query Attention

Llama 3.1｜最新・最大の言語モデルを支える技術
2024年07月28日　
00:12:30 - 00:18:32
学習の仕組み - Llama 3.1｜最新・最大の言語モデルを支える技術

学習の仕組み

Llama 3.1｜最新・最大の言語モデルを支える技術
2024年07月28日　
00:18:32 - 00:22:59
Direct Preference Optimization - Llama 3.1｜最新・最大の言語モデルを支える技術

Direct Preference Optimization

Llama 3.1｜最新・最大の言語モデルを支える技術
2024年07月28日　
00:22:59 - 00:25:20
データの品質を維持する策---「数理の弾丸」は、人工知能や言語にまつわる専門知をわかりやすく、誤魔化さずに伝えることを目指すチャンネルです。 - Llama 3.1｜最新・最大の言語モデルを支える技術

データの品質を維持する策---「数理の弾丸」は、人工知能や言語にまつわる専門知をわかりやすく、誤魔化さずに伝えることを目指すチャンネルです。

Llama 3.1｜最新・最大の言語モデルを支える技術
2024年07月28日　
00:25:20 - 00:29:20
チャンネル登録YouTube RSS

数理の弾丸⚡️京大博士のAI解説

※本サイトに掲載されているチャンネル情報や動画情報はYouTube公式のAPIを使って取得・表示しています。動画はYouTube公式の動画プレイヤーで再生されるため、再生数・収益などはすべて元動画に還元されます。

概要 カレンダー タイムライン 動画一覧 タイムテーブル YouTube配信 チャンネル分析

Timetable

動画タイムテーブル

スペースでAND検索・ORで区切るとOR検索・先頭に「-」で除外検索

タイムテーブルが見つかりませんでした。