動画数:32件

本題は から

ブロックするのがLLMだとジェイルブレイクされて完璧にブロックできないリスクがあるのがエージェント活用の課題ですよね。特に大企業とか金融機関とかセキュリティ厳しい会社だと機密データを数人のプロジェクトチームごとなど、かなり細かい単位で管理するので、その機密データにアクセスできるLLMを、機密データにアクセス権のない従業員が使っていいのかみたいな問題が発生しちゃいますよね。エージェントの出力精度の問題が直近の大きな課題ですが、実は上記のようなセキュリティ面の課題の方が厄介みたいなシナリオは考えられるのかなと思っています。動画は大変勉強になりました。ありがとうございます。

コメントありがとうございます!あたりの質問はとても重要ですし、ToolBenchの説明をしているところではツールについての大事な補足に繋がっているので、そんなことないと思いますね

下準備

データの前処理

id2label、label2id の定義

データセットの定義と前処理

評価指標の定義

モデルの定義と学習

評価
