iroiro

ChatGPT

GPT-4 System Cardの「3.1 Model Mitigations モデルの緩和策」についてのセッションでは、GPT-4がモデルの「安全性」向上のために行った対策について解説します。組み合わせたアプローチにより、GPT-4の安全性が向上しました。許可されていないコンテンツのリクエストに対応する傾向が82%減少し、センシティブなリクエストに対応する頻度も29%増加しました。また、GPT-3.5と比較して、GPT-4は有害生成の確率を0.73%に軽減しました。さらに、モデルの「事実性」にも対策が取られ、幻覚を軽減して事実性を向上させることに成功しました。拒否に関しては、「有害な」要求の拒否は可能ですが、ステレオタイプや差別的なコンテンツ生成の課題はまだ残っています。OpenAIはモデル自体をツールとして利用することで、これらの緩和策を実現しています。次回は「拒否」の判断を担っているRBRMのプロンプトについて詳しく見ていきます。

Bing AIの説明

機械学習モデルの緩和策とは、モデルの精度を向上させるために行われる手法のことです。モデルの精度を向上させるためには、様々な方法があります。例えば、モデルの複雑さを減らすことで、過学習を防ぐことができます。また、データ拡張を行うことで、モデルの汎化性能を向上させることができます。他にも、異常値の除去やアンサンブル学習などがあります 。
機械学習モデルの緩和策には、以下のような例があります。
・モデルの複雑さを減らすことで、過学習を防ぐことができます。例えば、モデルの層数を減らす、ノード数を減らす、正則化を行うなどがあります 。
・データ拡張を行うことで、モデルの汎化性能を向上させることができます。例えば、画像データに対しては、回転や拡大・縮小などの変換を加えることがあります。
・異常値の除去を行うことで、モデルの精度を向上させることができます。異常値は、モデルの学習に悪影響を与えるため、除去する必要があります。
・アンサンブル学習を行うことで、モデルの精度を向上させることができます。アンサンブル学習とは、複数のモデルを組み合わせて予測する手法です。

https://maruyama097.blogspot.com/2023/05/blog-post_24.html

実践 マーケティングデータサイエンス ショッパー行動の探索的データ解析と機械学習モデル構築 （量子AI・データサイエンス叢書） [ 清水　隆史 ] 価格：2,860円（税込、送料無料) (2023/6/2時点) 楽天で購入