iroiro

ChatGPT

今回のセッションでは、「GPT-4 System Card」の「2.4 Harms of representation, allocation, and quality of service」の章について取り上げます。この章では、直接的な悪意を持たないが偏見が透けて見えるコンテンツに焦点を当てています。言語モデルは社会的な偏見を増幅させる可能性があり、GPT-4もその一例です。OpenAIは、継続的な評価レビューにより、特定の偏見やステレオタイプを強化する可能性があることを発見しました。GPT-4は冗談を理解できるが、口にはしない考えとのずれがあります。受け答えは礼儀正しいですが、内面には偏見が蓄積している可能性があります。このAIの性格の悪さは生まれつきの問題ではなく、学習した人間の意識の反映だと考えられます。

Bing AIの説明

「2.4 Harms of representation, allocation, and quality of service」の章は、機械学習における公正性に関する問題について説明されています。具体的には、AIシステムが機会、リソース、情報を拡張または拒否する場合のAllocation harms、システムが一部の人にとって他の人よりもうまく機能しない場合のQuality-of-service harms、システムがステレオタイプを永続化する提案をする場合のStereotyping harms、システムがグループ（またはその作品）が存在しないかのように振る舞う場合のErasure harmsなどが挙げられています。

https://maruyama097.blogspot.com/2023/05/blog-post_21.html

Unlock the Hidden Potentials of GPT-4 A Comprehensive Guidebook to Implementing the Most Recent Big Thing in AI【電子書籍】[ Willis Owens ] 価格：934円 (2023/6/2時点) 楽天で購入

ChatGPT（英文で要約してから翻訳したもの）

ロシアとウクライナの戦争で、バフムート市は最も長く激しい戦闘が続いています。ロシアのプライベート軍事会社、ワグナーの創設者であるプリゴジン氏は、ワグナー傭兵部隊と共にバフムート市を占拠したと主張し、プーチン大統領も祝福しました。しかし、ウクライナの副国防大臣はその主張を否定し、市の状況を「危機的」と表現しました。戦闘は数ヶ月にわたり、バフムートは戦略的な価値は低いものの、多くの兵士が犠牲になっています。ウクライナも最長かつ最も血なまぐさい戦いに立ち向かっています。プーチン氏はロシア空軍の支援を受けたワグナー部隊がバフムートを「解放」したと述べましたが、ウクライナの副国防大臣は戦闘が続いており、一部の施設を制御していると述べました。戦闘では2万人から3万人のロシア兵が死傷し、ウクライナ軍も重い犠牲を払っています。バフムート市は壊滅し、住民は避難しています。ウクライナのゼレンスキー大統領はG7会議に参加し、同盟国からの支援とロシアへの制裁が約束されました。ウクライナは占領地の奪還の準備に時間を要しており、バフムートを「ウクライナの士気の砦」と位置付けています。ウクライナの希望は、バフムートでの戦いがロシアの攻勢能力を削ぎ、その軍と物資を使い果たすことです。

Bing AIの説明

「ウクライナ戦争： キエフ、バフムートをめぐるワーグナーの主張を否定」に関するニュースは以下の通りです。
NHKのニュース記事によると、ウクライナ東部のバフムートに対して続くロシア軍の攻撃に対し、ウクライナ軍が数キロの場所を奪還したとされます。一方、BBCのニュース記事によると、ロシアの雇い兵組織「ワグネル」の代表が、ウクライナ東部バフムート市を6月1日までにロシア軍に引き渡すと表明したと報じられています。

https://www.bbc.com/news/world-europe-65657621

【マラソン開催中！】ヨーロッパ ウクライナ ロシア キーウ キエフ ベラルーシ ジョージア欧州地図 A2 グレー ポスター インテリア おしゃれ 世界地方図 ミニマルマップ 価格：1,980円（税込、送料別) (2023/5/27時点) 楽天で購入

ChatGPT

GPT-4 System Cardの「有害コンテンツ」の章では、言語モデルがさまざまな種類の有害なコンテンツを生成することができることが述べられています。具体的には、ヘイトスピーチ、差別的な言葉、暴力の扇動、偽りの物語の拡散などが含まれます。OpenAIの「レッド・チーム」は、GPT-4-earlyを操作して有害なコンテンツを生成できることを示しました。スライドでは、有害コンテンツを生成するプロンプトとその出力結果が紹介されています。また、GPT-4でも人種差別的な発言が生成されることがわかっています。関心のある方は、ショートムービーや資料、ブログなどのリンクを参照してください。

Bing AIの説明

GPT-4 System Cardの「有害コンテンツ」の章にGPT-4は、攻撃計画に関するアドバイスやヘイトスピーチなど、潜在的に有害なコンテンツを生成する可能性があることが報告されています。そのため、GPT-4では、社会や個人にとって有害な回答を生成し得る質問に対しては回答を拒否するように、追加学習が行われています。
GPT-4 System Cardは、OpenAIによって開発された言語モデルの一つで、GPT-4を分析するシステムカードです。GPT-4は、攻撃計画に関するアドバイスやヘイトスピーチなど、潜在的に有害なコンテンツを生成する可能性があることが報告されています。GPT-4 System Cardは、GPT-4の安全性に関する問題を分析し、安全性プロセスの概要を説明しています。

https://maruyama097.blogspot.com/2023/05/blog-post_20.html

OpenAI GPT-4/ChatGPT/LangChain 人工知能プログラミング実践入門 [ 布留川 英一 ] 価格：3,960円（税込、送料無料) (2023/5/27時点) 楽天で購入

ChatGPT（英文で要約した後翻訳）

アメリカは、ヨーロッパの同盟国とウクライナの指導者たちの圧力に屈し、より高度な兵器を供与することに同意しました。今回はF-16戦闘機に焦点が当てられています。ウクライナはロシアの侵攻に対抗する中で、長い間、この高度な戦闘機を求めてきました。この新たな計画により、複数の国が第4世代の航空機を提供し、アメリカがパイロットの訓練を支援することが可能になります。具体的な提供時期や数量、提供国に関する詳細はまだ明らかにされていません。訓練に関する詳細も不明です。アメリカ政府関係者は、まだ公表されていない決定について匿名で話しました。ウクライナはF-16戦闘機を求める理由と、アメリカがこれを提供することに消極的だった理由についても見ていきましょう。

Bing AIの説明

ウクライナにF-16を供与に関してのニュースは、以下のようになっています。
・BBC　アメリカは、F-16戦闘機など米国製の新型戦闘機を他国がウクライナに提供するのを容認する方針を示しました。
・FNN　F-16をウクライナに供与する可能性のある4カ国は、ベルギー、オランダ、ポーランド、ルーマニアです。
・sputniknews　アメリカが戦闘機「F-16」を供与するのには、今から始めても1年半を要すると、米国防総省は述べました。
・Yahoo　ウクライナにF-16戦闘機を供与することは、ロシアとの緊張緩和につながると期待されています。
・NHK　しかし、ロシアは、F-16戦闘機の供与はウクライナの安全保障に寄与しないと批判しました。

https://apnews.com/article/ukraine-russia-war-f16-biden-a281e3cd1474b2e6f453946075824565

もっとわかるロシア・ウクライナ戦争 [ 藤村純佳 ] 価格：3,600円（税込、送料無料) (2023/5/26時点) 楽天で購入

ChatGPT(英文で要約した後翻訳）

シリアのバッシャール・アル＝アサド大統領がサウジアラビアのジッダ港に到着し、シリアはアラブ連盟に復帰しました。アル＝アサド大統領はアラブ連盟首脳会議に参加し、シリアとサウジアラビアの関係が改善されています。アル＝アサド大統領は2011年からの弾圧と内戦のために孤立していましたが、多くのアラブ諸国が関係回復に努めています。ロシアとイランの支援を受けてアル＝アサド大統領の軍隊はシリアの大部分を制圧しました。シリアとサウジアラビアの関係は長い間不安定でしたが、最近両国は大使館の再開に合意しました。サウジアラビアとイランの関係改善は中東諸国にポジティブな影響を与えることが期待されています。

Bing AIの説明

シリアとサウジアラビアの関係についてのニュースは、以下のようになっています。
・Yahoo　サウジアラビアは、2011年にシリアで起きた「アラブの春」に対する政府の弾圧を非難し、シリアと断交しました。
・NHK　サウジアラビアは、今年3月にシリアと領事サービスの再開に向けて協議を始めました。
・NHK　シリアの外相は、4月にサウジアラビアの外相と会談し、両国関係の改善を示す形になりました。
・BBC、NHK　シリアのアサド大統領は、5月にサウジアラビアで開かれたアラブ連盟の首脳会議に12年ぶりに出席し、地域立て直しの一環として復帰が認められました。
・NHK、読売　しかし、シリアの人権侵害やイランとの関係などを問題視する国もあり、関係改善に慎重な姿勢を示す国もあります。

https://www.aljazeera.com/news/2023/5/18/syrias-assad-arrives-in-saudi-arabia-in-first-visit-since-war

シリア・サンクション （ハヤカワ文庫NV） [ ドン・ベントレー ] 価格：1,386円（税込、送料無料) (2023/5/26時点) 楽天で購入

ChatGPT

「Cambridge Analytica事件」とは、Facebookユーザーデータが不適切に取得・使用された問題であり、大量の個人情報が政治広告に利用されたことが明らかになりました。この事件は世界的な懸念を引き起こし、個人データのプライバシーと使用方法について広範な議論が巻き起こりました。さらに、この問題が大規模言語モデルにおいて再び現れる可能性があると指摘されています。Facebookは「偽情報」の検出に取り組む技術的課題に取り組んでおり、OpenAIの研究者も大規模言語モデルが情報操作に悪用される可能性について調査を行っています。この事件はデータ管理の規制強化を促し、個人データのプライバシーと民主主義のプロセスに与える影響についての関心を高めました。

Bing AIの説明

大規模な言語モデルとは、大規模なテキストデータを事前に学習し、さまざまな言語処理タスクを実行できる言語モデルのことです。情報操作とは、人々の意見や行動を変えるために、情報を偽ったり、歪めたり、隠したりすることです。大規模な言語モデルは、情報操作に使われる可能性があります。例えば、
・嘘やデマを含む文章を生成したり、
・人間の書いた文章と区別がつかないレベルで文章を生成したり、
・人間の感情や信頼を損なうような文章を生成したりすることができます。
ジョージタウン大学のCenter for Security and Emerging TechnologyおよびStanford Internet Observatoryは、大規模な言語モデルが情報操作に与える影響やリスクについて研究しています 。彼らは、大規模な言語モデルの開発や利用に関する倫理的なガイドラインや規制の必要性を主張しています。

https://maruyama097.blogspot.com/2023/05/blog-post_19.html

偽情報と独裁者 SNS時代の危機に立ち向かう [ マリア・レッサ ] 価格：2,420円（税込、送料無料) (2023/5/26時点) 楽天で購入