情報！一覧中(集)

---

》全サービス一覧《

---

Amazonの新しい生成AIアシスタント「Q」は「重度の幻覚」を起こし、機密データを漏洩(ニュース)[G翻訳]

[Google機械翻訳]
情報・話題・動画・画像・履歴
＜真相探求＞
[ニュース・分析・参考]

---

『参考記事』

---

ナチュラルニュース
2023/12/08//キャシー B. //

[外語・外部・詳細リンク]

》》音声で聞く《《

》》音声で聞く《《



流出した内部通信によると、Amazonの駆け出しの生成AIアシスタント「Q」は、事実の不正確さとプライバシーの問題に悩まされているという。

このチャットボットはアマゾンのクラウドコンピューティング部門が最近発表したもので、企業向けとなる。同社のブログ投稿によると、このサービスは従業員が電子メールを作成し、トラブルシューティングを行い、コードを作成し、調査し、レポートを要約するのを支援するために構築されており、「各ユーザーがアクセスを許可されている」コンテンツにのみ関連する有用な回答をユーザーに提供するという。

ChatGPT よりも安全で安全な製品として宣伝されました。しかし、流出した文書によると、その性能は基準を満たしておらず、「重度の幻覚」が見られ、機密データが漏洩していることが示されている。

流出した文書を入手したPlatformerによると、1件のインシデントに「重大度2」のフラグが立てられたという。この指定は、Amazon のエンジニアに一晩中連絡し、週末に問題を修正するのに十分なほど深刻であるとみなされるイベントのために予約されています。この出版物では、このツールが未リリースの機能を漏洩し、アマゾン ウェブ サービスのデータ センターの場所を共有していたことが明らかになりました。

ある従業員は同社のSlackチャンネルに、Qが「法務分野で心臓疾患を誘発する可能性がある」ほどひどいアドバイスを提供する可能性があると書いた。

AI アシスタントの誤った回答と幻覚について言及した内部文書には、次のように記載されています。「Amazon Q は幻覚を示し、有害または不適切な応答を返す可能性があります。たとえば、Amazon Q は、顧客のアカウントを危険にさらす可能性のある古いセキュリティ情報を返す可能性があります。」

これらは、同社がデータ保護やコンプライアンスの懸念を抱える企業向けに開発しているチャットボットにとって非常に憂慮すべき問題だ。また、OpenAIやMicrosoftといったAI分野の競合他社に後れを取っていないことを証明しようとしている同社にとっても、これは良い前兆ではない。

AmazonはQが機密情報を漏洩したことを否定した。同社の広報担当者は「一部の従業員は内部チャネルや発券システムを通じてフィードバックを共有しているが、これはアマゾンの標準的な慣行だ。そのフィードバックの結果としてセキュリティ上の問題は確認されなかった」と述べた。

同社は、多くの企業がプライバシーとセキュリティへの懸念からAIアシスタントのビジネス利用を禁止していることを受けて、Qの開発に興味を持ったと述べた。これは本質的に、よりプライベートで安全な代替手段として機能するように構築されたものであり、これらの漏洩は、このプロジェクトがその目的を達成できていないことを示しています。

◆AIチャットボットは幻覚を起こしやすい

Q は、AI モデルが不正確な情報を事実として提示する傾向を指す用語である幻覚などの重大な問題に遭遇した唯一の生成型 AI チャットボットではありません。ただし、専門家は、これらの言語モデルは、ユーザーからのプロンプトに対して正しい答えではなく、もっともらしい答えを提供するようにトレーニングされているため、この特徴付けは正確ではないと示唆しています。モデルに関する限り、それが事実であるかどうかに関係なく、もっともらしく聞こえる答えはすべて受け入れられます。

一部の企業は、こうした幻覚をある程度抑制するための措置を講じていますが、コンピュータ科学者の中には、これは単純に解決できない問題であると考えている人もいます。

GoogleがChatGPTの競合他社であるBardを発表したとき、公開デモ中にジェームズ・ウェッブ宇宙望遠鏡に関する質問に対して間違った回答をした。別の注目を集めた事件では、テクノロジー ニュース サイト CNET が、AI ツールを使用して書いた記事が非常に不正確な財務上のアドバイスを読者に提供したため、訂正を発表する必要がありました。別の機会には、ニューヨーク州の弁護士が ChatGPT を使用して法的調査を行った後にトラブルに見舞われ、チャットボットがでっち上げた一連の事件を記載した準備書面を提出しました。

このテクノロジーに依存すると、特に人々が健康、経済、誰に投票するか、その他のデリケートなトピックについて決定を下すためにチャットボットからの回答を使用する場合、問題が発生する可能性が非常に多くあります。

---

【サービス】

---

》全サービス一覧《

---

◆[一覧・リスト]真相探求ニュース
》》一覧情報《《

---

情報！一覧中(集)
◆全メニュー◆

---

◆[一覧・リスト]真相探求ニュース[ミラーサイト]
》》一覧情報《《

---

なんでも！一覧中(集)
◆◆全メニュー◆◆

---

↑画面ＴＯＰへ↑

---

---以上