音楽と映像の日々

生成AI利用の問題点として"幻覚＝ハルシネーション"が頻繁に取り上げられる。ChatGPT 3.5、MS Copilot、Google Geminiの3種類を比較しているとAIの回答のソースへのリンクを教えてくれるCopilotが正誤確認がし易く使い勝手が良い。

参考：ハルシネーション（Hallucination）とは？
　https://atmarkit.itmedia.co.jp/ait/articles/2303/30/news027.html　

自分の回答の正誤を判断できないAIはまだまだ開発途上だと思っていたが、人間の“記憶”に関する番組「人の記憶は確実なのか」「“記憶”未来を切り拓く源泉」を見たら人間も都合よく記憶を改変していることを知った。

参考：錯覚の科学　第6回　記憶の錯覚　人の記憶は確実なのか
　https://bangumi.ouj.ac.jp/v4/bslife/detail/15294048.html　

参考：「“記憶” 未来を切り拓く源泉」
　https://www.nhk.jp/p/ts/X4VK5R2LR1/episode/te/5Z24L7X6XG/　

人間は人に問われるとそれに応えようと無意識に記憶の断片を繋ぎ合わせ偽の記憶を創造してしまう。それは生物として記憶した内容を汎用的に利用するための能力の負の面だと言う。

参考：なぜ人は都合よく"記憶"を書き換えるのか
　https://president.jp/articles/-/27416　

生成AIの性能を向上させた"ディープラーニング"は人間の脳神経ニューラルネットワークを模倣しているのだから、それは人間みたく幻覚も見るし意図せず嘘もつくことだろう。そう考えるとAI Chatが可愛く思えてくるし、将来的にはAIが自我に目覚めるかもしれないと想像してしまう。

参考：AI 究極の知能への挑戦
　https://www.nhk.jp/p/frontiers/ts/PM34JL2L14/episode/te/4YMKYLR6J1/　

もっとも自我を得るには肉体が必要と研究者が語っていたから、そんな心配はAI搭載ロボットが誕生してからでいいだろう。AIロボットが普及したら1977年公開『デモン・シード』というSFホラー映画みたいな事件が起きるのだろうか？

ちなみにこの映画のタイトルを思い出せず「人工知能が女性に自分の子供を産ませようとする映画のタイトルを教えて」と3種類のAIチャットに質問したところCopilotのみが正解を教えてくれた。もっとも内容が倫理規定に抵触したらしく一度表示された文面がクリアされ「すみません、違う話題にしましょう。ほかにどんなことを考えていますか？」と表示されてしまった。一瞬表示されたタイトルを見逃さず良かった。

このプロンプトの前に「人工知能が肉体を欲しがるホラー映画のタイトルを教えて」と質問したら『A.I.』『オートマタ』『エクス・マキナ』『M3GAN／ミーガン』等のタイトルを教えてくれた。正解とは言えないがなかなか興味深い作品を取り上げてくれて面白い。