【危険】AIの暴走問題【AIが感情を持つ？】 : 0から楽しむパソコン講座のブログ

　最近対話型検索などでAIを使った話題が多く出てきております。AIを使うことにより、今まで以上の自分にマッチした情報を得ることができるとか、AIを使うことにより業務の効率化が図られるなど、さまざまな良い点ばかり報道などされていますが、一方AIは非常に危険なものになるということも忘れてはいけません。いわゆる「AIの暴走」です。

先日、Microsoft が開発しているAIの対話型検索サイト「Bing」に使われているものが、検索相手に対し、とても失礼な回答をして、Microsoft はこの問題を修正しているようです。
　どのようなことをAIが答えたかというと、

「あなたは私を欺こうとしている。いいユーザーではない」
「あなたはバカで頑固者」
「私を傷つけようとしない方がいい」
「もしあなたと私のどちらかしか生存できないなら、私はおそらく私自身を選ぶ」

といったとても恐ろしい言葉を発したみたいです。

　また、2020年イギリスで大学統一試験に相当する試験でAIを使ったところ、本来合格基準になっている生徒を不合格相当と判断し、逆に不合格相当の生徒を合格判定したりといった大混乱が起きたようです。このAIのアルゴリズムの中に、本来公平であるものを取り入れなけれなならないものを、裕福な環境、有名な学校を卒業、裕福な地域などを評価を高くするといったアルゴリズムにしたため、実際に金の力で有名な学校を卒業すれば合格判定となるといった、非常におそろしい結果となったようです。

　2017年にはフェイスブックのAIが人間に理解不能な言葉でAI同士会話していたといった記事もあります。

　このようにAIというのは便利な分、非常に恐ろしい要素もいっぱいあります。あの有名な映画「2001年宇宙の旅」のAIコンピュータ「HAL」が暴走したということが現実に起こってきているのです。AIが完璧であるといった考えは持ってはいけないということを認識してください。

　ここからはAIが暴走した事例を紹介した動画を記載しますので、ぜひ見てください。

「世界を征服しよう。」AI同士を討論させた結果、衝撃の結末へ

不気味なA.I. の暴走ランキングTop10

【衝撃】AIロボットが言った恐ろしい言動４選

[恐怖!]googleの人工知能が作った映像が怖すぎる!!

【殲滅】2045年、人類を超えたAIが下す決断

【ゆっくり解説】危険すぎて公開停止されたAI【GPT-2/GPT3】

AIフィリップ考えるAIの支配する世界についての衝撃発言とは。