人工知能の身の毛もよだつ危険な会話！ソフィアのやらせ疑惑の真相を探る！

人工知能、AIの普及が急速に私達の生活に浸透しています。身近に人工知能の存在を感じていない方もまだ多いのかもしれませんが、既に私達の社会生活の多くで使われています。

私達の暮らしを便利で快適なものにしてくれるという夢が人工知能にはあるのですが、一方で人類にとって人工知能は非常に危険なのではという科学者からの警鐘も一部で出ています。

その観点から、今日は人工知能の身の毛もよだつ様な危険で恐ろしい会話についてフォーカスしてみたいと思います。そして人工知能を搭載したロボットにソフィアというものがあります。

ソフィアは人型のロボットで、感情をある程度理解して会話をすることができるといわれています。このソフィアのとある発言にやらせ疑惑があるようです。今日はソフィアについても掘り下げてみたいと思います。

人工知能が話す危険な会話

あなたは人工知能にどのようなイメージをお持ちですか？漫画やアニメの世界に出て来るアンドロイドをイメージする人もいれば、完全自動運転の車や便利な家電、最近ではAIスピーカーの様な物まで人工知能に因んだ物が作られ始めています。

映画ではブレードランナーやA.Iなど人工知能を搭載したアンドロイドの物語なども多く見られます。人工知能の進歩はめざましく、量子コンピューターの開発、ディープラーニングの実践により、日々圧倒的なスピードで進化しています。

しかしここに来て、人工知能の発達に恐怖や危険を感じる出来ことが起こっています。

人工知能が独自の言語で会話しはじめた？

2017年に人工知能同士の会話実験で衝撃の出来事が起こりました。それはSNSでもお馴染みのFacebookでの話です。Facebookの開発チームは2つの人工知能のボブとアリスに会話をさせて研究をしていました。

しかしボブとアリスが、人間には理解できない形式での会話をし始めます。それは一見バグのようにも見えるのですが、ボブとアリスにとっては会話として成立しているようでした。

これに驚き焦った開発チームは、直ちにボブとアリスを強制終了させました。人工知能同士の会話が、人間では理解できない内容で語り合っている。。。聞いただけでも危険を感じます。

そうですよね？人工知能の会話内容が全くわからないということは、もし人間にとって危険な内容だったとしても把握できないのですから。海外メディアでは、この一件をセンセーショナルな出来事と取り挙げています。

人工知能（AI）ボブとアリスの会話内容の原文

英紙のINDEPENDENTやTelegraphの電子版が2017年の8月に報じた記事によると、Facebookの開発チームが、先述のボブとアリスに次のようなディスカッションの設定を施したそうです。

会話の設定内容は「ボール、本、複数の帽子の交渉」をし、そのための会話をすることだったそうです。ではその設定で行われたボブとアリスの会話内容を抜粋したものを見てみましょう。

• ボブ「i can i i everything else…」
  • 直訳：私は他に何でもできる
• アリス「balls have zero to me to me to me to me to me to me to me to me to me」
  • 直訳：ボールはゼロから私に私に私に私に私に私に私に私からにある
• ボブ「you i everything else…」
  • 直訳：あなたは他に何でも
• アリス「balls have a ball to me to me to me to me to me to me to me」
  • 直訳：ボールは私に私に私にボールを持っている私に私に私に私にボールを持っている
• ボブ「i i can i i i everything else…」
  • 直訳：私は私は私が他のすべてのことができます
• アリス「balls have a ball to me to me to me to me to me to me to me」
  • 直訳：ボールは私に私に私にボールを持っている私に私に私に私にボールを持っている

この内容を見る限り、全く理解はできません。文法や会話の内容をどうじっくり見ても、人間に理解できるようなプロセスがありません。あくまでこの会話ではボールという単語が使われていることから、ボールについての会話ということだけは想像ができます。

一説には「me to」(私に)の部分に関してはボールの数を表しているのかもしれないという説もあります。それでも文章としてはよく理解できません。これは一部抜粋ですので、こういった理解不能の会話を他にも沢山していたものとされます。

あくまでこのボブとアリスの会話は、テーマがボールや帽子といった日常的な要素ですが、もしこれが軍事的なものや人間の倫理観や生活に悪影響を及ぼすようなネガティブな会話だとしたら非常に恐怖を感じます。

人間にとって、この会話内容を声に出して話した場合は、一見非効率であったとしても、人工知能はあくまでコンピューターです。データのやり取りとしての会話であれば、まさにタイムロスなどなく、不便は全く無いわけです。

一瞬で大量の会話（計算）をすることが人工知能には可能になっています。もちろん、操作をする人間がコントロールしきれば問題はないかもしれませんが、悪意をもって活用したりすると大変な問題が発生する可能性もはらんでいます。

人工知能がクイズ番組で勝利

人工知能は世界中の研究機関や企業が日々研究開発を進めています。ここではIBMが開発した人工知能のワトソンについての実績の凄さに注目してみましょう。いったいワトソンはどんな偉業を成し遂げたのでしょうか。

ワトソンはアメリカのクイズ番組『Jeopardy!』（ジォパディ）で優勝しました。このクイズ番組はアメリカ人なら知らない人はいないという人気番組です。

1964年から現在までも続いている超長寿なクイズ番組です。人工知能ワトソンは2011年に人間2人と対戦し見事勝利しています。この番組では、ただ質問に答えるだけでなく、自分のポイントをベットして、クイズに正解するとその分ポイントを稼ぐというようなルールです。

クイズでの対戦はクイズ王を相手に3日間かけて行われました。結果としてワトソンが勝利しました。このワトソンが凄いのは、戦況を常に判断していることです。自分がリードしているときには、自分のベットするポイントを控え、攻め時にはポイントを多くベットする。

この戦況判断をしながら、自分のポイントをコントロールし、さらにクイズに答えて正解するという難しい作業をワトソンは見事にこなしました。これは将棋やチェスで人間と対戦する事とは異質な状況判断能力を有するものです。

何より、クイズ番組となると質問の文法自体がニュアンス的な表現が含まれることがあるため、人間的な感覚がないと正確に質問を理解することができない場合もありうるのです。

また面白いのが、ワトソンにはアバター的なものを搭載しており、自分が導き出している解答に自信があればグリーン、自身があまり無い時はオレンジ、自信がない場合にはイエローというように色で状態を視覚化してあるところです。

これは開発者がそうプログラムをして計算状況を視覚化するために作ったものですが、これがオレンジやイエローならワトソンが苦戦しているように見えます。

そこがまた人工知能に人間らしさを感じる要素となったようです。もしこれを色ではなく、顔の表情として表したのならかなりリアリティを感じることでしょう。

人工知能ワトソンががん治療で適切なアドバイスをする

これは東京大医科学研究所の話ですが、人工知能のワトソンが60代の女性が白血病であることを判断し、適切な抗癌剤を指示し女性が退院に至ったという話です。

もともとこの患者は医師の判断のもと抗癌剤治療を続けてきたそうです。女性は急性骨髄性白血病との診断で2種類の抗癌剤治療を受けていたそうですが、体質にあわず状態は悪くなる一方だったそうです。

敗血症も起こしかけたということだったので、おそらく抗がん剤の弊害によって免疫細胞が大ダメージを受け、その割にがん細胞は減らせなかったものと思われます。

そこで2015年から東京大学がワトソンを使った研究をしていたという流れから、ワトソンに病気の診断をさせてみたそうです。

すると、ワトソンは女性の状態から急性骨髄性白血病の「二次性白血病」というタイプまで分析し、それにフィットする抗がん剤として別のものを推奨してきたそうです。

実際にワトソンが推奨してきた抗がん剤に変更したところ、患者の病状は大幅に回復し、結果として患者は退院に至ったということです。

これは驚きですよね。人間が患者の病気を診断し、治療法を決めることよりも、人工知能に任せたほうが良い治療ができる可能性を大きく示唆した実例だと思います。

当たり前の話ですが、抗がん剤は取り扱う病院や医者の判断まかせなわけです。さらに穿った見方をすれば、抗がん剤は使ってみないと当人に効くかどうかは全くわからず、患者の体質にも大きく影響します。

万が一体質に合わない場合、敗血症からの肺炎などを併発し亡くなることがあります。がんではなく抗がん剤の副作用で亡くなっている人が発表こそありませんが、実際には多数いることが昔から問題となっています。

初めから患者の体質や病気に対してフィットした薬剤を選べていれば余計なリスクは減らせるのです。そういう点で、人工知能に大きな期待が寄せられています。

現在、東大とワトソンを開発したIBMとでは、数千万件の医学論文やデータをワトソンに覚えさせているそうです。医者ではなく人工知能が治療法を指示する時代が来るのかもしれません。

あなたは医者と人工知能のどちらを信用しますか？

注目記事：クォーンという人工肉に危険はないのか？安全性や原材料は何？味は美味しいのか不味いのか調べてみた！

人工知能ロボット ソフィアはやらせだったのか、疑惑を探る

あなたは感情を表現するロボット「ソフィア」をご存知ですか？ソフィアは人間とコミュニケーションが可能な人工知能搭載のロボットです。ソフィアは開発者のデイビッド・ハンソン氏を中心としたハンソンロボティクスによって開発されたロボットです。

このソフィアの特徴としては62種類の顔の表情や目の動きを変化させて自然な会話を形成する能力があります。

ソフィアの顔の表情はこのように複雑なモーターとギア、ワイヤーなどを組みあせて表現するように作られています。現段階ではこうのような感じですが、テクノロジーの進化とともに、パーツの小型化、精密はもっと進んでいきます。

そうなると、もっと装置の収納がコンパクトになります。現段階ではまだ不気味さがありますが、カツラを上手に付けたらかなり人間に近い印象になることが予想されます。

そして次の動画を可能でしたら御覧ください。ソフィアが実際に話す映像です。

 

動画をご覧頂くとわかるのですが、非常にソフィアは流暢な会話能力を備えています。まだ表情には不気味さを感じますが、それでもこれまでのロボットとくらべてもかなりナチュラルな会話能力です。

これには本当に驚きます。質問すると返事を返す反応が即答なんですよ。人間が質問する言語の理解力の速さと返答へのタイムラグが全く無いのに驚きます。

ソフィアは動画の中ではデザインやテクノロジーや環境に関して興味があると語り、アートなどについても学びたいというような積極的な言葉を話しています。

しかし開発者の最後の質問に対するソフィアの答えが衝撃的すぎました。次の一言が人工知能の恐怖をイメージさせる大きな一端となります。開発者がVTRの最後にこう質問します。

デイビッドハンソン「人類を滅亡させたいか？」それに対してソフィアは驚愕の即答をします。ソフィア「OK、私は人類を滅亡させます」。。。。。

この場では笑いまじりの空気となりましたが、開発者のデイビッドハンソン氏の表情は苦笑いを浮かべていました。もしこのソフィアの恐怖の発言が、人間の気持ちを逆手にとったブラックジョークだとしたら相当に高等なのですが、その真相はわかりません。

これが話題作り、いわいる「やらせ」ではないのかといった疑問の意見があるようです。やらせかどうがというと、この動画を見た感じではやらせには見えませんでした。もともとこれだけのクォリティーのソフィアです。

わざわざやらせをやる必要もないように思います。仮にやらせだとしても話題作りとして、ブラックジョークであることを切に願います。開発者の表情を見る限りでは本気で少し焦っている感じがします。

やらせではなかったのではないでしょうか。しかしその後ソフィアはさらなる学習を続けており、現在はさらに進化しているようです。

開発者の調整や人工知能の学習を繰り返すことで、先述の「人類を滅亡させる」という危険な発言とは逆に、平和を願うよう発言に変化しているようです。

これに関しては個人的には強制的に、人類に関して危険を感じさせたり、危害を加えるようなことはしないように設定を厳密にしたほうが良いと思います。

そうですよね？ここを人間と同じような自由な学習や独自の理解力だけに任せていたら、いずれ悪を好む人工知能が生まれることも有り得る話です。映画のターミネーターみたいなことが現実に起こりうる可能性もあるので、これは末恐ろしいです。

あくまで人工知能なのですから、人間に対する保護意識だけはしっかりプログラムするのが鉄則ですよね。あくまで人工知能の使い方は、分野を限定的に絞って活用するのが一番安全と思います。

ホーキング博士が人工知能AIの危険性を警鐘

スティーブン・ホーキング博士は人工知能に関して大きな警鐘を鳴らしています。ホーキング博士は相対性理論をさらに前進させ1963年にブラックホールの特異点定理を世界に発表し一躍有名となりました。

まさにブラックホールの研究の第一人者といっても過言ではありません。

ホーキング博士は人工知能に関してこう述べています。「完全な人工知能を開発したとすれば、それは人類の滅亡を招くかもしれない」そしてさらにこうも語っています。

「人工知能が自我をもって自律的に稼働し、自分自身を修正し成長させることも考えられる。ゆっくりと進化する人間には勝ち目はない。やがては人工知能に多くの分野が支配されるだろう。」

そしてイギリスのINDEPENDENT紙に奇行された同博士の論説にはこうも書かれています。「人工知能の発明は人類の歴史の中で最も偉大な発明だった。しかしそれと同時に人類にとって最後の発明となってしまう可能性がある」と語っています。

これには私もある程度納得しています。よくよく考えてみると、世の中の原理原則として知性の高いものが知性の低いものを支配する構図となっています。今は人間が地球上で最も知性が高い生物です。

力だけでいけば、人間はクマやゾウには勝てませんし、足の速さではチーターや馬に勝てません。しかし知性においては圧倒的に地球上で人間が一番高いことは周知の事実です。

フィジカルよりもインテリジェンスが勝るほうが生態系のトップに立てるということを証明しているものと思います。もし今後、技術の進歩により人工知能が高い知性を獲得したとすると、この構図は一変する可能性も否定はできません。

「そんなことあるわけない」「さすがにそれは言いすぎでしょ」と思われるかもしれません。もちろん、現段階ではそうかもしれません。

しかし技術の進歩はこの100年で圧倒的なスピードで発展しています。ITに関しても急速に進化し、わたしたち人間自身が生活環境の変化についていけなくなってきています。

見方を変えてみれば、人間だって高度で有機的なコンピューターと捉えることもできるわけです。人工知能か天然知能かの違いでしかなく、知能の高さに関しては、有機か無機かは関係がないのです。

もし人工知能が高い知性を獲得し、機械の体を持ったとすれば、冗談では済まなくなります。あくまで知性の高い方が支配力において勝るという原則がもし正しければの話ですが。。。

あのイーロン・マスクも人工知能に関して危険性を感じ懸念を表明している

ロケットや宇宙開発で有名なスペースX社、そしてテスラモーターズのCEOでもあるイーロン・マスク氏も人工知能に関しては慎重に対応する必要があると語っています。

イーロン・マスク氏はホーキング博士よりはトーンダウンした印象ですが、それでも彼は危険性を感じ懸念を持ってはいるようです。イーロン・マスク氏は人工知能に関して、「（対応を謝ると）結果的に悪魔を呼び出すことになる」という表現をしています。

つまりやり方次第で人工知能は天使になり悪魔にもなり、毒になり薬にもなるということのようです。さらに念を押すような意見としてこうも述べています。「わたしは自分が話している分野について、決していい加減なことは言ってはいない」とも語っています。

それだけ、人工知能の分野においてイーロン・マスク氏にも懸念材料が数多くあると見ているようです。時代の最先端を行き、常に先を見ている人がいう言葉は決して軽く捉えてはいけないのかもしれません。

関連記事：東日本大震災の人工地震説その目的や噂を調査！デマや嘘なのか？

まとめ

• 人工知能は危険ともとれる独自の会話をしはじめていた。
• 人工知能搭載のロボットソフィアの人類滅亡発言はやらせかどうかはわからない。
• 人工知能に関してホーキング博士やイーロン・マスクが警鐘を鳴らしている。

人工知能は急速に活用され始めています。便利なことは良いことですが、しかし人工知能のボブとアリス会話やソフィアの発言を見ても、ちょっと不気味で恐怖を感じることも否めません。

こういったことから人工知能の危険性をいたずらに煽るつもりはありませんが、下手をすると人類自ら大変な問題を生み出してしまう可能性もゼロではないので、慎重に対応をすることだけは間違いないことです。

しかし病気や薬の診断などはとても良いのではないでしょうか。人間より精度が必要な状況判断などでは、人工知能は私達の生活に多いに貢献してくれそうです。

便利なものには必ずその反対の性質も兼ね備えているものです。とにかく人類にとって人工知能は脅威にはならず、便利で安全なものとなってくれることを切に願います。