スティーブンのブログ

人工知能がもたらす退化

ビジネスでの人工知能やオートメーションの発達は、生産性の向上における新時代を意味すると考えている人々がいますが、一方で、それが仕事がなくなったり解雇されたりすることの前触れと感じている人々もいます。

しかし私は、仕事場における人工知能やオートメーションが、人間の判断力や感情を必要とする部分をどこまで退化させるか、また効率化にどれだけの影響を与えるかに疑問を持っています。

これまでにも、優秀な可能性の高い人材を早いうちに見定めるために人工知能を利用している企業を数多く目にしてきました。通常であれば、社則に従って(或いは個別であったり、その両方であったりする場合もありますが)マネージャーが定期的にスタッフの査定をすることで行われてきたことだと思います。人間であるマネージャーが機械にその判断を委ねるなどとは想像しにくいことです。が、実際にこういった光景が見られるようになってきているのです。

ここ日本にある有名企業の人事ディレクターに聞いた話ですが、彼女は機械は人間に比べると偏見がないからという理由で、雇用や昇進において優秀な人材を見極めるために人工知能に頼っているのだそうです。また、アマゾンが、人が持つ偏見のメガネなしに、強いリーダーシップを持つ素晴らしいマネージャーを見つけるためのシステムを開発したのも、それ程昔の話ではありません。しかし、このシステムは、意外にも男性を強く推す傾向を示し、女性を勧めることはありませんでした。機械は単に、男性にコントロールされていた社のリーダーシップに対する偏見を真似ていたに過ぎず、それも人間には無理な程の徹底したやり方で行っていたという訳です。もちろんアマゾンはこのシステムの使用は中止しました。

偏見のない機械など存在しません。機械学習システムは単にそれをプログラムした人間の偏見や、機械の学習元となっている人間の決断例に存在する偏見を、完璧に遂行、そして増長しているに過ぎないのですから。

最近東京で行われた人工知能とオートメーションのイベントでも、専門家達は、人工知能は人間の代わりに判断するためのものではなく、それによってより良い判断をするためのものであるという一致した意見を述べていました。

人工知能からもらったアドバイスに従う必要はない。それを考慮に入れれば良いというだけである。 Click To Tweet

しかし、人間であるマネージャーが機械からのアドバイスに反する結論を出す可能性はどのくらいだと思われますか。もしマネージャーが機械のアドバイスを受け容れ、それが結局間違っていたとしても、機械のせいにすることができます。一方で、機械のアドバイスに従わなかった結果、実は機械の方が正しかった、ということにでもなれば、専門のシステムを偉そうに無視したマネージャーが悪い、とされてしまうかもしれません。アマゾンの場合、あのとんでもないシステムの使用を中止しなかったら、どうなっていたでしょうか。

マネージャーが自分のキャリアを守るために、自分で判断することは諦めるのではないか、などと考えるのは、突飛なことだと思われますか。「IBMのサービスを取り入れたせいでクビになった人などいやしない」という表現を聞かれたことがあるかもしれませんが、機械に任せたという理由からクビになってしまう人もいないでしょうし、少なくともマネージャーはそういう考え方をするのではないでしょうか。

どの時点まで行けば、当たり前にテクノロジーに頼ることがずっと楽になって、テクノロジーができることを自分達ではできなくなってしまうのでしょうか。そんなことが起こる可能性は低いと思っている人もいるかもしれませんが、日本語ワープロのせいで漢字を手書きすることができなくなってきた日本人が増えてきたことを考えれば、そうとも言えないと思います。自動運転技術にしても、その普及のせいで、縦列駐車はおろか、運転さえ自分でできない人ばかりになるのは、そう遠い未来ではないのではないでしょうか。

SFテレビ番組スター・トレックの1966年に放送された回に、将来を暗示するかのようなこんな話がありました。船長や乗組員なしでも宇宙船を運転、指揮できるようなM5という先進人工知能の備わったコンピューターが開発され、それのテストがなされる、という内容です。船長であったジェームズ・T・カークは機械に取って代わられることを危惧しましたが、M5の天才発明者は、「このコンピューターがあれば、人間が極寒の宇宙で死に果てるような危険を冒す必要もない。」と豪語していていました。

M5のテストは非常に上手く進んでいましたが、ある日訓練のために行われた模擬の攻撃を受けた時、それを本物と間違え、宇宙船とその乗組員全員を破壊してしまいました。素晴らしい頭脳の備わっていたM5ですが、人間であれば持っている判断力と感情に欠けていたせいで、その攻撃が本物か偽物か、違いがわからなかったのです。M5にコントロールされていた宇宙船の乗組員達は必死でM5のスイッチを切ろうとしましたが、間に合いませんでした。結局人間の持つ感情や判断力を機械に任せることはできないのです。このエピソードは、M5プロジェクトが中止されるという結末でした。

しばらく前に、オートパイロットで飛んでいた最新型のボーイング737が海に墜落し、全ての乗客と乗務員が死亡するという事故がありました。事故後の調査で明らかになったのは、オートパイロットシステムが、機が失速していると勘違いし、それに対応するために機首を下げたということでした。操縦士は機を立て直そうとしましたが、オートパイロットが機首を下げ続けた為、それも無駄な努力となってしまったのです。どれだけ頑張っても、人間である操縦士がオートパイロットを止めることはできませんでした。

オートパイロットを切ることさえできれば、操縦士が自分達で飛行機を操縦することも可能だったはずです。しかしながら、いつかコンピューターなしで操縦ができるような人が機内に全然いないような状態で飛行機が飛ばされるような日も来るかもしれない、と私は恐れています。

あなたのビジネスではどうですか。近いうちにあなたの会社を操縦する方法を知っている人がいなくなるなどということはありませんか。


コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

このサイトはスパムを低減するために Akismet を使っています。コメントデータの処理方法の詳細はこちらをご覧ください