イーロン・マスクと AI: コブラ効果からの教訓

イーロン・マスクが最初から AI を愛していたことは誰もが知っています。彼は OpenAI が旅を始めたときに支援し、自動運転車にも取り組み、人々が人工知能に疑問を抱いていたときにそれを現実のものにしました。しかしその後、何かが変わり、Elon Musk は突然 AI について心配し始め、質問をし始めました。この心の変化の背後にある本当の理由は何でしょうか?

技術的な詳細に入る前に、これまで聞いたことのないエキサイティングな話をさせてください。これは、AI に対するイーロン マスクの気持ちが変わった理由を理解するのに役立つかもしれない話です。

むかしむかし、インドが英国に統治されていたとき、非常に大きくて危険なヘビに大きな問題がありました。これらのヘビは 3 メートルを超え、毒に満ちていました。彼らは人や動物の両方をかみ、村人に多くの迷惑をかけました。

インドでは多くの人が生計を牛に依存しており、たった1頭の牛をヘビにかまれて失うだけでも大惨事になる可能性があります。政府は、人々を助け、これらの危険なヘビを駆除するために何かをしなければならないことを知っていました.

それで、彼らは計画を思いつきました！彼らは、ヘビを殺して持ってきた人に報酬を与えることにしました。これは村人を興奮させ、報酬を得るためにヘビを狩り始めました。政府は問題を解決したと思っていましたが、奇妙なことが起こりました。

数か月後、政府はまだ死んだヘビに報奨金を支払っていました。困惑した彼らは、何が起こっているのかを調査することにしました。

驚いたことに、賢い村人たちがヘビからお金を稼ぐ方法を見つけ、ヘビ ファームを始めたことを発見しました。彼らはヘビを育て、余分なお金が必要なときだけ殺し、死んだヘビを政府に持ってきて報酬を得る.

政府はこの発見にショックを受け、彼らの計画が裏目に出たことに気づきました。彼らはすぐに報酬システムを停止し、最終的にヘビの問題が自然に解決することを期待しました。そのため、村人たちは、まだ土地を歩き回っている卑劣なヘビから自分自身と牛を守るための新しい方法を見つけなければなりませんでした.

この状況を簡単に言えば、Perverse Incentive (Cobra Effect)と呼びます。

この話から学べる教訓は、本当に成功したいのであれば、正しい目標を選ばなければならないということです。

人工知能の世界では、科学者とエンジニアが、人間のように考えて学習できる機械を作ろうと懸命に取り組んでいました。彼らは、人間の脳に関する知識を利用して、人工ニューラル ネットワーク (ANN) と呼ばれるものを構築しました。これは、私たちの脳が情報を処理する方法を模倣するように設計されています。

しかし、英国政府がヘビの報奨金で予期せぬ問題に直面したように、これらの賢い AI の作成者は、新しい発明でも同様の課題に直面する可能性があることを知っていました。ご覧のとおり、ANN と人間の脳はどちらも同じ知性行動によって動かされているため、意図しない結果が生じる可能性がありました。

AI システムを作成する研究者や科学者は、マシンを設計する際、特にヘビの報酬の話を考える際には、非常に注意する必要があることを知っていました。しかし、マシンが大きくなり、GPT-3.5 や GPT-4 のように強力になるにつれて、マシンがどのように機能するかを理解することが難しくなりました。

これらの巨大な機械には、パラメーターと呼ばれる数十億もの小さな部品があり、小さな機械であっても、それらがどのように答えを導き出すかを常に知っているわけではありません. 村人がヘビの報酬で行ったように、彼らが物事を行うための卑劣な方法を見つけないと確信できないため、これは大きな問題になる可能性があります.

イーロン マスクや他の科学者のような人々は、これらの巨大な AI の実験について心配しています。なぜなら、それらが有益ではなく、有害なものを誤って作成してしまう可能性があるかどうかを知るのは難しいからです。ヘビの報酬の話は、この懸念を理解する簡単な方法ですが、AI に関しては、他にも考慮すべきことがたくさんあります。

大きな問題は、舞台裏で何が起こっているのかを理解していない場合、これらの巨大な AI マシンで危険なものを作成しないようにするにはどうすればよいかということです。AI を誰にとっても安全で役立つものにする方法を見つける必要があります。