「人工知能の父」と呼ばれるジェフリー・ヒントン教授は、人工知能が今後10年以内に人類滅亡を引き起こす可能性があると警告しています。この技術開発への参加を後悔していると語るコンピューター科学者は、人工知能の急速な発展を産業革命に例えつつも、今回は機械が「すべてを支配する」可能性があると警告しています。
AI分野の先駆的な業績でノーベル物理学賞を受賞した77歳の英国人コンピューター科学者は、各国政府に対し、人工知能企業への規制強化を訴えています。ヒントン教授は以前、人工知能が30年以内に人類滅亡を引き起こす確率を10％と予測していました。
BBC Radio4のToday番組のインタビューで、分析に変化があったかと問われた際、彼はこう述べています。「実際にはありません。10年から20年、あるいはそれより短い時間だと思います。私たちはこれまで、自分自身より賢いものと関わったことがありません。より賢いものが、それほど賢くないものによって制御されている例がいくつあるでしょうか？そのような例はほとんどありません。」
1980年代、ヒントン教授は、データの属性を自主的に探し出し、画像内の特定の要素を識別できる方法を発明しました。これは現代の人工知能の基礎を築いたものです。彼は、この技術の進歩は「彼の予想よりもはるかに速い」ものであり、人類を「3歳児」のような存在に、人工知能を「大人」のような存在にする可能性があると述べています。
彼は続けてこう述べています。「産業革命のようなものだと思います。産業革命では、人間の力は[重要ではなくなりました]。機械の方が強力だったからです。溝を掘りたいなら、機械を使います。「私たちが今持っているものは、人間の知性を置き換えています。そして、普通の人間の知性は最先端ではなくなり、機械が人間に取って代わるでしょう。」
ヒントン教授は、人工知能は産業革命のように、チャールズ・ディケンズが記録したように、一般の人々の生活に劇的な変化をもたらすと予測しています。彼は、この技術を使った未来の生活は「政治制度がこの技術をどのように利用するかに大きく依存する」だろうと述べています。
彼はさらに付け加えています。「懸念しているのは、生産性の劇的な向上をもたらすとしても、社会にとって有益であるべきなのに、すべての利益が富裕層に流れ込み、多くの人が職を失い、より貧しくなる場合、最終的には社会にとって非常に不利になる可能性があるということです。」
「これらのものは私たちより賢いです。産業革命では、機械は単に強力であるという理由だけで人間に取って代わることは決してありませんでした。私たちは知性を持っていたので、依然としてすべてを掌握していました。今、これらのものはすべてを支配する可能性があるので、これは大きな違いです。」
彼は、この技術の未来について楽観的であると考える他の「非常に博識な」専門家たちが正しいことを「願っている」と述べています。
しかし、ヒントン教授は付け加えています。「目に見えない手が私たちの安全を保証してくれるとは限りません。そのため、それを単に利益追求を目的とする大企業に任せるだけでは、安全に開発できるとは限りません。」
「それらの大企業により多くの安全研究をさせることができる唯一の方法は、政府による規制です。」「ですから、政府は、大企業に大規模な安全研究を強制する必要があると強く信じています。」
ヒントン教授は以前、この技術を世界に導入したことについていくらか後悔していると述べていました。「後悔には2種類あります。1つは、すべきではないと知っていながら行ったことで罪悪感を覚える後悔、もう1つは、同じ状況であれば再び行うが、最終的に結果が悪いかもしれない後悔です。」
「私は2番目の後悔を持っています。同じ状況であれば再び行いますが、このことの全体的な結果を懸念しています。それは、私たちより賢いシステムが最終的にすべてを支配することです。私たちは、私たちより賢いものとはどのようなものかを知りません。」
