190億ドルの評価額を誇るAIスタートアップ企業AnthropicのCEO、ダリオ・アモデイ氏は、水曜日にサンフランシスコで開催されたAIカンファレンスで、人工知能の発展リスクに関する考えを提示しました。現在のAIモデルが人類に差し迫った脅威をもたらすとは考えていないものの、AIのリスクを軽視する同業者たちの意見には鋭く批判的な見解を示しました。

著名なベンチャーキャピタリスト、マーク・アンドリーセン氏の意見に対して、アモデイ氏は独自の分析を展開しました。アンドリーセン氏は今年3月、「AIを制限することは、数学、ソフトウェア、チップを制限することと同じだ」とツイートし、AIを単純に「数学」と定義しました。これに対し、アモデイ氏は、この論理に根本的な欠陥があると指摘します。「この論理に従うなら、人間の脳も数学ではないでしょうか？ニューロンの発火と計算も数学です。そうだとすれば、ヒトラーさえ恐れる必要はありません。それは単なる数学だからです。宇宙全体を数学に還元することもできます。」

ロボット 人工知能 AI (2)

画像出典：AI生成画像、画像提供サービスMidjourney

OpenAIの元副社長であるアモデイ氏は、2021年に同社を退社し、Anthropicを設立しました。彼はAIの潜在的なリスクを公に警告するテクノロジー幹部の1人であり、AI業界への適切な規制を支持しています。実際、Anthropicはカリフォルニア州のAI規制法案を支持していましたが、この法案は最終的に否決されました。

これとは対照的に、OpenAIやXaiなど複数のAI企業に投資しているアンドリーセン氏は、AI技術は規制なしで発展すべきだと主張し、AI安全警鐘派を「カルト」と呼び、AI規制は「新たな全体主義」につながると考えています。

アモデイ氏は、現在のAIモデルは「十分に賢くなく、自律性も不足している」ため、人類に深刻な脅威を与えることはないことを認めていますが、AI技術が急速に進化していることを強調しています。特に、人間の指示を自律的に実行できるAI「エージェント」の登場により、人々はAIの能力とその潜在的な危険性をより深く認識するようになると考えています。

「現在、人々はチャットボットの予測不可能な行動を笑って済ませるかもしれません」とアモデイ氏は述べています。「しかし、将来のAIエージェントに対しては、より良い制御メカニズムを構築する必要があります。」

この論争は、AI業界における安全に関する意見の相違を反映しているだけでなく、AIの急速な発展において、イノベーションと規制のバランスをどのように見つけるかが重要であることを浮き彫りにしています。技術が急速に進歩する中で、潜在的なリスクを理性的に評価し、予防策を講じることは、AIの健全な発展を確保するための鍵となります。