テクノロジー業界では、AIコーディングツールの使用をめぐり、開発者と管理層の間で「猫とネズミのゲーム」が展開されています。企業の15％がこれらのツールの使用を禁止しているにもかかわらず、ほぼすべての開発チーム（99％）が秘密裏にそれらを利用しており、ガバナンス体制を構築している企業はわずか29％です。この現象は、AIツールの管理、特に増大するセキュリティ問題における課題を浮き彫りにしています。回答者の80％が潜在的な脅威、特にAIが生み出す「幻覚」問題を懸念しています。回答者の47％は、AIによる無監督のコード変更を許可することに対してオープンな姿勢を示しています。

ニューヨーク・タイムズの報道によると、著名な人工知能企業OpenAIの内部フォーラムがハッキングされ、セキュリティ問題が発生しました。ハッカーは同社の人工知能技術設計に関する詳細情報を取得しましたが、OpenAIが実際にAIを構築するシステムへの侵入はなかったとされています。

OpenAIが最近リリースしたChatGPT Macクライアントに、懸念すべき潜在的なセキュリティ問題が発見されました。コンピューターに保存されている会話を容易に見つけ出し、平文で読むことができるのです。これは、悪意のある行為者や悪意のあるアプリケーションがデバイスにアクセスできれば、ユーザーとChatGPT間の会話とその中に含まれるデータに簡単にアクセスできることを意味します。

Googleは、生成AIのセキュリティ問題を対象としたバグ報奨金プログラムの拡大を発表しました。最大31,337ドルの報奨金が提供され、AIセキュリティの研究を促進します。Google BardやGoogle CloudのContact Center AIなど、Googleの生成AI製品が対象となります。

最新の調査によると、組織の52％が生成AIの使用においてセキュリティ上の懸念を表明しています。調査では、複雑さとハードウェアのリソース要件がそれぞれ39％と33％で、2番目に大きな懸念事項であることも判明しました。組織の82％は主にChatGPTを使用しており、調査は生成AIが企業アプリケーションで広く展開されていることを示しています。回答者は、今後2年間でAIが組織にもたらす影響について楽観的な見方を示しました。調査結果から、ほとんどの組織がAIの将来性について楽観的であることがわかります。