2021年以降、マイクロソフトのAIセキュリティチームは100種類以上の生成AI製品をテストし、弱点と倫理的問題を調査しました。その発見は、AIセキュリティに関する一般的な仮説に異議を唱え、人間の専門知識の継続的な重要性を強調しています。最も効果的な攻撃は常に最も複雑な攻撃とは限らないことが証明されました。マイクロソフトのレポートでは、ある研究が引用されており、「真のハッカーは勾配を計算するのではなく、プロンプトエンジニアリングを使用する」と述べています。この研究は、人工知能セキュリティ研究と現実世界の実際を比較しています

Microsoftは最近、AI駆動のBing画像生成器のモデルアップグレードをロールバックする決定を下しました。この決定は、新バージョンのパフォーマンスに対するユーザーからの不満を受けて行われたものです。12月18日にBing画像生成器を新バージョンのDALL-E3モデルにアップグレードした後、ユーザーはツールのパフォーマンスが大幅に低下したことに気づいたと報告されています。ユーザーは、生成された画像の品質が以前より劣っており、特にディテール処理やプロンプトの正確な反映において問題があると不満を述べています。ソーシャルメディアや関連フォーラムでは、多くのユーザーが失望を表明しています。

1900万人以上のユーザーを擁する著名なAI画像生成器Midjourneyが、ユーザーのパーソナライズされたカスタマイズ体験をさらに向上させることを目的とした一連の新機能を発表しました。今回のMidjourneyアップデートの主要なハイライトは、Pinterest風の「ムードボード」機能の導入と、複数のパーソナライズされた設定に対応したこと。これにより、ユーザーは複数のカスタマイズされたMidjourney最新画像生成モデル6.1を作成して切り替えることができ、独自の美的嗜好を満たすことができます。今回のアップデートは…

Amazonは最近、社内AIモデルであるTitan Image Generatorのアップグレード版v2を発表し、AWS Bedrock AI生成プラットフォームを利用する顧客に一連の強化機能を提供しました。Titan Image Generator v2は、以前の機能を維持しているだけでなく、画像調整、配色スキームの制御、背景除去の最適化、テーマの一貫性の維持などの新機能も追加されました。ユーザーは参照画像とテキストプロンプトを提供することで、生成される画像の内容を正確に制御し、さらには制御できます。

AI画像生成器は、制作効率を大幅に向上させ、特に時間制限のあるタスクにおいてプロフェッショナルのワークフローを最適化します。Getty ImagesとiStockは、更新されたAIモデルを発表しました。このモデルは以前の2倍の速度で、わずか6秒で4枚の画像を生成できます。新しいモデルでは、最大250単語のプロンプトを入力でき、様々なカメラ制御オプション、4Kの高解像度出力、AIによる修正機能（背景除去、要素追加、画像拡張など）を備え、画像品質と創造性を大幅に向上させます。

人権団体ヒューマン・ライツ・ウォッチ（HRW）の最新報告書によると、いくつかの一般的なAI画像生成器のトレーニングデータセットに、ブラジルの児童の個人写真が許可なく大量に使用されていることが明らかになりました。これは、児童のプライバシーと安全に対する深刻な課題を引き起こしています。

Google共同創業者のセルゲイ・ブリン氏が久々に公の場に姿を現し、Googleの画像生成器Geminiを痛烈に批判。Gemini画像生成器の問題点を指摘し、Googleは当該機能の一時停止を発表。ブリン氏は、Gemini画像生成器の問題は意図したものではないと主張。ブリン氏のGoogleへの復帰、大規模言語モデルの「幻覚」問題への慎重な姿勢、汎用人工知能（AGI）開発への支持、Googleのビジネスモデルへの自信、Google Glass、Apple Vision Pro、Meta Questへの言及など。

TheDebriefは、AI画像プラットフォームMidjourneyに関する調査を報道し、同プラットフォームが不適切なコンテンツを誤って生成し、独自の利用規約に違反していることを明らかにしました。調査では、MidjourneyのNSFWフィルターシステムに脆弱性があり、ユーザーがコンテンツ制限を回避できることが判明しました。記事は、Midjourney Version 6では、露出した画像に対するフィルタリングが緩和されているように見えると指摘し、懸念を引き起こしています。Midjourneyによって生成された画像は、要求されたものではなく、深刻な矛盾が存在する可能性があります。

Google Bardは、検索生成エクスペリエンスやスライドショーに続く、独自のAI画像生成機能の提供を計画しています。Bardはシンプルな制作プロセスを提供し、ユーザーは単語を数個入力するだけで、想像力を現実のものに変えることができます。AI画像生成機能はGoogleのImagenシリーズモデルによってサポートされ、高品質でリアルな高解像度、美しい画像を提供します。昨年リリースされた画像生成機能とは異なり、Bardの画像生成機能はDuet AIの一部として、Google スライドとMeetに追加されます。

新たな報告書によると、AI画像生成器の基盤には何千もの児童性的虐待画像が隠されており、企業は技術上の欠陥に対処するための行動を促されています。これらの画像は、AIシステムが現実的な偽の児童画像を生成しやすくし、ソーシャルメディア上の服を着た実際のティーンエイジャーの写真を裸の写真に変換することを可能にします。この問題には簡単な解決策はなく、企業が技術上の欠陥に対処するために行動を起こす必要があります。

アマゾンはre:InventカンファレンスでTitan画像生成器を発表し、大きな進歩を遂げました。顧客に法的保護の選択肢を提供します。Titan画像生成器はアマゾンAWSの一部であり、企業開発者向けのツールで、テキスト生成、画像編集をサポートし、保護メカニズムが組み込まれています。他の消費者向けの画像生成器とは異なり、アマゾンは企業市場に焦点を当て、バイアスを防ぎ、不可視の水印でAI生成であることを示しています。アマゾンのAI戦略は新たな段階に入り、法的保護を提供し、画像生成と応用分野での更なる発展が期待されます。

FortuneBusinessInsightsのレポートによると、世界のAI画像生成器市場規模は、2030年までに9億ドルを超えると予測されており、年間複合成長率は17.4％です。AI画像生成器は、デジタルアートやイラスト制作、マーケティング資料のビジュアル制作など、幅広い用途があります。企業分野が市場をリードしており、その理由はタスクの自動化とプロセスの最適化です。

🔍 訓練データが原因で、Bing AI画像生成器がリアルな女性画像の生成を拒否する可能性があることが判明しました。🤖 マイクロソフトは、過剰な保護措置として拒否したと回答しましたが、その後制限を緩和しました。🌐 AI生成とジェンダー問題のバランス、技術の正確性の向上を求める議論が活発化しています。

最新の研究で、Midjourney画像生成器に脆弱性が存在し、虚偽情報の拡散につながる可能性が明らかになりました。攻撃的な政治的画像を生成するなど、深刻な問題を引き起こす可能性があります。研究によると、ユーザーは容易に規定を回避し、規約違反の画像を作成できることが判明しました。コードを利用することで、サービス規約を回避し、制限のない画像を作成できることが分かりました。この発見は、AI画像生成器のセキュリティに対する懸念を高めています。