マイクロソフトは、デジタル犯罪対策ユニット（Digital Crimes Unit）を通じて、生成型人工知能（AI）ツールが悪用されたサイバー犯罪に対抗する法的措置に着手しました。バージニア州東地区で提出された非公開の訴状によると、マイクロソフトはAI製品・サービスのセキュリティ向上に努めているものの、サイバー犯罪者も有害なコンテンツ作成のためセキュリティ対策の回避策を模索し、常に進化していると述べています。マイクロソフトは、一部のサイバー犯罪グループが生成型AIを…

OpenAIは最近、人工知能モデルChatGPTがサイバー犯罪者によって悪用され、マルウェア開発、虚偽情報の拡散、フィッシング攻撃など様々な悪質な活動に使用されていると警告を発しました。新しい報告書によると、2024年初頭以来、OpenAIは世界中で20件以上の詐欺行為に関与し、AIの悪用という深刻な傾向を明らかにしています。これらの活動には、マルウェアのデバッグだけでなく、偽のソーシャルメディアアカウントのためのコンテンツ作成や魅力的なフィッシングメールの生成なども含まれています。

サイバー犯罪者が生成系人工知能を利用した攻撃を開始しており、MetaのLlama2大規模言語モデルも含まれています。グループSpider組織はLlama2を使用して、北米の金融サービス会社を標的とした攻撃スクリプトを作成しました。セキュリティ会社は、現在のAI攻撃検出能力は限られていると警告していますが、AIの悪用傾向は増加すると予想しています。報告書では、2023年には大規模言語モデルの悪用試みがあった可能性があるものの、生成された結果は有効ではなかった可能性があると指摘しています。

SlashNextが発表した「2023年フィッシングレポート」によると、悪意のあるフィッシングメールは2022年第4四半期以降、1265％増加しました。ChatGPTなどの生成系AIが、高度なフィッシング情報の作成に広く利用されており、サイバー犯罪の新時代を引き起こしています。毎日3万1000件のフィッシング攻撃があり、その68％がテキストベースのBEC（ビジネスEメール詐欺）です。IBMの研究では、ChatGPTが偽のメールを生成できることが明らかになり、電子メール詐欺への対策が課題となっています。