奇安信XLab研究所は2月6日、DeepSeekユーザーを標的とした大規模なフィッシング攻撃に関する最新のセキュリティレポートを発表しました。レポートによると、DeepSeekを偽装したフィッシングサイトの数は2000件を超え、増加し続けています。2024年12月1日から2025年2月3日の間に、DeepSeekを偽装したドメインが2650件発見されました。この偽装ドメイン登録活動は2025年1月26日に始まり、1月28日にピークに達しました。増加速度は…

2021年以降、マイクロソフトのAIセキュリティチームは100種類以上の生成AI製品をテストし、弱点と倫理的問題を調査しました。その発見は、AIセキュリティに関する一般的な仮説に異議を唱え、人間の専門知識の継続的な重要性を強調しています。最も効果的な攻撃は常に最も複雑な攻撃とは限らないことが証明されました。マイクロソフトのレポートでは、ある研究が引用されており、「真のハッカーは勾配を計算するのではなく、プロンプトエンジニアリングを使用する」と述べています。この研究は、人工知能セキュリティ研究と現実世界の実際を比較しています

奇安信グループが発表した『2024年人工知能セキュリティレポート』によると、2023年はAIベースのディープフェイク詐欺が3000％増加、AIベースのフィッシングメールが1000％増加しました。国家支援型のAPT組織によるAIを用いたサイバー攻撃事件も10件以上発生しています。人工知能技術の悪用は急速に増加するでしょう。