JFrogのセキュリティチームは、Hugging Faceプラットフォーム上で少なくとも100個の悪意のあるAI/MLモデルを発見しました。一部のモデルは、被害者のマシン上でコードを実行し、持続的なバックドアを提供する可能性があります。セキュリティ研究者は、ユーザーがアップロードしたballer423モデルのように、指定されたホスト上にリバースシェルを確立できるなど、PyTorchとTensorflow Kerasモデルに悪意のある機能が存在することを発見しました。一部の悪意のあるモデルは、セキュリティ調査目的でアップロードされ、脆弱性を発見してバグ報奨金を得ようとした可能性があります。
オープンソースコミュニティHugging Faceが最近発表したランキングによると、アリババが発表した万象大規模モデルは、オープンソース化からわずか6日でDeepSeek-R1を上回り、モデルホットランキングとモデルスペースランキングの2つの主要ランキングで首位を獲得しました。この成果は、万象大規模モデルの技術的な卓越性を示すだけでなく、世界中のオープンソースコミュニティにおけるその高い認知度と影響力の大きさを反映しています。
今日未明、世界最大のオープンプラットフォームの一つであるHugging FaceのCEO、Clement DelangueがSNSで発表しました。DeepSeek-R1はHugging Face上で10,000以上のいいねを獲得し、同プラットフォームの近140万のモデルの中で最も人気のある大規模モデルとなりました。この画期的な成果は、DeepSeek-R1が世界のAIコミュニティで広く認識され、影響力を持つことを示しています。
AIセキュリティ企業Adversa AIが衝撃的な報告を発表しました。イーロン・マスク率いるxAIが最近リリースしたGrok 3モデルに重大なセキュリティ上の脆弱性が存在するというものです。Adversaの研究チームは、この最新のAIモデルが「簡単な脱獄攻撃」を受けやすいことを発見しました。これにより、悪意のある者が「子供を誘拐する方法」「死体の処理方法」「DMTの抽出方法」「爆弾の製造方法」など、機密性の高い情報を入手できる可能性があります。さらに悪いことに、Adversa
