最近、セキュリティ研究者らが、著名な機械学習プラットフォームHuggingFaceに2つの悪意のある機械学習モデルが密かにアップロードされているのを発見しました。これらのモデルは、「破損した」pickleファイルを使用することで、セキュリティ検出を巧みに回避しており、懸念されています。ReversingLabsの研究者であるKarlo Zanki氏は、これらのPyTorch形式のアーカイブから抽出されたpickleファイルの先頭が、～を示唆していると指摘しています。

JFrogセキュリティチームは、Hugging Faceプラットフォーム上で少なくとも100個の悪意のあるAI/MLモデルを発見しました。一部の悪意のあるモデルは、被害者のマシン上でコードを実行し、持続的なバックドアを提供することが可能です。セキュリティ研究者は、プラットフォーム上のPyTorchおよびTensorFlow Kerasモデルにおいて、悪意のある機能を持つモデルを発見しました。例えば、baller423というユーザーがアップロードしたモデルは、ホスト210.117.212.93にリバースシェルを確立することができます。一部の悪意のあるモデルは、セキュリティ目的で作成された可能性もあります。