DeepSeekは、オンラインサービスが最近大規模な悪意のある攻撃を受け、登録プロセスが混雑する可能性があると発表しました。DeepSeekは、登録が困難な場合は、しばらく待ってから再試行するようユーザーに警告しています。既に登録済みのユーザーは通常通りログインでき、影響を受けません。また、DeepSeekが一時的に86以外の国番号の電話番号による登録を制限していたという報道もありますが、既に登録済みのユーザーのログインには影響ありません。DeepSeekは現在最も人気のある大規模言語モデルの1つであり、主要なランキングで、そのDeepSeek-V3は…

先日、田柯宇氏がバイトダンスでのインターンシップ中に発生した悪意のある攻撃事件が再び注目を集めています。北京大学のインターンであった田氏は、バイトダンスでのインターンシップ中に参加した論文でNeurIPS2024最優秀論文賞を受賞しました。この論文はNeurIPS2024で6番目に高いスコアを獲得した論文でもあります。この事件の逆転劇にネットユーザーは衝撃を受けています。田氏の論文はNeurIPS2024で「最優秀論文」賞を受賞し、今年は国内で2番目の受賞となります。さらに、田氏はICLRなど、複数のトップカンファレンスの論文を発表しています。

Gartnerが最近発表したレポートによると、サイバー攻撃における人工知能（AI）の利用は、企業が直面する最大の脅威として3四半期連続で上位を占めています。同コンサルティング会社は7～9月の間に286人の上級リスクおよび監査幹部を対象に調査を実施し、その結果、AI強化された悪意のある攻撃について80％の回答者が深刻な懸念を示しました。AIを利用したサイバー攻撃が増加しているという証拠があるため、この傾向は驚くべきことではありません。画像出典：AI生成画像、画像ライセンスサービス提供

自動運転車は、意思決定、環境認識、予測モデルにおいて人工知能システムに大きく依存していますが、バッファロー大学による研究で、これらのシステムが攻撃を受けるリスクが明らかになりました。現在の研究は制御された環境下で行われていますが、ライダー検知におけるAIモデルの脆弱性が明らかにされ、業界に大きな影響を与える可能性があります。3Dプリンティングと金属箔で作られた「レンガマスク」によって、車両をライダー検知から「消失」させ、歩行者検知を妨害できる可能性があります。保険金詐欺、競争、あるいは悪意のある行為など、様々な攻撃動機が考えられ、懸念されています。

スイスのスタートアップ企業Lakeraは、企業を大規模言語モデルの悪意のあるプロンプト攻撃から保護することを目的としたAPIを発表しました。インタラクティブゲーム「Gandalf」を開発することで、Lakeraは攻撃分類システムを構築しました。Lakeraはまた、個人情報や機密データが公開されるのを防ぎ、コンテンツをフィルタリングして、LLMが子供に不適切な情報を提供しないようにすることに取り組んでいます。LakeraのAPIの発表は、EUによるAI規制の導入が差し迫っているという背景があります。