大規模言語モデル(LLM)が生産性分野で広く利用されるにつれて、その安全リスクもますます顕著になっています。プロンプト攻撃は、LLMに危険なコンテンツを生成させる敵対的攻撃手法であり、システムのセキュリティに深刻な脅威をもたらします。この記事では、12種類の敵対的プロンプト攻撃戦略を詳細に分析し、レッドチームデータセットを使用してLLMのセキュリティを強化するための提案を紹介します。全てのインターネットユーザーは警戒を怠らず、共にインターネットの安全を守りましょう。
関連AIニュースの推奨
アリババグループのヘルスアプリ AQ が「アフー」と改名、月間アクティブユーザー数が1,500万を突破
アリグループのAI健康アプリ「AQ」が「アリのアフ」に改名し、新バージョンをリリース。健康サポート、Q&A、サービスに焦点を当て、月間ユーザー数1500万人を突破。国内トップの健康管理AIアプリとして、ツールから「AI健康友達」へ進化し、スマートサービスで体験向上を目指す。....
Tenstorrent、社員の7.5%を削減! パーソナル開発者向けAIチップへの焦点移行と事業計画の見直し
AIチップ企業Tenstorrentが従業員の7.5%を削減し、社員数は約1000人に。CEOのJim Kellerによると、財務状況ではなく、スキルや適性に基づく全社的なリストラ。販売戦略も見直し中。....
ロシアのインテルネット大手からAIインフラの急成長企業へ:Nebiusは2.5GWの演算能力を用いて世界のAI競争の構図をどのように書き換えたのか?
オランダのNebius社が2025年のAI計算競争で急成長し、MicrosoftとMetaから巨額受注を獲得、業績と株価が急上昇。2026年までに大規模計算クラスター建設を計画するが、電力消費は膨大。同社は新興企業ではなく、以前から実績を蓄積していた。....

アントグループが大規模な行動をとる!アフーのアプリが登場:健康サポート機能を追加し、Q&A機能が向上
アリグループはAI健康アプリ「AQ」を「アリのアフ」にアップグレードし、新バージョンをリリース。健康サポート、Q&A、サービス機能を強化し、AIツールから「AI健康友達」へと進化。月間アクティブユーザーは1500万人超で、国内AIアプリトップ5入り。....
グーグル Gemini に新機能 NotebookLM を追加!チャットで直接ノートを添付!
GoogleはAIツールNotebookLMをGeminiプラットフォームに統合し、ユーザーがチャット時にノートをコンテキストとして利用できるようにしました。現在小規模テスト中で、将来的に広く展開される可能性があります。NotebookLMはノート管理を効率化し、Gemini内でノートブックを添付してAIに追加情報を提供できます。....

初の100%AI生成ゲーム『Codex Mortis』が物議を醸す:技術実験なのか、創造性の低下なのか?
『Codex Mortis』は、コード、グラフィック、音楽の全てをAIで生成した初のゲームと自称。開発者はわずか3ヶ月で、ChatGPTなどを活用して制作を完了した。....
マルチエージェントシステムが必ずしも効率を向上させるとは限らない グーグルとマサチューセッツ工科大学の研究が真実を明らかに
Googleなどの研究によると、マルチエージェントシステムの性能はタスクの種類によって大きく変動し、並列タスクでは集中型アーキテクチャが優れています。....

2か月以上世界ランキングをリードし、アント・データサイエンスはデータインテリジェンスのキーコンポーネント技術をオープンソース化すると発表
アリババグループのアント・デジタル・サイエンスは、CCF中国データ大会でAgentar SQLの主要技術をオープンソース化。論文、コード、モデルを含み、非専門家が日常言語でビジネスデータを問い合わせ可能にし、企業にインテリジェントデータ分析基盤を提供。初回はText-to-SQLフレームワークを公開し、開発者のテキストからデータベース問い合わせへの変換を支援。....

2025年にYouTubeで偽の反対党動画が12億回視聴され、公的な関心を引き起こす
2025年、150以上の匿名YouTubeチャンネルが安価なAIツールを使い、労働党を誹謗する大量の偽動画を制作し、累計視聴回数は12億回を超えた。これらのチャンネルは英国の政治対立を煽る内容で利益を得ており、530万人の登録者と5.6万本以上の動画を抱える。主な攻撃対象はキア・スターマー首相で、言及回数は1.56万回に上る。....
ディズニーがAIを加速して実用化:DisneyGPTからジャフィーまで エンタメ大手が自前の知能クリエイティブエンジンを構築中
ディズニーは生成AIを積極的に活用し、外部ツールの導入やDisneyGPTの自社開発を通じて、創造プロセスにAIを統合し、技術変革への意欲を示しています。....