最新博客文章

6 / 200

AI 开发实战教程，从零到一构建你的 AI 应用。

チュートリアル日付

DeepSeek Harness サンドボックスと承認：危険な操作を封じ込める AIセキュリティ上級 dsh が操作の実行可否をどう判断するか。サンドボックス判断と承認フローの2段階設計、読み取り専用・ワークスペース書き込み・完全アクセスの3段階権限、承認リクエストのコンテキストとタイムアウト、Plugin 開発者が守るべき安全規約と脆弱性パターンを解説。 2026-09 ·46 分で読めます AIデータコンプライアンスとプライバシー保護計算の実装ガイド AIセキュリティ上級 AIシステムのデータコンプライアンスとプライバシー保護計算を、エンジニアリングの観点から体系化します。データ分級と最小必要がパイプライン設計を逆向きに制約する仕組み、静的・動的マスキングと仮名化・匿名化の法的境界、k-匿名性・t-近接性の形式保証と効用代償、TEE・準同型暗号・フェデレーション学習・秘密共有の信頼前提と能力境界、RAGにおけるベクトルDBと検索ログの漏洩面、派生資産での削除権の难点、越境移転判定と監査ログ、プライベートデータでのファインチューニング時の記憶・反演リスクまで。 2026-10 ·30 分で読めます AIアプリのセキュリティとコンテンツモデレーションのベストプラクティス AIセキュリティ中級 AIアプリケーションの稼働後、セキュリティは無視できない側面です。この記事では、プロンプトインジェクション対策、機密語フィルタリング、脱獄攻撃防御、APIキー管理、コンテンツモデレーション戦略について詳しく解説し、安全なAIサービス構築を支援します。 2026-08 ·14 分で読めます AI エージェントレッドチームテストとセキュリティ評価体系 AIセキュリティ上級ツールを呼び出せるエージェントは悪用されるリスクがあります。この記事では、エージェントのレッドチームテスト方法論を体系的に説明し、プロンプトインジェクション、権限外ツール呼び出し、サプライチェーン汚染などの攻撃面と、それに対応する自動評価・防御システムをカバーします。 2026-08 ·26 分で読めますプロンプトインジェクションの攻防：間接注入・ツールポイズニング・データ持ち出し AIセキュリティ上級エージェントがウェブページや文書を読み、ツールを呼ぶようになると、プロンプトインジェクションはモデル問題ではなくアーキテクチャ問題になる。直接注入と間接注入の信頼境界の違い、検索結果・MCP のツール説明・画像や隠しレイヤー経由の注入経路、符号化やモーダルをまたぐ窃取チャネルの構造を整理し、5 層の多層防御と到達性重視の赤チーム評価まで解説する。 2026-10 ·34 分で読めます AIレッドチーム自動化:手動の対抗テストから継続的なセキュリティ評価へ AIセキュリティ上級自動レッドチームの中心的な成果物は、突破可能な例を一つ出すことではなく、攻撃面および回帰スイートです。直接・間接インジェクション、ツールポイズニング、マルチモーダルペイロード、権限昇格、コスト枯渇を体系的に列挙し、モデル駆動のミューテーションと進化探索で少数のシードから大量の変異体へ広げ、収束を制御します。採点はルール・モデル判定・人手複核の3層構造で自動化し、攻撃は再現可能な回帰テストとしてCIへ3段階で組み込みます。誤検知が多い場合はクラスタリングと優先度付けで整理します。 2026-10 ·32 分で読めます