62-AIセキュリティ のビジュアル編集 Top > 62-AIセキュリティ <br /><p>〇代表的なAIセキュリティに関する攻撃手法（支援士試験向け）</p><br /><p><strong>・モデルインバージョン攻撃</strong></p><p>モデルから学習時に使われたデータを復元する攻撃。学習された<span style="font-size:16px; line-height:130%">個人データや企業のデータが主なターゲット。</span></p><p><span style="font-size:16px; line-height:130%">特定のデータが復元されプライバシーが侵害される可能性があります。</span></p><p><span style="font-size:16px; line-height:130%">（「AIが何を学んだかを逆算して、学習に使われた“個人情報”や“機密データ”を盗み出す」ような攻撃です。）</span></p><br /><p><strong>・PQC（Post-Quantum Cryptgraphy)</strong></p><p>将来的な量子コンピューターの脅威に対抗するために開発されている新しい暗号技術のこと。</p><br /><p><strong>・ドメインフロンティング</strong></p><p>そもそもドメインフロンティング（Domain Fronting）は、インターネット検閲を回避するために開発された技術だが</p><p>サイバー攻撃者によってマルウェアとの通信（C2通信）を隠蔽する目的で悪用されている。</p><p>CDNやクラウドが主な被害者だが、現在は対策されつつある。</p><br /><p><strong>・ドメインフロンティングを悪用した攻撃の対策</strong></p><p>通信の表面（SNI）と内部（Hostヘッダー）のドメイン名が一致しているかをチェックし、不一致の場合に通信をブロックする。</p><p>サーバー側で、TLS暗号化通信の確立時に送られるドメイン名（SNI: Server Name Indication）と、暗号化されたHTTPリクエストに含まれるドメイン名（Hostヘッダー）が一致していることを強制させる。</p><br /><p><strong>・UEBAの機能</strong></p><p>User and Entity Behavior Analytics（ユーザーとエンティティの行動分析）の略で、人間の目では見逃しがちな、隠れた内部脅威やアカウント乗っ取りの兆候を、データ分析と機械学習の力で自動的に見つけ出すツール。</p><br /><p><strong>・Adversarial Examples（敵対的サンプル）攻撃</strong></p><p>AI（特に機械学習モデル）を騙して、意図的に間違った判断をさせるための、特殊な入力データを用いた攻撃</p><br /><p>■令和８年の支援士試験予想問題</p><br /><p><strong>・CI/CDパイプラインを悪用した攻撃</strong></p><p>CI/CDの環境変数やシークレット管理機能を狙い、APIキーやクラウド認証情報を窃取して、IaCコードを改変し、攻撃者の管理するサーバーを追加する。改ざんしたパイプラインを通じて、継続的に悪意あるコードをデプロイする。</p><br /><p><strong>・Dependency Confusion攻撃</strong></p><p>内部パッケージ名と同じ名前の悪意あるパッケージを公開し、CI/CDが誤って取得。</p><br /><p><strong>・Malicious GitHub Action</strong></p><p><span style="font-size:16px; line-height:130%">公開されているアクションに悪意あるコードを仕込み、利用者のパイプラインで実行。</span><br /><br /><br /></p> #br 〇代表的なAIセキュリティに関する攻撃手法（支援士試験向け） #br ''・モデルインバージョン攻撃'' モデルから学習時に使われたデータを復元する攻撃。学習された&size(16){個人データや企業のデータが主なターゲット。}; &size(16){特定のデータが復元されプライバシーが侵害される可能性があります。}; &size(16){（「AIが何を学んだかを逆算して、学習に使われた“個人情報”や“機密データ”を盗み出す」ような攻撃です。）}; #br ''・PQC（Post-Quantum Cryptgraphy)'' 将来的な量子コンピューターの脅威に対抗するために開発されている新しい暗号技術のこと。 #br ''・ドメインフロンティング'' そもそもドメインフロンティング（Domain Fronting）は、インターネット検閲を回避するために開発された技術だが サイバー攻撃者によってマルウェアとの通信（C2通信）を隠蔽する目的で悪用されている。 CDNやクラウドが主な被害者だが、現在は対策されつつある。 #br ''・ドメインフロンティングを悪用した攻撃の対策'' 通信の表面（SNI）と内部（Hostヘッダー）のドメイン名が一致しているかをチェックし、不一致の場合に通信をブロックする。 サーバー側で、TLS暗号化通信の確立時に送られるドメイン名（SNI: Server Name Indication）と、暗号化されたHTTPリクエストに含まれるドメイン名（Hostヘッダー）が一致していることを強制させる。 #br ''・UEBAの機能'' User and Entity Behavior Analytics（ユーザーとエンティティの行動分析）の略で、人間の目では見逃しがちな、隠れた内部脅威やアカウント乗っ取りの兆候を、データ分析と機械学習の力で自動的に見つけ出すツール。 #br ''・Adversarial Examples（敵対的サンプル）攻撃'' AI（特に機械学習モデル）を騙して、意図的に間違った判断をさせるための、特殊な入力データを用いた攻撃 #br ■令和８年の支援士試験予想問題 #br ''・CI/CDパイプラインを悪用した攻撃'' CI/CDの環境変数やシークレット管理機能を狙い、APIキーやクラウド認証情報を窃取して、IaCコードを改変し、攻撃者の管理するサーバーを追加する。改ざんしたパイプラインを通じて、継続的に悪意あるコードをデプロイする。 #br ''・Dependency Confusion攻撃'' 内部パッケージ名と同じ名前の悪意あるパッケージを公開し、CI/CDが誤って取得。 #br ''・Malicious GitHub Action'' &size(16){公開されているアクションに悪意あるコードを仕込み、利用者のパイプラインで実行。};&br;&br;&br; ページの更新 通常編集モードに切り替える データ参照プラグイン 入力支援ツールを表示 ▼参照先ページ選択：データを表示 元データの書式（インラインプラグイン）を継承する
