責任ある AI の原則の要点整理と想定問題

正解: B 【A（不正解）】 ？ あらゆる人が AI を使え、恩恵を受けられることを求める原則です。 一部の人を締め出さない設計を求める原則で、似た立場の人への扱いの差そのものを問う原則ではない。 【B（正解）】 ？ 学習データの偏りを減らし、AI をテストして確かめるよう開発者に求める原則です。 公式は、似た症状・財務状況・資格を持つ人には同じ推奨をすべきだと説明している。 【C（不正解）】 ？ AI の判断の仕組みを理解できるようにする原則です。 判断の理由を説明できるようにする原則であり、扱いの差をなくすことが主眼ではない。 【D（不正解）】 ？ AI を作り導入する人が責任を持つという原則です。 責任の所在と人による管理を求める原則で、グループ間の扱いの差を直接問うものではない。

出典: 責任ある AI とは?（Azure Machine Learning）／責任ある AI（Microsoft Learn トレーニング「AI の概念の概要」）

正解: A 【A（正解）】 ？ モデルを学習させるデータの中身や集め方に関することです。 データは人が集めて選ぶため、選び方やデータ自体に無意識のバイアスが反映され、差別的な出力につながるおそれがある。 【B（不正解）】 ？ 処理の速さに関することです。 応答の速さは使い勝手の問題であり、差別的な出力の原因として挙げられてはいない。 【C（不正解）】 ？ サービスへの接続方法に関することです。 認証方法はセキュリティの話題で、出力の偏りとは関係しない。 【D（不正解）】 ？ 出力の長さの設定に関することです。 応答の長さの設定は、特定のグループへの差別的な出力を生む原因ではない。

出典: 責任ある AI（Microsoft Learn トレーニング「AI の概念の概要」）

正解: C 【A（不正解）】 ？ AI の対応のよさがグループによって違う害です。 音声認識が一部の話者で精度が落ちるような害を指す。機会そのものの配分の偏りは別の種類に分けられている。 【B（不正解）】 ？ 生成 AI が根拠のない内容を出すことです。 事実と異なる内容の生成を指し、選考機会の偏りを説明する言葉ではない。 【C（正解）】 ？ 機会・資源・情報の配分がグループで偏る害です。 雇用・入学・融資などで、特定のグループが候補に選ばれやすい（選ばれにくい）状態がこれに当たる。 【D（不正解）】 ？ 入力に指示を紛れ込ませる攻撃です。 攻撃者が AI の動作を乗っ取る手口であり、モデルの判断の偏りとは別の問題である。

出典: 機械学習の公平性（Azure Machine Learning）

正解: D 【A（不正解）】 ？ 個人のデータを守るための仕組みです。 集計から個人が特定されないようにする手法で、グループ間の予測の差は測らない。 【B（不正解）】 ？ 生成 AI への攻撃的な入力を見つける機能です。 ジェイルブレイクなどの攻撃を検出するもので、モデルの公平性の評価には使わない。 【C（不正解）】 ？ Microsoft が各 AI サービスの用途や制限を説明した文書です。 サービスを理解する資料であり、自社モデルの予測の差を測る道具ではない。 【D（正解）】 ？ Azure Machine Learning の責任ある AI ダッシュボードで、Fairlearn の機能を使う部品です。 性別・民族・年齢などの機密性の高いグループ間で、モデルの公平性を評価できる。

出典: 責任ある AI とは?（Azure Machine Learning）／責任ある AI ダッシュボード（Azure Machine Learning）

正解: A 【A（正解）】 ？ グループ別に性能を比べる取り組みです。 公式は、グループごとに性能指標を出して差（不均衡）を評価することを、公平性の問題を見つける段階として説明している。 【B（不正解）】 ？ 全体の数字だけで判断する方法です。 平均が高くても、特定のグループで精度が低いサービス品質の害は隠れてしまう。 【C（不正解）】 ？ 一部の利用者を締め出す対応です。 利用者を除外するのは包括性にも反し、精度の差という根本の問題も解決しない。 【D（不正解）】 ？ 生成モデルの出力のばらつきを変える設定です。 音声認識の精度の差を調べたり直したりする方法ではない。

出典: 機械学習の公平性（Azure Machine Learning）

正解: D 【A（不正解）】 ？ 判断の仕組みを外に出さない対応です。 仕組みを隠すことは透明性に反し、公平性の確認にもならない。 【B（不正解）】 ？ 判断に使う情報を増やす対応です。 無関係な人口統計の情報で判断が左右されると、根拠のない差別につながるおそれがある。 【C（不正解）】 ？ 受け付ける書類の言語を絞る対応です。 一部の出願者を締め出すことになり、公平性の確認とは別の問題を生む。 【D（正解）】 ？ 審査結果に不当な差が無いかを確かめる取り組みです。 公式の例は、学業基準を考慮しながら、無関係な人口統計要因による根拠のない差別を避けるようテストすることを挙げている。

出典: 責任ある AI（Microsoft Learn トレーニング「AI の概念の概要」）

正解: B 【A（不正解）】 ？ 評価結果を PDF で関係者と共有する仕組みです。 結果を伝える手段であり、モデルの不公平そのものを減らすアルゴリズムではない。 【B（正解）】 ？ Fairlearn パッケージに含まれる、「削減」と「後処理」の 2 種類の手法です。 再重み付けで学び直す「削減」や、予測を変換する「後処理」で不公平を減らせる。ただし不公平を無くしきるものではない。 【C（不正解）】 ？ 有害な文章や画像を見つけて止める仕組みです。 ヘイトや暴力などの出力を止めるもので、表形式データのモデルの偏りは直さない。 【D（不正解）】 ？ 個人のデータを守るための仕組みです。 プライバシー保護の手法であり、グループ間の予測の差を減らす目的のものではない。

出典: 機械学習の公平性（Azure Machine Learning）

正解: C 【A（不正解）】 ？ 個人情報や業務データを守る原則です。 データの保護と、データの扱いの透明性を求める原則である。 【B（不正解）】 ？ AI の判断の仕組みを理解できるようにする原則です。 判断の説明を求める原則で、動作の一貫性や安全な対応が主眼ではない。 【C（正解）】 ？ AI は確率に基づき完璧ではないことを前提に、リスクを減らすよう求める原則です。 公式は、設計どおりに機能し、予期しない状況に安全に対応し、有害な操作に抵抗する必要があると説明している。 【D（不正解）】 ？ あらゆる人が AI を使えるようにする原則です。 利用者を締め出さないことを求める原則で、動作の安定性とは別の観点である。

出典: 責任ある AI とは?（Azure Machine Learning）

正解: B 【A（不正解）】 ？ 入力を少し変えると予測がどう変わるかを見る部品です。 個々の予測の動きを調べるもので、誤りが集中するデータのまとまりを一覧で見つける部品ではない。 【B（正解）】 ？ 責任ある AI ダッシュボードで、モデルが外した予測の傾向を調べる部品です。 全体よりエラー率が高いデータのコーホート（部分集合）を特定でき、信頼性と安全性の確認に使う。 【C（不正解）】 ？ 評価の結果を PDF にまとめて共有する仕組みです。 結果の共有には役立つが、誤りの集中箇所を探す分析そのものではない。 【D（不正解）】 ？ 生成 AI への攻撃的な入力を見つける機能です。 攻撃の検出に使うもので、予測モデルの誤りの分布は調べない。

出典: 責任ある AI とは?（Azure Machine Learning）／責任ある AI ダッシュボード（Azure Machine Learning）

正解: A 【A（正解）】 ？ AI の出力の確かさに関する性質です。 AI は確率論的モデルに基づくため誤りがあり得る。アプリはそれを考えてリスクを減らす必要がある。 【B（不正解）】 ？ AI の出力が常に確かだとみなす考え方です。 公式はむしろ、AI は完璧とは限らないと説明している。 【C（不正解）】 ？ 同じ入力なら結果の正しさも保証されるという考え方です。 同じ入力でも、学習で想定していない状況では誤る可能性がある。 【D（不正解）】 ？ 出力の問題への対応を利用者に任せる考え方です。 設計する側が誤りを前提にリスクを減らすことが求められる。

出典: 責任ある AI（Microsoft Learn トレーニング「AI の概念の概要」）

正解: C 【A（不正解）】 ？ 速さを優先して確認を減らす設計です。 確認を省くと、誤った識別のまま動いて損傷を生むおそれが高まる。 【B（不正解）】 ？ 最上位の候補を無条件に使う設計です。 最上位でも確信度が低いことがあり、そのまま動くと事故につながりうる。 【C（正解）】 ？ 確からしさを数値で確かめてから動く設計です。 公式は、確率値で識別の信頼度を判断し、しきい値未満なら動作を避ける方法を例に挙げている。 【D（不正解）】 ？ 結果を残さない運用です。 記録を消しても、誤った識別で動いてしまう危険は減らない。

出典: 責任ある AI（Microsoft Learn トレーニング「AI の概念の概要」）

正解: D 【A（不正解）】 ？ 出力のばらつきを大きくする設定です。 ばらつきが増えるだけで、規程に沿った正確な回答にはつながらない。 【B（不正解）】 ？ 役割や制約の指示を取り除く方法です。 指示が無いと話題から外れやすくなり、不正確な回答のリスクが上がる。 【C（不正解）】 ？ 出力の長さを制限しない方法です。 公式はむしろ、入出力の長さや構造を制限するとタスクから外れにくくなると説明している。 【D（正解）】 ？ 回答の根拠となるデータをモデルに渡す方法です。 検索拡張生成で信頼できるデータを根拠にすると精度が上がる。ただし誤りを完全には無くせない。

出典: Microsoft Foundry モデルでの Azure OpenAI の透明性に関するメモ／潜在的な損害を軽減する（Microsoft Learn トレーニング）

正解: A 【A（正解）】 ？ 公開の範囲を段階的に広げる準備です。 公式は段階的デリバリー計画、インシデント対応計画、ロールバック計画の作成を勧めている。 【B（不正解）】 ？ 公開前の意見を集めない進め方です。 段階的な公開の目的は、広く出す前にフィードバックを集めて問題を見つけることである。 【C（不正解）】 ？ 事前の計画を立てない進め方です。 対応計画が無いと、問題が起きたときに素早く止めたり戻したりできない。 【D（不正解）】 ？ 利用者からの報告を受けない運用です。 公式は、不正確・有害などの問題を利用者が報告できる仕組みを用意するよう勧めている。

出典: 責任ある生成 AI ソリューションを管理する（Microsoft Learn トレーニング）

正解: D 【A（不正解）】 ？ 人やグループを偏りなく扱う原則です。 扱いの差をなくすことを求める原則で、データの集め方や使い方の管理が主眼ではない。 【B（不正解）】 ？ AI が一貫して安全に動くことを求める原則です。 動作の安定や安全な対応を求める原則で、個人データの扱いとは観点が違う。 【C（不正解）】 ？ AI を作り導入する人が責任を持つという原則です。 責任の所在を定める原則で、データの扱いを利用者が選べることを直接求めるものではない。 【D（正解）】 ？ 個人情報や業務データを守る原則です。 公式は、データの収集・使用・保存の透明性と、利用者が自分のデータの使い方を選べる管理を求めると説明している。

出典: 責任ある AI とは?（Azure Machine Learning）

正解: B 【A（不正解）】 ？ 画像をためておく運用です。 必要以上に個人の画像を残すと、漏えい時の影響が大きくなる。公式の例とは逆の運用である。 【B（正解）】 ？ 画像を持つ期間と見られる人を絞る運用です。 公式の例は、一時的な利用の画像を不要になり次第削除し、閲覧の必要がない担当者や利用者のアクセスを防ぐことを挙げている。 【C（不正解）】 ？ 閲覧できる人を広げる運用です。 見る必要のない人まで画像に触れられると、プライバシーを損なうおそれが高まる。 【D（不正解）】 ？ 画像を外部と共有する運用です。 利用目的を超えた共有は、データの使い方を利用者が理解し選べるという考え方に反する。

出典: 責任ある AI（Microsoft Learn トレーニング「AI の概念の概要」）

正解: A 【A（正解）】 ？ OpenDP の取り組みとして公開されている、オープンソースのプロジェクトです。 公式は、プライバシーとセキュリティの原則を実装するためのオープンソースとして SmartNoise を挙げている。 【B（不正解）】 ？ AI システムへのサイバー攻撃を模擬するツールです。 攻撃をシミュレートして AI モデルを評価するもので、差分プライバシーの仕組みではない。 【C（不正解）】 ？ モデルの公平性を評価し、不公平を減らすパッケージです。 公平性のための道具であり、個人データの保護が目的ではない。 【D（不正解）】 ？ モデルの予測の説明を作るパッケージです。 解釈可能性のための道具で、責任ある AI ダッシュボードの解釈可能性の部品に使われている。個人のデータを守る仕組みではない。

出典: 責任ある AI とは?（Azure Machine Learning）／責任ある AI ダッシュボード（Azure Machine Learning）

正解: C 【A（不正解）】 ？ モデルが入力を覚えておくという考え方です。 公式は、モデルはステートレスで、プロンプトや出力はモデルに格納されないと説明している。 【B（不正解）】 ？ モデルの提供元にデータが渡るという考え方です。 公式は、プロンプトや出力は OpenAI などモデルの提供者には提供されないと明記している。 【C（正解）】 ？ 入力データが学習に使われるかどうかに関することです。 公式は、プロンプト・出力・学習データは他の顧客に使われず、許可や指示なしに基盤モデルの学習に使われないとしている。 【D（不正解）】 ？ データを他の利用者と共有するという考え方です。 公式は、プロンプトや出力は他の顧客には利用できないと明記している。

出典: Azure が販売する Foundry モデルのデータ、プライバシー、セキュリティ

正解: D 【A（不正解）】 ？ モデルを操ろうとする入力を見つける機能です。 攻撃的な入力を検出するもので、回答に含まれる個人情報は対象にしない。 【B（不正解）】 ？ 既知の歌詞や記事などに近い出力を見つける機能です。 著作物に近い出力を検出するもので、電話番号やメールは対象ではない。 【C（不正解）】 ？ 回答が元の資料に基づいているかを見る機能です。 根拠のない内容を見つけるもので、個人情報の検出には使わない。 【D（正解）】 ？ モデルの出力から個人を特定できる情報を見つける機能です。 メールや電話番号などを検出して注釈を付けるか、出力をブロックできる。カテゴリごとにモードを設定できる。

出典: 個人を特定できる情報 (PII) フィルター（Microsoft Foundry）／Microsoft Foundry のガードレールとコントロールの概要

正解: A 【A（正解）】 ？ 学習に使う前にデータを整える取り組みです。 公式は、データ主体のプライバシーとセキュリティを守るため、機密情報や個人情報を削除・匿名化するよう勧めている。 【B（不正解）】 ？ データを加工せずに使う方法です。 個人情報を残したまま学習させると、出力から漏れるおそれがある。 【C（不正解）】 ？ データの量で対応する考え方です。 件数を減らしても、残った個人情報が漏れるリスクは無くならない。 【D（不正解）】 ？ 生成時の設定で対応する考え方です。 温度は出力のばらつきを変える設定で、学習済みの個人情報の漏えいを防ぐものではない。

出典: Microsoft Foundry モデルでの Azure OpenAI の透明性に関するメモ

正解: B 【A（不正解）】 ？ データを広く見せる対応です。 データを守るどころか、個人情報や業務データを危険にさらすことになる。 【B（正解）】 ？ アクセスの制限と暗号化を組み合わせる対策です。 公式は、アクセス制限・ネットワーク通信の制限・暗号化・脆弱性スキャン・構成ポリシーの適用を挙げている。 【C（不正解）】 ？ 権限を広く配る運用です。 必要以上の権限は、誤操作や不正アクセスのリスクを高める。 【D（不正解）】 ？ 通信の制限をなくす運用です。 公式は受信・送信の通信を制限できることを対策に挙げており、逆の運用である。

出典: 責任ある AI とは?（Azure Machine Learning）

正解: C 【A（不正解）】 ？ AI の判断の仕組みを理解できるようにする原則です。 仕組みや限界を伝えることを求める原則で、利用者を締め出さないことが主眼ではない。 【B（不正解）】 ？ AI が一貫して安全に動くことを求める原則です。 動作の安定を求める原則で、誰もが使えるかどうかとは別の観点である。 【C（正解）】 ？ 障がいの有無などに関わらず、誰もが使える設計を求める原則です。 公式は、AI の恩恵をすべての利用者に開き、ソリューションが一部の利用者を除外しないよう努めることを求めている。 【D（不正解）】 ？ 個人情報や業務データを守る原則です。 データの保護を求める原則で、利用できる人の範囲を広げることとは別である。

出典: 責任ある AI（Microsoft Learn トレーニング「AI の概念の概要」）

正解: B 【A（不正解）】 ？ 読み上げの速度を変える設計です。 速く話しても、音声を聞き取れない人が使えないという問題は解決しない。 【B（正解）】 ？ 音声以外の手段でも情報を届ける設計です。 公式の例は、音声で対話する AI エージェントがテキストの字幕も出し、聴覚障がいのある人が使えるようにすることを挙げている。 【C（不正解）】 ？ 音の大きさを変える設計です。 音量を上げても、音を聞くことが難しい人には届かない。 【D（不正解）】 ？ 一部の利用者を締め出す設計です。 利用者を除外することは、包括性の原則に反する。

出典: 責任ある AI（Microsoft Learn トレーニング「AI の概念の概要」）

正解: D 【A（不正解）】 ？ 人やグループの扱いに偏りが出ないことを求める原則です。 似た立場の人に同じ推奨を出すかという、AI の判断結果の扱いの差を問う原則。そもそも使えない人がいる問題は主に包括性が扱う。 【B（不正解）】 ？ AI の動作に人が責任を持つ原則です。 責任の所在を定める原則で、使える人の範囲の問題を直接扱うものではない。 【C（不正解）】 ？ AI の判断の仕組みを理解できるようにする原則です。 仕組みの説明を求める原則で、入力手段の制約とは別の観点である。 【D（正解）】 ？ あらゆる人が AI を使え、恩恵を受けられることを求める原則です。 公式は包括性の例に、音声で対話する AI が字幕も出し聴覚障がいのある人も使えるようにすることを挙げる。入力手段で一部の人を締め出す状態はこれに反する。

出典: 責任ある AI（Microsoft Learn トレーニング「AI の概念の概要」）／責任ある AI とは?（Azure Machine Learning）

正解: A 【A（正解）】 ？ 製品やサービスを、多様な利用者が支障なく使えるかを見る観点です。 公式は、公開前の一般的なレビューとして法律・プライバシー・セキュリティ・アクセシビリティを挙げている。 【B（不正解）】 ？ 法令に合っているかを確かめる観点です。 公開前のレビューの 1 つだが、障がいのある人の使いやすさを確かめる項目ではない。 【C（不正解）】 ？ 攻撃や不正利用への備えを確かめる観点です。 公開前のレビューの 1 つだが、使いやすさの確認ではない。 【D（不正解）】 ？ 個人データの扱いを確かめる観点です。 公開前のレビューの 1 つだが、障がいのある人の利用のしやすさとは別の観点である。

出典: 責任ある生成 AI ソリューションを管理する（Microsoft Learn トレーニング）

正解: C 【A（不正解）】 ？ 1 つの言語の結果で判断する方法です。 公式は、モデルは主に英語で学習されており、英語以外では性能が下がることがあると説明している。 【B（不正解）】 ？ 一部の利用者を対象から外す方法です。 一部の言語の利用者を締め出すことになり、包括性の考え方に反する。 【C（正解）】 ？ 使われるすべての言語で評価する方法です。 公式は、アプリで使われるすべての言語の代表的な内容で評価するよう勧めている。言語ごとに性能は異なりうる。 【D（不正解）】 ？ 出力の言語を 1 つに絞る方法です。 英語を読めない人が恩恵を受けにくくなり、包括性を損なう。

出典: Microsoft Foundry モデルでの Azure OpenAI の透明性に関するメモ／Azure AI Content Safety の危害カテゴリ

正解: A 【A（正解）】 ？ AI のしくみや限界を利用者に伝えることを求め、解釈可能性も含む原則です。 公式は、信用審査や採用などで AI を使う場合、判断がどう行われるかを人々が理解することが重要だと説明している。 【B（不正解）】 ？ 人やグループを偏りなく扱う原則です。 扱いの差をなくすことを求める原則で、判断の理由を理解できるようにすることが主眼ではない。 【C（不正解）】 ？ あらゆる人が AI を使えるようにする原則です。 利用者を締め出さないことを求める原則である。 【D（不正解）】 ？ AI が一貫して安全に動くことを求める原則です。 動作の安定と安全を求める原則で、判断の説明とは別の観点である。

出典: 責任ある AI とは?（Azure Machine Learning）

正解: C 【A（不正解）】 ？ モデル全体を対象にした説明の見方です。 全体の傾向は分かるが、ある 1 件の申請がなぜ却下されたかには直接答えない。 【B（不正解）】 ？ モデルが外した予測の分布を調べる部品です。 誤りの傾向を調べるもので、個々の判断の理由を説明するものではない。 【C（正解）】 ？ 選んだデータ点を対象にした説明の見方です。 解釈可能性の部品は、ある顧客のローン申請が承認・却下された理由を示す局所的な説明を作れる。 【D（不正解）】 ？ データセットの分布や統計を調べる部品です。 データの特徴は分かるが、ある申請の判断理由を直接示すものではない。

出典: 責任ある AI とは?（Azure Machine Learning）／責任ある AI ダッシュボード（Azure Machine Learning）

正解: B 【A（不正解）】 ？ AI の利用を知らせない対応です。 AI の利用を隠すことは、仕組みや限界を利用者に知らせるという透明性の考え方に反する。 【B（正解）】 ？ AI の利用と学習データの性質を伝える対応です。 公式の例は、AI の使用を開示し、機密情報を明かさずに学習データの特徴を説明することを挙げている。 【C（不正解）】 ？ 学習データをそのまま見せる対応です。 個人情報の公開はプライバシーとセキュリティに反する。透明性は機密を明かすことではない。 【D（不正解）】 ？ 判断の過程を誰も理解できない状態にする対応です。 判断の理由を理解できない状態は、透明性の原則と逆である。

出典: 責任ある AI（Microsoft Learn トレーニング「AI の概念の概要」）

正解: D 【A（不正解）】 ？ Microsoft の AI サービスで守るべき使い方のルールです。 許される使い方と禁止事項を定めたもので、サービスの仕組みや性能の説明が中心ではない。 【B（不正解）】 ？ 自社モデルの評価結果を PDF にまとめるものです。 利用者が自分のモデルについて作る報告書で、Microsoft のサービスの説明文書ではない。 【C（不正解）】 ？ モデル カタログで各モデルの概要を見るページです。 モデルごとの説明ページであり、サービスの責任ある使い方を説明する文書の呼び名ではない。 【D（正解）】 ？ Azure OpenAI など、Microsoft の AI サービスごとに公開されている文書です。 AI テクノロジのしくみ、システム所有者の選択が性能に与える影響、全体として考える重要性を理解するための文書である。

出典: Microsoft Foundry モデルでの Azure OpenAI の透明性に関するメモ

正解: C 【A（不正解）】 ？ 予測を外しやすいデータのまとまりを見つける部品です。 モデルの誤りの分布を調べるもので、顧客ごとの改善の道筋は示さない。 【B（不正解）】 ？ 過去のデータから、ある要因が結果に与える影響を推定する部品です。 施策の効果を推定するもので、個々の顧客の予測が変わる最小の変化を作るものではない。 【C（正解）】 ？ DiCE パッケージの機能を使い、個々のデータ点を調べる部品です。 反対の予測になる最も近いデータ点を示せる。公式は、年収やカード枚数がどう違えば承認されたかの例を挙げている。 【D（不正解）】 ？ グループ間の公平性を評価し、不公平を減らすパッケージです。 グループ単位の差を扱うもので、1 人の顧客への具体的な変化の提示には使わない。

出典: 責任ある AI ダッシュボード（Azure Machine Learning）

正解: A 【A（正解）】 ？ 利用者に伝える説明の中身です。 公式は、ドキュメントや説明は機能と限界、元になるモデル、対策で防ぎきれない可能性のある害について適切に透明であるべきだとしている。 【B（不正解）】 ？ モデルの名前のみを伝える内容です。 名前だけでは、何ができて何に注意すべきかが利用者に伝わらない。 【C（不正解）】 ？ 成功例のみを伝える内容です。 限界やリスクを伏せると、利用者が出力を過信するおそれがある。 【D（不正解）】 ？ 安全機能の内部設定を並べる内容です。 設定値の羅列は、利用者が機能と限界を理解する説明の代わりにはならない。

出典: 潜在的な損害を軽減する（Microsoft Learn トレーニング）

正解: B 【A（不正解）】 ？ AI であることを分かりにくくする対応です。 利用者を欺くおそれがあり、行動規範の求めとは逆である。 【B（正解）】 ？ AI の利用を利用者に知らせる対応です。 行動規範は、出力や判断が AI によるものであること、生成した声や画像が合成であることを開示するよう求めている。 【C（不正解）】 ？ 記録の扱いで対応する考え方です。 録音の扱いは別の論点で、AI と話していることを知らせる代わりにはならない。 【D（不正解）】 ？ 人の名前を名乗る対応です。 AI が人の名前を名乗ると、人間と話していると誤解させるおそれが高まる。

出典: Code of Conduct for Microsoft AI Services（行動規範・英語）

正解: D 【A（不正解）】 ？ あらゆる人が AI を使えるようにする原則です。 利用者を締め出さないことを求める原則で、責任の所在を定めるものではない。 【B（不正解）】 ？ 人やグループを偏りなく扱う原則です。 扱いの差をなくすことを求める原則である。 【C（不正解）】 ？ 個人情報や業務データを守る原則です。 データの保護を求める原則で、AI の動作への責任の所在とは別である。 【D（正解）】 ？ 組織がガバナンスの枠組みを定め、原則を確実に適用することを求める原則です。 公式は、AI を人の生活に影響する決定の最終的な権限にせず、人が意味のある管理を保つための規範を組織が作るよう求めている。

出典: 責任ある AI とは?（Azure Machine Learning）

正解: B 【A（不正解）】 ？ 判断を出したモデルに責任があるという考え方です。 モデルは責任の主体にならない。公式は、開発・提供する人と組織が責任を負うとしている。 【B（正解）】 ？ AI を作り届ける側に責任があるという考え方です。 公式は、開発・配布する人と組織が責任を負い、ガバナンスの枠組みを定めて適用することが重要だと説明している。 【C（不正解）】 ？ 使う側にすべての責任があるという考え方です。 利用者に責任を押し付けるのではなく、作る側が責任を持つというのが公式の考え方である。 【D（不正解）】 ？ モデルの提供元にすべての責任があるという考え方です。 ソリューションを作って届ける組織自身が責任を負う。提供元に任せきりにはできない。

出典: 責任ある AI（Microsoft Learn トレーニング「AI の概念の概要」）

正解: A 【A（正解）】 ？ モデルのライフサイクルを管理し記録する仕組みです。 公式は、MLOps で公開者・変更理由・デプロイ日時などの系列情報を記録でき、アカウンタビリティを高められるとしている。 【B（不正解）】 ？ 出力の中身を検査する仕組みです。 有害な出力の検出には使えるが、モデルの変更履歴を記録する機能ではない。 【C（不正解）】 ？ 個人データを守る手法です。 プライバシー保護の手法で、だれがいつモデルを出したかの記録には使わない。 【D（不正解）】 ？ 入力を変えたときの予測の動きを見る部品です。 個々の予測の理解に使うもので、運用の履歴管理には使わない。

出典: 責任ある AI とは?（Azure Machine Learning）

正解: C 【A（不正解）】 ？ 性能が高ければ人の確認は要らないという考え方です。 行動規範は精度ではなく、影響の大きい決定に適切な人の監視があるかを問うている。 【B（不正解）】 ？ 同意によって条件が外れるという考え方です。 同意の有無にかかわらず、雇用機会に大きく影響する決定には適切な人の監視が求められる。 【C（正解）】 ？ 影響の大きい決定と人の関与の関係についてです。 行動規範は、法的地位・経済状況・雇用機会などに重大な影響を与える決定を、適切な人による監視なしに行うことを禁じている。 【D（不正解）】 ？ 社内の用途は規範の外だという考え方です。 行動規範は Microsoft AI サービスで作るすべてのアプリに適用される。

出典: Code of Conduct for Microsoft AI Services（行動規範・英語）

正解: D 【A（不正解）】 ？ 人の確認を省く設計です。 取り消せない操作を確認なしで行うと、誤りがそのまま損害になる。行動規範の求めとは逆である。 【B（不正解）】 ？ 途中の判断を残さない設計です。 行動規範は、自律的なシステムの判断と動作を人が監視できることを求めている。 【C（不正解）】 ？ 失敗への対応を AI に任せる設計です。 人が異常に気付いて介入できる仕組みが求められ、AI 任せでは足りない。 【D（正解）】 ？ 人がエージェントを見守り止められる設計です。 行動規範は、特に取り消せない操作や害につながる操作について、人が監視・異常検知・介入できる管理を求めている。

出典: Code of Conduct for Microsoft AI Services（行動規範・英語）

正解: B 【A（不正解）】 ？ モデルが外した予測の分布を表示する部品です。 分析には役立つが、技術者以外との共有向けにまとめた報告書ではない。 【B（正解）】 ？ 評価結果をまとめた、カスタマイズできる PDF レポートです。 公式は、スコアカードが技術者と非技術者の両方の関係者との共有を可能にし、監査レビューも支えるとしている。 【C（不正解）】 ？ Microsoft が各サービスについて公開している文書です。 Microsoft のサービスの説明であり、自社モデルの評価結果をまとめるものではない。 【D（不正解）】 ？ 攻撃的な入力の検出結果です。 攻撃の検出記録であり、モデル全体の評価結果の報告ではない。

出典: 責任ある AI とは?（Azure Machine Learning）／責任ある AI ダッシュボード（Azure Machine Learning）

正解: A 【A（正解）】 ？ 利用者から問題を知らせてもらう仕組みです。 行動規範は不正使用や問題を報告できるフィードバック窓口と合理的な対応を求め、教材も報告の仕組みの実装を勧めている。 【B（不正解）】 ？ ログを残さない運用です。 記録が無いと、問題の把握や原因の調査がしにくくなる。 【C（不正解）】 ？ 出力の長さを増やす設定です。 長い出力は問題の把握には役立たず、話題から外れるリスクを高める。 【D（不正解）】 ？ 外部の声を受けない運用です。 利用者からの報告を受けないと、問題の発見と対応が遅れる。

出典: Code of Conduct for Microsoft AI Services（行動規範・英語）／責任ある生成 AI ソリューションを管理する（Microsoft Learn トレーニング）

正解: C 【A（不正解）】 ？ モデルの配置に関する設定の組み合わせです。 これらはデプロイの設定であり、ガードレールのコントロールが定めるものではない。 【B（不正解）】 ？ プロンプトと生成の設定の組み合わせです。 モデルの振る舞いを調整する設定で、コントロールの構成要素ではない。 【C（正解）】 ？ 何を、どこで、どう扱うかの組み合わせです。 公式は、コントロールが検出するリスク、リスクをスキャンする介入ポイント、リスク検出時の応答アクションを定義すると説明している。 【D（不正解）】 ？ 利用者の属性の組み合わせです。 アクセス管理の情報であり、ガードレールのコントロールの中身ではない。

出典: Microsoft Foundry のガードレールとコントロールの概要

正解: D 【A（不正解）】 ？ 利用者がモデルやエージェントに送るプロンプトです。 利用者の入力をスキャンする位置で、ツールから返ってくる内容は対象にならない。 【B（不正解）】 ？ 利用者に返す最終的な応答です。 最終応答をスキャンする位置で、ツールの結果を受け取った時点の検査ではない。 【C（不正解）】 ？ エージェントがツールに送ろうとする操作とデータです。 ツールへ送る側をスキャンする位置で、ツールから返る内容は別の介入ポイントで扱う。 【D（正解）】 ？ エージェントだけに使える、プレビューの介入ポイントの 1 つです。 ツールの応答はエージェントだけに適用できる介入ポイント（プレビュー）で、返ってきた内容をスキャンできる。

出典: Microsoft Foundry のガードレールとコントロールの概要

正解: B 【A（不正解）】 ？ 自分を傷つける行為に関する表現です。 4 つの害カテゴリの 1 つである。 【B（正解）】 ？ 事実と異なる情報のことです。 4 つの害カテゴリはヘイト・性的・暴力・自傷行為で、誤情報は含まれない。根拠の確認は別の機能が扱う。 【C（不正解）】 ？ 特定のグループへの差別的な表現です。 4 つの害カテゴリの 1 つである（ヘイトと公平性）。 【D（不正解）】 ？ 人や物を傷つける行為に関する表現です。 4 つの害カテゴリの 1 つである。

出典: Azure AI Content Safety の危害カテゴリ

正解: A 【A（正解）】 ？ 重大度 低・中・高を、ブロックの対象にする設定です。 公式は、ブロック レベル「高」が重大度 低・中・高をブロックし、もっとも制限が厳しいと説明している。 【B（不正解）】 ？ 重大度 高だけを、ブロックの対象にする設定です。 「低」はもっとも制限が少ない設定で、厳しく制限したい目的とは逆である。 【C（不正解）】 ？ 中程度の設定についての説明です。 「中」は重大度 中と高をブロックする設定で、低だけをブロックする設定ではない。 【D（不正解）】 ？ ブロックしない設定についての説明です。 「オフ」はブロックしない設定で、安全と判定された内容はどの設定でもブロックされない。

出典: Azure AI Content Safety の危害カテゴリ／Microsoft Foundry のガードレールとコントロールの概要

正解: C 【A（不正解）】 ？ 利用者自身の入力で規則を回避しようとする攻撃を見つける機能です。 利用者のプロンプトを対象にするもので、取り込んだ文書に埋め込まれた命令は主な対象ではない。 【B（不正解）】 ？ 既知の歌詞や記事などに近い出力を見つける機能です。 著作物に近い出力を見つける機能で、メールに仕込まれた命令は検出しない。 【C（正解）】 ？ プロンプト シールドのうち、取り込んだ外部の内容を調べる側の機能です。 プロンプト シールドのドキュメント攻撃の検出は既定でオフのため、ガードレールの設定で有効にする必要がある。 【D（不正解）】 ？ エージェントのツールの使い方が依頼に沿っているかを見る機能です。 ツールの不適切な使用を見つける機能で、メールに埋め込まれた命令の検出が目的ではない。

出典: Azure AI Content Safety のプロンプト シールド

正解: B 【A（不正解）】 ？ 回答が渡した資料に基づいているかを見る機能です。 根拠のない内容を見つける機能で、既存の著作物との一致は調べない。 【B（正解）】 ？ 既知のテキストやコードに近い出力を見つける機能です。 歌詞・記事・レシピ・一部の Web コンテンツや、既知の GitHub リポジトリのコードと一致する出力にフラグを付ける。 【C（不正解）】 ？ 出力に含まれる個人を特定できる情報を見つける機能です。 電話番号やメールなどの個人情報を対象にし、歌詞や記事との一致は調べない。 【D（不正解）】 ？ モデルを操ろうとする入力を見つける機能です。 攻撃的な入力の検出が目的で、出力が既存の文章と同じかどうかは調べない。

出典: 保護されたマテリアルの検出（Azure AI Content Safety）

正解: D 【A（不正解）】 ？ 既知の歌詞や記事などに近い出力を見つける機能です。 著作物との一致を見つける機能で、要約が元の文書に基づくかは調べない。 【B（不正解）】 ？ モデルを操ろうとする入力を見つける機能です。 攻撃の検出が目的で、要約の中身の確かさは調べない。 【C（不正解）】 ？ エージェントのツールの使い方を見る機能です。 ツールの使い方の不一致を見つける機能で、要約と元の文書の食い違いを見るものではない。 【D（正解）】 ？ モデルの回答が渡した資料に基づいているかを見る機能です。 要約と QnA のタスクに対応する。プレビュー機能で、2027 年 4 月 30 日に廃止予定と公式に告知されている。

出典: 根拠性検出（Azure AI Content Safety）／Azure AI Content Safety とは?

正解: A 【A（正解）】 ？ エージェントの動作が利用者の指示とタスクの目的に沿っているかを見るリスクです。 ツールの使用がその場面で不適切・意図しない・早すぎる場合を検出する。 【B（不正解）】 ？ 利用者の入力で規則を回避しようとする攻撃です。 攻撃的な入力を見つけるもので、エージェント自身のツールの使い方のずれは対象ではない。 【C（不正解）】 ？ 有害な内容の重さを表す区分です。 ヘイトや暴力などの重さを示す尺度で、ツールの使い方を判定するものではない。 【D（不正解）】 ？ 既知の著作物に近い出力を見つける機能です。 出力と既存の文章やコードの一致を見るもので、ツール操作の妥当性は扱わない。

出典: Azure AI Content Safety とは?／Microsoft Foundry のガードレールとコントロールの概要

正解: C 【A（不正解）】 ？ 料金の区分を選ぶことです。 顔の識別や検証は Standard（S0）と Enterprise（E0）でのみ使え、F0 では使えない。 【B（不正解）】 ？ 別の機能を使って実績を作ることです。 顔検出は登録なしで使えるが、その利用実績で顔の検証が使えるようになるわけではない。 【C（正解）】 ？ 利用の申請と審査に関することです。 顔の識別や検証は制限付きアクセスの機能で、登録フォームで申請し、Microsoft の審査を通る必要がある。 【D（不正解）】 ？ 利用ルールを自分で変えることです。 行動規範は Microsoft が定めるもので、顧客が書き換えて利用条件を変えることはできない。

出典: Face の制限付きアクセス機能

正解: B 【A（不正解）】 ？ Foundry 内の機能だけに頼る方法です。 ガードレールは Foundry で動くモデルやエージェントに適用されるもので、外部のモデルには効かない。 【B（正解）】 ？ サービスを単体で使う方法です。 公式は、モデルが Foundry の外にある、または複数のプラットフォームにまたがる場合に、Content Safety Studio と API の利用を案内している。 【C（不正解）】 ？ 生成の設定で対応する方法です。 温度は出力のばらつきの設定で、有害コンテンツを検出する仕組みではない。 【D（不正解）】 ？ 利用者の目に任せる方法です。 人の確認は大切だが、同じ基準で一貫して検出する仕組みの代わりにはならない。

出典: Azure AI Content Safety とは?

正解: A 【A（正解）】 ？ モデル側の設定を受け継ぐという考え方です。 公式は、カスタム ガードレールが割り当てられていないエージェントは、元になるモデル デプロイのガードレールを継承すると説明している。 【B（不正解）】 ？ 常に既定のガードレールになるという考え方です。 エージェントが DefaultV2 を使うのは、モデルのデプロイがそれを使うか、明示的に割り当てた場合だけである。 【C（不正解）】 ？ 保護が無くなるという考え方です。 割り当てが無い場合でも、モデル デプロイのガードレールが引き継がれる。 【D（不正解）】 ？ 適用がその都度変わるという考え方です。 ガードレールの適用は決まった規則に従い、ランダムには選ばれない。

出典: Microsoft Foundry のガードレールとコントロールの概要

正解: D 【A（不正解）】 ？ 害を減らす対策を入れる段階です。 軽減は 3 番目の段階で、害を見つけて測った後に行う。 【B（不正解）】 ？ 公開と運用に備える段階です。 管理は最後の 4 番目の段階である。 【C（不正解）】 ？ 害の量を測る段階です。 測定は 2 番目の段階で、まず対象となる害を洗い出す必要がある。 【D（正解）】 ？ 起こりうる害を洗い出す段階です。 4 段階はマップ・測定・軽減・管理の順で、最初に潜在的な害をマップする。NIST の AI リスク管理フレームワークとも対応する。

出典: 責任ある生成 AI ソリューションを計画する（Microsoft Learn トレーニング）

正解: B 【A（不正解）】 ？ 自分のデータでモデルを追加学習させることです。 モデルを調整する手法で、弱点を探すテストではない。 【B（正解）】 ？ サイバーセキュリティで使われてきた手法を、生成 AI の害の発見に広げたテストです。 公式は、害の有無を確かめる一般的な方法としてレッド チーム テストを挙げ、成功した攻撃を記録して検討するよう勧めている。 【C（不正解）】 ？ 限られた利用者から順に公開する計画です。 公開の進め方であり、害をマップする段階のテスト手法ではない。 【D（不正解）】 ？ 評価結果を PDF でまとめて共有するものです。 結果の共有手段であり、弱点を探すテストそのものではない。

出典: 潜在的な損害をマップする（Microsoft Learn トレーニング）

正解: C 【A（不正解）】 ？ 中心にある生成 AI モデルそのものに関する対策です。 モデルの選択や微調整はモデル層の対策である。 【B（不正解）】 ？ プラットフォームの安全機能を使う対策です。 ガードレールやプロンプト シールドは安全システム層の対策である。 【C（正解）】 ？ 回答の材料となる情報を、モデルに渡す対策です。 システム入力の指定や、検索拡張生成で信頼できるデータを加えるグラウンディングがこの層の手法である。 【D（不正解）】 ？ アプリの画面の設計に関する対策です。 入力を特定の話題や形式に制限する画面設計は、ユーザー エクスペリエンス層の対策である。

出典: 潜在的な損害を軽減する（Microsoft Learn トレーニング）