【ITパスポート練習問題 6.3対応】③ AI を利活用する上での留意事項

【解説】

正解: 2 AIの意思決定の過程を人間が理解するため

この問題は、XAI（Explainable AI）がなぜ必要とされているのか、その根本的な目的を理解しているかを確認するものです。AIの性能や自動化の度合いではなく、「説明可能性」が求められる背景を押さえられているかがポイントです。

正解の選択肢2は、XAIの中心的な目的である「AIの意思決定プロセスを人間が理解できるようにすること」を表しています。なぜその結果になったのかが説明できれば、利用者はAIの判断を検証し、必要に応じて修正したり、責任の所在を明確にしたりできます。

選択肢1は、意思決定の迅速化に関する内容であり、これは処理速度や計算資源の最適化といった別の技術的テーマに属します。説明可能性とは直接の関係がありません。選択肢3は、AIの動作をすべて自動化することを目的としていますが、完全自動化を進めるほど、むしろ説明可能性を確保する重要性が増します。いずれもXAIが必要とされる「主な理由」そのものを表してはいません。

【解説】

正解: 1 ゲーム開発

この問題は、XAIがどのような分野で特に重視されるかを区別できるかを確認するものです。説明責任や透明性がどの程度求められるかによって、XAIの重要度が変わる点を理解しているかが問われています。

正解の選択肢1のゲーム開発では、主目的はエンターテインメント性や没入感であり、多くの場合、AIの判断根拠が厳密に説明される必要性は高くありません。そのため、医療や金融と比べると、XAIが「特に重要視される分野」とまでは言えないため、この選択が適切でない分野として正解になります。

選択肢2の医療は、診断や治療方針など人命に関わる場面でAIが用いられるため、なぜその判断に至ったのかを医師や患者に説明する必要があります。選択肢3の金融も、融資審査や不正検知などでAIが意思決定に関わるため、説明責任や透明性が強く求められます。どちらもXAIが特に重要視される分野として適切です。

【解説】

正解: 3 医療診断におけるAIの判断根拠の提示

この問題は、XAIの技術がどのような場面で実際に活用されるのかをイメージできているかを確認するものです。単なる自動化ではなく、「理由の提示」が求められる状況を選び取れるかがポイントです。

正解の選択肢3は、医療診断においてAIが提示した診断結果について、その根拠を医師に説明する場面を示しています。例えば、「どの画像所見や数値が、どの疾患を示唆しているのか」を説明できることで、医師はAIの判断を信用するかどうかを判断しやすくなり、最終的な責任ある意思決定につなげられます。

選択肢1の自動化された物流システムの制御は、主に効率化や最適化が目的であり、通常はそこまで強い説明責任が求められないケースが多いです。選択肢2の高速インターネットの実現は、通信インフラやネットワーク技術の話であり、AIの意思決定の説明とは直接関係しません。したがって、XAIの技術が前面に出る場面としては不適切です。

【解説】

正解: 2 AIの意思決定を人間が監視・改善する

この問題は、HITL（Human In The Loop）の基本的な目的を理解しているかを確認するものです。AI任せではなく、人間がどのように関わるべきかという観点が問われています。

正解の選択肢2は、HITLの本質である「AIの判断を人間が監視し、必要に応じて修正・改善を行う」ことを表しています。これにより、AIの誤判定や偏った判断を抑制し、精度や信頼性を高めることができます。特にリスクの大きい分野では、この人間の関与が不可欠です。

選択肢1は、AIによる完全自動化を目指す内容であり、人間の関与を前提とするHITLの考え方とは逆方向です。選択肢3は、AIの学習データをすべて削除するという極端な内容であり、HITLの目的である「人とAIの協調による品質向上」とは関係がありません。

【解説】

正解: 3 ソーシャルメディアの投稿スケジュール管理

この問題は、HITLが特に重視されるシチュエーションと、そうでないシチュエーションを区別できるかを確認するものです。人間の関与が結果にどれだけ重要な影響を与えるかが判断の基準になります。

正解の選択肢3のソーシャルメディアの投稿スケジュール管理は、誤りがあっても通常、生命や重大な財産被害には直結しない比較的低リスクな業務です。そのため、HITLとして人間が逐一監視・介入する優先度は、医療や自動運転に比べて低くなり、「特に重要となるシチュエーション」とは言えません。

選択肢1の医療診断における判断は、誤診が患者の生命や健康に大きな影響を与えるため、AIの判断に対して医師が確認・修正するHITLが非常に重要です。選択肢2の自動車の自動運転の緊急時対応も、事故や人身被害を防ぐために、人間が状況に応じて介入できる仕組みが求められます。どちらもHITLが特に重要となる典型的なシチュエーションです。

【解説】

正解: 2 人間がAIの判断に積極的に介入できる仕組み

この問題は、HITLの特徴を正しく理解できているかを確認するものです。AIと人間の関係性が「自動」か「協調」かを見極める力が問われています。

正解の選択肢2は、HITLにおける人間の役割を端的に表しています。人間がAIの出力結果を確認し、必要に応じて承認・修正・差し戻しを行えるような仕組みこそがHITLの特徴です。これにより、AIの判断をそのまま受け入れるのではなく、人間の専門知識や価値観を反映できます。

選択肢1は、AIの出力結果を無条件に採用するとしており、これはむしろ「人間がループから外れている」状態です。HITLとは逆の発想になります。選択肢3は、人間の関与がAIシステムの効率性を完全に阻害するという極端な表現であり、実際には効率と安全性を両立させるように設計するのがHITLの考え方です。そのため、特徴を説明する内容としては不適切です。

【解説】

正解: 3 利用者の偏見がデータ選定や評価に影響するため

この問題は、AI利用者の関与によってどのようにバイアスが生じるか、そのメカニズムを理解しているかを確認するものです。バイアスの発生源が「人側」にあるケースに気づけるかがポイントです。

正解の選択肢3は、利用者が持つ先入観や偏見が、学習データの選び方やAI出力へのフィードバックに反映されることで、AI自体の判断にも偏りが生じることを指しています。例えば「この属性の人は落とすべきだ」といった評価を繰り返すと、AIも同様の偏ったパターンを学習してしまいます。

選択肢1は、AIが完全に自動化されていることを原因としていますが、自動化それ自体がバイアスの直接原因ではありません。むしろ、どのようなデータやフィードバックが与えられているかが問題です。選択肢2は、利用者が全く操作を行わないことを原因としていますが、何も関与していない場合よりも、偏った関与がある場合の方がバイアスは生じやすいといえます。したがって、原因として適切ではありません。

【解説】

正解: 2 利用者によるAIの結果確認を完全に排除する

この問題は、AI利用者の関与によるバイアスを防ぐために、どのような対策が望ましいかを理解しているかを確認するものです。バイアスを減らしつつ、信頼性や透明性をどう確保するかが問われています。

正解の選択肢2は、利用者によるAIの結果確認を「完全に排除する」という極端な内容であり、バイアス対策として不適切です。確認を一切行わないと、誤りや不具合を検知できなくなり、透明性や説明責任も損なわれます。バイアスの温床となる偏った評価を抑える必要はありますが、関与自体をゼロにするのは別の問題を生みます。

選択肢1は、多様な視点を取り入れて評価を行うことで、特定の個人や集団の偏見が結果に過度に影響しないようにする考え方で、バイアス軽減に有効です。選択肢3は、データ選定基準を透明化することで、どのようなルールでデータが選ばれているかを外部から検証できるようにする取り組みであり、これもバイアス防止策として適切です。

【解説】

正解: 1 利用者がAIの出力を基に意思決定を行う場面

この問題は、AI利用者の関与によるバイアスがどのような場面で特に顕著になるかを理解しているかを確認するものです。人間の判断がAIの結果にどのように影響するかがポイントです。

正解の選択肢1は、利用者がAIの出力を見て、採用・不採用や合否などの意思決定を行う場面です。このとき、利用者の期待や先入観が「この結果は正しい」「この結果は信用できない」といった評価に影響し、それがAIへのフィードバックや運用ルールに反映されることで、バイアスが固定化・増幅されることがあります。

選択肢2は、明確な基準に基づいて結果を自動生成する場面であり、利用者の主観が入り込む余地は比較的少なくなります。選択肢3のように完全にランダムなデータを扱う場合も、特定の偏見が構造的に反映される可能性は低く、利用者のバイアスが顕著に現れる場面とは言えません。

【解説】

正解: 2 学習データが偏っているため

この問題は、アルゴリズムのバイアスがどこから生まれるのか、根本原因を理解しているかを確認するものです。AIの振る舞いが学習データに大きく依存している点を押さえられているかが問われています。

正解の選択肢2は、学習に用いるデータが特定の属性やパターンに偏っていると、その偏りがそのままアルゴリズムの判断に反映されることを示しています。例えば、ある属性の人が極端に少ないデータで学習すると、その人たちに対する予測性能が低くなるなどの不公平が発生します。

選択肢1は、アルゴリズムがランダムに動作することを原因としていますが、ランダム性自体はバイアスというより「ばらつき」に近い性質であり、特定の集団を一方的に不利にするような偏りとは異なります。選択肢3は、アルゴリズムが全く学習しないことを原因としていますが、その場合はそもそも意味のある判断ができず、「特定方向への偏り」というバイアスの概念とは異なります。

【解説】

正解: 3 学習データの精度を意図的に下げる

この問題は、アルゴリズムのバイアスを軽減するためにどのような対策が有効か、あるいは無効かを見極める力を確認するものです。データの質をどう扱うべきかがポイントです。

正解の選択肢3は、学習データの精度をわざと下げるという内容であり、バイアス軽減策として不適切です。データの質を下げると、予測全体の信頼性や精度が低下し、誤判定も増えます。偏りの問題は解決せず、単に「どの方向にも間違いやすい」状態になるだけです。

選択肢1は、学習データの多様性を高めることで、特定の属性だけに偏った学習を避ける考え方であり、バイアス軽減に有効です。選択肢2は、アルゴリズムの仕組みや判断基準を可能な範囲で公開し、外部からの検証を受けられるようにすることで、不当なバイアスがないかをチェックしやすくする取り組みであり、これも適切な対策です。

【解説】

正解: 1 採用選考における自動スクリーニングシステム

この問題は、アルゴリズムのバイアスが特に問題視される具体的な場面をイメージできているかを確認するものです。社会的影響の大きさや、公平性の重要度が判断の基準になります。

正解の選択肢1は、採用選考で応募者を自動的にふるい分けるシステムを示しています。このような場面でバイアスがあると、特定の性別・年齢・人種などの応募者が一方的に不利になり、不公平な差別につながるため、社会的に大きな問題となります。

選択肢2の動画配信サービスの視聴履歴分析や、選択肢3の音楽再生リストの自動生成にもバイアスは存在し得ますが、主に「おすすめの偏り」として現れることが多く、採用のような直接的な機会不平等や差別と比べると、問題の性質や重さは異なります。そのため、最も問題視される例としては適切ではありません。

【解説】

正解: 2 責任の所在が複雑になりやすいため

この問題は、AIサービスにおける「責任論」がなぜ難しい課題になるのか、その理由を理解しているかを確認するものです。AI特有の構造が責任の分散を招く点を押さえられているかがポイントです。

正解の選択肢2は、AIサービスでは開発者、運用者、利用者、さらにはデータ提供者など、多くの関係者が関わるため、問題が起きたときに「誰がどこまで責任を負うのか」が分かりにくくなることを指しています。この複雑さこそが、AIサービスの責任論が難しい理由です。

選択肢1は、AIが常に完璧に動作することを前提にしていますが、現実には誤りや不確実性が存在するため、この前提自体が誤りです。選択肢3は、AIサービスの利用者が増えないことを理由としていますが、責任論の難しさとは直接関係がありません。利用者数にかかわらず、責任の所在の複雑さは問題になります。

【解説】

正解: 3 責任を誰か1人に全て押し付ける

この問題は、AIサービスの責任論をどのように解決していくべきか、その方向性を理解しているかを確認するものです。公平で現実的な責任分担の考え方が身についているかが問われています。

正解の選択肢3は、責任を特定の個人や一つの組織に丸ごと押し付けるという内容であり、適切な解決策とは言えません。実際には、システム設計、データ管理、運用ルール、最終意思決定など、関与の範囲に応じて責任を分担しなければ、公平性も再発防止も担保できません。

選択肢1は、誰がどの範囲を担当するのかをあらかじめ規定しておくことで、問題発生時の対応や改善をスムーズにする考え方であり、責任論の整理に有効です。選択肢2は、倫理ガイドラインを整備して判断の基準を共有することで、関係者が共通のルールのもとで責任を意識しやすくする取り組みであり、これも適切な対応策です。

【解説】

正解: 2 自動車の自動運転中の事故

この問題は、AIサービスの責任論が特に重要になる具体的な場面を理解しているかを確認するものです。生命や重大な財産に対するリスクの大きさが判断の基準となります。

正解の選択肢2は、自動運転中の事故という、人的被害や大きな損害につながりうるシーンです。この場合、「システム開発者」「車両メーカー」「運転者（利用者）」「システム提供事業者」など、誰がどの程度責任を負うのかが厳しく問われるため、責任論が極めて重要になります。

選択肢1のゲームの難易度調整は、失敗しても主にユーザー体験の問題にとどまり、命や大きな財産被害には直結しません。選択肢3の電子書籍の配信システムも、障害が発生した場合の影響は限定的であり、責任論が自動運転ほど深刻に問われるケースとは言えません。

【解説】

正解: 1 AIが人間と同じ倫理的判断を模倣するため

この問題は、トロッコ問題がAI倫理の文脈でなぜ注目されるのか、その意義を理解しているかを確認するものです。AIに倫理的判断を組み込む難しさを把握しているかがポイントです。

正解の選択肢1は、トロッコ問題が「どちらの被害を選ぶか」という極端なジレンマを通じて、人間の倫理的判断のパターンを考察し、それをAIにどう反映させるかを検討するために用いられていることを示しています。AIが人間社会の価値観と大きくずれた判断をしないようにするためのモデルケースとして重要です。

選択肢2は、経済効率性を持たせることを目的としていますが、トロッコ問題は効率ではなく倫理・価値判断に関する思考実験です。選択肢3は、AIの判断基準をランダムにすることを目的としているかのような内容ですが、トロッコ問題はむしろ「ランダムではない、一貫した判断基準」をどう設計するかを問う場面で用いられます。

【解説】

正解: 3 スマート家電の省エネ設定

この問題は、トロッコ問題が具体的にどのような分野で議論されるか、そしてどの分野にはあまり馴染まないかを理解しているかを確認するものです。倫理的ジレンマの有無が判断の基準になります。

正解の選択肢3のスマート家電の省エネ設定は、電力の使い方を最適化する技術であり、人命に関わる重大な倫理的ジレンマが生じる場面とは通常言えません。そのため、トロッコ問題のような「誰を救うか」といった倫理問題が直接議論される分野としては適切ではありません。

選択肢1の自動運転車の緊急時の判断は、歩行者と乗員のどちらを守るかなど、トロッコ問題に類似したジレンマを抱える代表的な分野です。選択肢2のロボットによる医療支援の優先順位も、限られた資源や時間の中で誰を優先するかという倫理的判断が必要になるため、トロッコ問題の考え方が議論に用いられることがあります。

【解説】

正解: 2 判断基準に普遍的な倫理観が存在しない

この問題は、トロッコ問題のジレンマをAIに実装しようとしたとき、なぜ難しさが生じるのかを理解しているかを確認するものです。倫理観の多様性とAI設計の関係がポイントです。

正解の選択肢2は、倫理的な判断が文化や社会、個人の価値観によって異なり、「これが絶対に正しい」という普遍的な基準が存在しにくいことを指摘しています。AIに判断ルールを組み込む際、誰の価値観を基準にするのかという問題が避けられず、これが実装上の大きな課題になります。

選択肢1は、トロッコの操作方法をプログラムする難しさを挙げていますが、技術的な制御の実装自体は比較的明確で、倫理的ジレンマの核心とは異なります。選択肢3は、トロッコ問題を現実社会で再現できないことを課題としていますが、あくまで思考実験であることが本質であり、物理的に再現できないこと自体はAIへの実装課題ではありません。

【解説】

正解: 1 AIの学習データが誤りや不足を含んでいるため

この問題は、ハルシネーション（AIがもっともらしいが誤った情報を生成する現象）の主な原因を理解しているかを確認するものです。入力データの質と出力の信頼性の関係を把握しているかが問われています。

正解の選択肢1は、学習データに誤りや偏り、不足があると、その不完全な情報をもとにAIが「穴を埋めるように」回答を生成し、結果として事実と異なる内容を自信ありげに提示してしまうことを指しています。これは大規模な生成モデルで特に問題となる現象です。

選択肢2は、AIが常に最適な答えを生成することを前提としており、そもそもハルシネーションの説明として矛盾しています。選択肢3は、AIが全くデータを使用しないことを原因としていますが、学習データなしでは意味のあるモデルが構築されず、「もっともらしいが誤った回答が生じる」というハルシネーションの特徴とは異なります。

【解説】

正解: 3 AIの生成アルゴリズムを完全に削除する

この問題は、ハルシネーションを防ぐための対策として何が適切で、何が不適切かを見極める力を確認するものです。問題への対処と、技術そのものの破棄を混同していないかがポイントです。

正解の選択肢3は、AIの生成アルゴリズムを完全に削除するという極端な内容であり、ハルシネーション対策として不適切です。アルゴリズムを消してしまえば、そもそもAIが回答を生成できなくなり、問題解決どころかシステムの機能そのものが失われます。

選択肢1は、学習データを精査して正確性や網羅性を高めることで、誤った情報に基づく回答を減らそうとする取り組みであり、ハルシネーション抑制に有効です。選択肢2は、AIの出力に対して人間がレビューを行い、不適切な内容をチェック・修正するプロセスを設けるもので、特に重要な分野では不可欠な対策です。

【解説】

正解: 2 医療診断支援システム

この問題は、ハルシネーションがどのような用途で特に深刻な問題となるかを理解しているかを確認するものです。誤情報が与える影響の大きさが判断の基準となります。

正解の選択肢2は、医療診断支援システムのように、高い精度と信頼性が求められる用途を示しています。この分野でAIがもっともらしいが誤った情報を提示すると、誤診や不適切な治療につながり、患者の生命や健康に重大な影響を与える可能性があるため、ハルシネーションは大きなリスクになります。

選択肢1の単純な挨拶対応を行うチャットボットでは、多少の誤りがあっても重大な被害には直結しにくく、影響は限定的です。選択肢3のエンターテイメント用の音楽推薦システムも、誤った推薦があってもユーザー体験が少し変わる程度であり、医療分野のような重大なリスクにはつながりません。

【解説】

正解: 1 本物そっくりの偽のメディアを生成する技術

この問題は、ディープフェイク技術の基本的な特徴を理解しているかを確認するものです。何を「偽装」する技術なのかを正しく把握しているかがポイントです。

正解の選択肢1は、ディープラーニングを活用して、本物と見分けがつかないほど精巧な偽の画像や動画、音声などを生成する技術であることを端的に表しています。顔の入れ替えや音声の合成などが代表例です。

選択肢2は、実際のデータの誤りを検出する技術について述べており、これはデータクレンジングや異常検知など別の分野の話です。選択肢3は、データの安全性を高める暗号化技術に関する内容であり、通信や保存の安全性を確保する技術であって、偽メディアの生成とは目的も仕組みも異なります。

【解説】

正解: 3 本人出演の映画シーンの再生

この問題は、ディープフェイクが悪用される可能性のある例と、そうではない例を見分けられるかを確認するものです。何が「偽装」なのかを正しく理解しているかが問われています。

正解の選択肢3は、実在の本人が本当に出演している映画シーンをそのまま再生するだけの行為を示しています。これは既存の正規コンテンツの再生であり、偽の映像を生成・改変しているわけではないため、ディープフェイクの悪用例とは言えません。

選択肢1は、政治家が実際には話していない内容の演説動画を偽造するケースであり、世論操作や名誉毀損につながる典型的なディープフェイクの悪用例です。選択肢2の偽の本人確認書類の作成も、不正な本人認証やなりすましに悪用される可能性が高く、ディープフェイクの危険な利用例として適切です。

【解説】

正解: 2 教育コンテンツの作成に利用する

この問題は、ディープフェイク技術が必ずしも悪用だけでなく、適切な用途にも利用し得ることを理解しているかを確認するものです。技術の使い方次第で価値が変わる点を押さえることが重要です。

正解の選択肢2は、歴史上の人物の講演を再現する映像を作るなど、教育的な目的でディープフェイク技術を活用するイメージです。適切な同意や権利処理を行った上で、理解を深めるための教材として用いるのであれば、正当な活用例と言えます。

選択肢1は、違法な映像制作を支援する内容であり、著作権侵害や詐欺などの犯罪行為につながります。選択肢3は、未承諾で他人の顔を使用した動画を拡散するケースであり、プライバシー侵害や名誉毀損のリスクが高く、いずれも適切な活用例とは言えません。

【解説】

正解: 1 利用者のデータ保護や選択権を確保するため

この問題は、AIサービスにおけるオプトアウトポリシーがなぜ重要視されるのか、その理由を理解しているかを確認するものです。利用者の権利保護という観点を持てているかがポイントです。

正解の選択肢1は、オプトアウトポリシーが、利用者に自分のデータをAIの学習やサービス改善に使われるかどうかを選択する権利を与え、プライバシーを守る仕組みであることを示しています。これにより、利用者は自分のデータの扱いに主体的に関与できます。

選択肢2は、AIの開発コスト削減を目的としていますが、オプトアウトポリシーの主な狙いはコストではなく利用者の権利と信頼の確保です。選択肢3は、アルゴリズムの高速化に言及していますが、オプトアウトポリシーの有無と処理速度は直接的な関係がありません。

【解説】

正解: 2 利用者がデータ処理の内容を誤解する

この問題は、オプトアウトが適切に実装されていない場合に、どのような問題が生じ得るかを理解しているかを確認するものです。説明不足が利用者に与える影響をイメージできるかが問われています。

正解の選択肢2は、オプトアウトの説明や設定方法が不十分な結果、利用者が「自分のデータは使われていないはず」「どのように使われているのか分からない」といった誤解や不信感を抱くことを示しています。これは、プライバシー関連のトラブルや法的な問題につながるおそれがあります。

選択肢1は、オプトアウト不備によって利用者のAI利用意欲が増加するとしていますが、実際には不透明さが増すほど利用意欲は低下する傾向があります。選択肢3は、AIの動作速度が著しく低下するとしていますが、オプトアウトの有無や実装方法は、通常、処理速度と直接的な因果関係を持ちません。

【解説】

正解: 3 顧客データを活用した広告配信サービス

この問題は、どのような状況でオプトアウトポリシーが特に重要になるのかを理解しているかを確認するものです。個人データの活用と利用者の選択権の関係がポイントです。

正解の選択肢3は、顧客データを用いてパーソナライズド広告を配信するサービスの例であり、誰のどのデータをどのような目的で使うのかが問題になります。このような場面では、利用者が「自分のデータを広告に使われたくない」と判断したときに、容易にオプトアウトできる仕組みが重要です。

選択肢1は、インターネットの通信速度向上を目指すサービスであり、主にネットワークやインフラの技術が対象で、個々人のデータ利用の是非をユーザーごとに選択する場面は比較的少ないです。選択肢2は、AIを使用しない手作業のみの業務であり、そもそもAIによるデータ活用が前提ではないため、オプトアウトポリシーの重要性は相対的に低くなります。