生成AIを業務で使うときの落とし穴：著作権・個人情報・ハルシネーション

生成AIパスポートの中核と言えるのが、第4章「情報リテラシー・基本理念とAI社会原則」です。配点面で重要なだけでなく、実務でトラブルを起こさないための知識そのものでもあります。業務利用で特に落とし穴になりやすい4つのリスクを整理します。

落とし穴1：ハルシネーション（もっともらしいウソ）

生成AIは、事実でない内容をもっともらしく生成してしまうことがあります。これをハルシネーションと呼びます。存在しない判例や論文を「引用」してしまう事例は実際に起きており、生成物の事実確認（ファクトチェック）は利用者の責任です。試験では「ハルシネーションとは何か」に加え、対策としてのRAG（外部知識の検索を組み合わせて回答の根拠を持たせる仕組み）もセットで問われます。

落とし穴2：著作権——「学習」と「生成物」を分けて考える

著作権は第4章の最頻出テーマです。ポイントは学習段階と生成・利用段階を分けて考えることです。

• 学習段階：日本の著作権法30条の4により、情報解析目的での著作物の利用は原則として許諾なく可能です（ただし著作権者の利益を不当に害する場合は除く）。
• 生成・利用段階：生成物が既存の著作物と類似性・依拠性を持つ場合、著作権侵害となり得ます。
• AI生成物の権利：AIが自律的に生成しただけのものは原則として著作物になりませんが、人間の創作的寄与があれば著作物と認められる余地があります。

落とし穴3：個人情報・機密情報の入力

プロンプトに入力した内容がAIの学習に利用される設定になっている場合、顧客の個人情報や社外秘の情報を入力してはいけません。個人情報保護法の観点では、要配慮個人情報（病歴など）の取り扱いには特に厳格なルールがあります。業務利用では「入力データが学習に使われる設定か」「社内ガイドラインで許可された用途か」の2点を必ず確認しましょう。

落とし穴4：ディープフェイクと偽情報

生成AIの進化により、本物と見分けのつかない偽動画・偽音声（ディープフェイク）が簡単に作れるようになりました。詐欺や偽情報（ディスインフォメーション）への悪用は世界的な問題であり、「作らない」だけでなく「安易に信じない・拡散しない」リテラシーが問われます。フィッシング詐欺やソーシャルエンジニアリング攻撃といったセキュリティの基礎知識も、同じ章の出題範囲です。

実務での心構え：ガイドラインに立ち返る

政府のAI事業者ガイドライン（第1.1版）は、AI開発者・提供者・利用者の3主体それぞれに求められる取り組みを整理しています。業務で迷ったときは「自社のルールはどうなっているか」「利用者としての責任を果たしているか」に立ち返ることが、最も確実なリスク回避になります。

この章は暗記だけでなく「自分の業務ならどう判断するか」を考えながら学ぶと、試験対策と実務力が同時に身につきます。当アプリの第4章演習で、判断力を鍛えていきましょう。