安全・法律・倫理
1 項目
安全・法律・倫理とは｜このカテゴリで分かること
生成AIのリスクのうち、使ううえで避けて通れない権利・情報管理・セキュリティ・社会的な影響をまとめたカテゴリです。「AIと著作権の法律はどうなっているのか」「生成AIに個人情報を入力してよいのか」「AIのセキュリティで情報漏洩を防ぐには何をすべきか」といった疑問に、公的機関の資料をもとに答えます。
対象は、生成AIを日常業務で使う人、社内ルールや導入を担当する人、教育現場の関係者です。法令やガイドラインの全体像と、実務で何を確認すればよいかを整理します。なお、ここでの解説は一般的な情報であり、個別の案件の判断は専門家に相談してください。
読む順番（おすすめの順路）
- 生成AIの情報漏洩対策｜入力ルールと設定の見直し … 最も身近なリスクから。入力ルールと設定の見直しで防げることを確認します。
- 機密情報の扱い｜生成AIに入力してよい情報・いけない情報の線引き … 入力してよい情報・いけない情報の線引きを具体的にします。
- 個人情報と生成AI｜入力・提供・学習利用の注意点（個人情報保護法の観点） … 個人情報保護法の観点から、入力と提供の論点を整理します。
- 学習へのデータ利用とオプトアウト｜入力内容がモデルの改善に使われるかの確認 … 入力内容が学習に使われるかと、その設定を確認します。
- AIサービスの利用規約の確認ポイント｜データ・権利・禁止事項・責任の読み方 … 業務で使う前に、利用規約で読むべき箇所を押さえます。
- AIと著作権（日本）｜学習・生成・利用の各段階で押さえる基本の考え方 … 学習・生成・利用の段階ごとに、著作権の考え方を学びます。
- AI利用の開示｜いつ、誰に、どう伝えるかの判断基準と表示の考え方 … AIを使ったことを、いつ誰に伝えるべきかを判断します。
- AI事業者ガイドライン｜経済産業省・総務省が示すAI利活用の指針の読み方 … 国の指針の読み方を知り、社内ルールの土台にします。
- EU AI規制法（AI Act）とは｜リスクに応じた規制の枠組みと日本企業への関係 … 海外と取引がある場合に備え、EUの規制の枠組みを確認します。
- 生成AIのセキュリティリスク｜情報漏えい・インジェクション・サプライチェーンの全体像 … ここから開発・管理者向けです。リスクの全体像をつかみます。
- ジェイルブレイクと対策｜AIの安全制限を回避する試みと、開発者・利用者の備え … 安全制限を回避する試みと、防御側の備えを学びます。
- ディープフェイク｜偽の顔・声・映像を見抜く視点と、作る側・使う側の注意 … 偽の顔・声・映像への対処を、受け手と作り手の両面から考えます。
- AIのバイアスと公平性｜偏りが生じる原因・影響・点検と対策の考え方 … 偏りが生じる原因と、点検の考え方です。
- AIセーフティの考え方｜安全・信頼できるAIのための取り組みと評価の枠組み … 安全なAIのための取り組みと評価の枠組みを俯瞰します。
- 教育現場でのAI利用｜文部科学省のガイドラインの考え方と、学校・教員・生徒の注意点 … 学校で使う場合の、文部科学省のガイドラインの考え方です。
押さえておきたいポイント（リサーチ）
公的機関の公表資料で確認できた事実です（2026年10月時点。改正や改定があるため、最新は公式で確認してください）。
| 分野 | 資料 | 確認できた内容 |
|---|---|---|
| 個人情報 | 個人情報保護委員会「生成AIサービスの利用に関する注意喚起等」 | 2023年6月2日公表。事業者には、個人情報を含むプロンプト入力時の利用目的の範囲や、入力内容が学習に使われないかの確認を、一般の利用者には、入力した個人情報が機械学習に使われ、不正確な内容で出力されるリスクがあることを踏まえた判断と、利用規約やプライバシーポリシーの確認を促している |
| 著作権 | 文化庁「AIと著作権に関する考え方について」 | 2024年3月15日に文化審議会著作権分科会法制度小委員会が取りまとめ（法的拘束力はないと明記）。生成・利用段階の侵害は、AIを使わない創作と同様に類似性と依拠性で判断すると整理。2024年7月31日にチェックリスト＆ガイダンスも公表 |
| 事業者向け指針 | 総務省・経済産業省「AI事業者ガイドライン」 | 第1.0版は2024年4月19日、第1.1版は2025年3月28日、第1.2版は2026年3月31日に公表。非拘束的なソフトローと位置づけられ、事業活動でAIを利用する事業者も対象。チェックリストも掲載 |
| 法律 | 人工知能関連技術の研究開発及び活用の推進に関する法律（AI法） | 2025年6月4日に公布・一部施行、同年9月1日に全面施行 |
日本のAI法は、AIの研究開発と活用の推進を目的とする法律です。著作権や個人情報など個別の論点は、著作権法や個人情報保護法など既存の法律に沿って考える必要があります。
よくある疑問
Q. AIと著作権の法律は、日本ではどう整理されていますか？ A. 学習段階と、生成・利用段階を分けて考えます。生成物の利用では、既存の作品との類似性と依拠性が論点になります。詳しくは AIと著作権（日本）｜学習・生成・利用の各段階で押さえる基本の考え方 を参照してください。
Q. 生成AIに個人情報を入力してもよいですか？ A. 利用目的の範囲内か、入力内容がどう扱われるかを確認する必要があり、原則として入力しない運用が安全です。論点は 個人情報と生成AI｜入力・提供・学習利用の注意点（個人情報保護法の観点） で整理しています。
Q. AIのセキュリティで、情報漏洩を防ぐには何から始めればよいですか？ A. 入力してはいけない情報を決め、学習への利用設定を確認し、法人向けの契約や管理機能を検討するのが基本です。手順は 生成AIの情報漏洩対策｜入力ルールと設定の見直し と 学習へのデータ利用とオプトアウト｜入力内容がモデルの改善に使われるかの確認 へ。
Q. AI事業者ガイドラインは、AIを使うだけの会社にも関係しますか？ A. 開発者・提供者だけでなく、業務でAIを使う事業者も対象に含まれます。読み方は AI事業者ガイドライン｜経済産業省・総務省が示すAI利活用の指針の読み方 で解説しています。
編集部の見解
このテーマは、法律の条文から読み始めるより、「何を入力するか」「出力をどう使うか」という自分の行動に引き寄せて学ぶほうが身につくと考えます。つまずきやすいのは、ガイドラインや法律が「禁止事項の一覧」だと思い込み、全面禁止か無制限かの二択で考えてしまうことです。編集部としては、入力・出力・権利・設定の4点を自分の業務に当てはめて点検し、判断に迷うものは記録して専門家や担当部署に相談する、という運用が現実的だと考えます。また、制度は数か月単位で更新されるため、年に一度はルールを見直す前提で決めておくことをおすすめします。