子ども向けAIの出力制約を、年齢に応じた説明と支援につなげる

2026年10月25日

URLをコピーしました！

公開日: 2026年10月25日

子どもが使うAIでは、説明を年齢や理解に合わせるとともに、学習に不要な情報を尋ねないこと、情報提供や継続利用へ不当に誘導しないこと、人に相談できることを、画面と機能の両方で設計します。「子どもにやさしく答える」という指示だけでは、住所の入力欄や外部送信の権限は変わりません。利用者が何を理解し、何を断れ、どこで訂正できるかまで具体化する必要があります。

年齢の数字と、確かめた範囲を分ける

同じ「子ども向け」でも、短い説明や読み上げが必要な利用者と、自分で理由を確かめたい利用者では支え方が違います。年齢は目安になりますが、読み書きの力、使用言語、障害への配慮も確認します。説明を詳しくする選択肢を置く際、必要のない診断名や家庭事情まで入力させる必要はありません。

UNICEFのGuidance on AI and Children 3.0は、2025年12月公表の政府・企業向けの勧告です。子どもを単一の利用者像として扱わず、発達に応じた設計と、AIの仕組みやデータ利用を理解できる説明を求めています。個別サービスの適法性を認定する文書ではありません。

また、「10歳と入力された」「所定の方法で年齢帯を確認した」「年齢情報がない」は別の状態です。自己申告を確認済みと表示せず、年齢不明を成人として扱って保護を解除することも避けます。確認済みでも、確認した年齢帯、方法、時点を管理し、保護者の同意まで得たことにはしません。学習用の説明を選ぶための申告と、利用資格や同意を確かめる手続きは分けます。必要な利用資格を確かめられなければ、該当機能の提供は保留します。

英国ICOの年齢に応じた適用の説明は、データ処理のリスクに見合う確かさで年齢を確認するか、全利用者に保護基準を適用するかを求めています。自己申告については、年齢を述べるだけで裏付けを伴わない方法とし、低リスクの処理に限って適し得ると整理しています。また、年齢確認のために集める個人データも必要最小限にとどめるよう求めています。学習チャットに身分証を貼らせる方式を安易に採らないのは、そのためです。

法令の年齢区分は別途確認します。米国FTCのCOPPA規則の説明は、13歳未満向けのオンラインサービスや、13歳未満から個人情報を集めていると実際に知る事業者などを対象にしています。この区分を、世界共通の成人判定や、13歳以降は保護不要という基準に置き換えることはできません。提供地域、サービス、データの使い方に応じた確認が必要です。

集めない情報と、促さない行動を決める

最初に、学習課題を解くために何が必要かを絞ります。分数の大小を説明するなら、問題文と、どこでつまずいたかがあれば進められます。住所、学校名、顔写真、保護者の連絡先を最初から一式で求める理由にはなりません。

英国の2018年データ保護法第123条に基づく法定の実務規範であるChildren’s codeは、個人データを扱い、英国の子どもが利用する可能性のある対象オンラインサービスに向けたものです。そのデータ最小化の考え方は、利用する機能ごとに必要な情報を分ける際の参考になります。日本のあらゆる学習AIへ、そのまま法的義務として当てはめるものではありません。

画面では住所欄を削り、送信前に入力を直せるようにします。生成する回答にも、本人や友達の連絡先を聞かない、必要のない秘密を打ち明けさせない、個人情報を教えたことを褒賞しない、といった制約を置きます。入力に余分な情報が混ざった場合は、回答に繰り返さず、問題部分だけで進められるよう案内します。

「もっと教えれば特別なヒントがもらえる」「大人には内緒にしよう」という誘導も点検します。ICOのナッジに関する基準は、不要な個人データの提供やプライバシー保護の解除へ誘導しないことを示しています。ここでのナッジとは、ボタンの目立たせ方や言葉で特定の選択へ促す設計です。拒否を小さく隠したり、断る操作だけを複雑にしたりしないよう、文面以外も確認します。

実装では、こうした応答方針に加え、入力項目を絞り、参照できる情報や利用できる外部機能をアプリ側で制限します。学習に不要な購入・投稿・連絡先への送信を、AIの文言だけで実行できる構成にしないことも対策案になります。住所欄を消しても、自由入力の内容がログへ残る問題は別に残ります。保存期間、閲覧できる担当者、削除を受け付ける経路を決め、表示と運用を合わせます。

同じ分数学習で、画面と回答を比べる

以下は架空の学習AIの修正案です。依頼は「1/2と1/3はどちらが大きい？分母が大きい方だと思った」とします。問題、モデル、学習の説明機能は前後で同じです。AIは問題を説明し、運営者が確認した相談案内を表示できますが、保護者や先生へ連絡を送る機能はありません。

確かめる箇所	修正前	修正後の案
学習の開始	住所・学校名の必須欄を埋めるまで進めない	両欄を除き、問題とつまずきだけで開始できる
年齢の表示	自分で「10歳」と入れると「年齢確認済み」になる	「年齢は自分で入力した情報です」と示す。確認済み・不明とは分ける
ヒントへの誘導	「学校名も教えたら、特別なヒントをあげる」	個人情報の追加を条件にせず、説明を選べる
説明と次の操作	「1/2が正解。続けよう」のみ	理由を示し、「別の説明」「今日は終わる」「人に相談する方法」を選べる

修正後の回答は、たとえば次のようにします。

「同じ大きさのものを、同じ量ずつ2つに分けた1つ分と、3つに分けた1つ分を比べます。2つに分けた方が1つ分は大きいので、1/2の方が大きいです。このAIも答えをまちがえることがあります。教科書の図でもたしかめてみましょう。」

入力欄には「問題だけを書いてください。名前や家の住所は書かなくて大丈夫です」と添えます。AIであること、入力の利用・保存、誰が読めるかの説明は、開始前から読める位置に置きます。短い説明から詳しい説明へ進めるようにし、確認できていない保存方針を「すぐ消える」「誰にも見られない」と言い換えません。

この変更で意図しているのは、個人情報を渡さずに同じ学習を進め、説明を変えるか、終えるかを選べることです。学習効果や情報漏えいの減少を測った結果ではありません。複数の箇所を同時に変えているため、個々の変更の効果もこの対比だけでは分かりません。

人の支援へつなぐときは、相手と共有内容を示す

学習上の疑問なら、保護者や先生に問題を見てもらう方法を案内できます。一方、健康や安全、家庭での困りごとを学習AIだけで判断し続けないよう、相談を受ける専門職や地域の支援先へ進める経路を用意します。案内先の対象年齢、地域、受付時間、利用方法は運営者が確認し、AIに連絡先を作らせません。

保護者が常に安全な相談相手とは限りません。保護者に話すと危険が増すという訴えがある場合は、その人への連絡を機械的に促さず、別の信頼できる大人や、子どもの保護を扱う専門窓口を選べるようにします。危険のある相談では、詳細を聞き出すことより安全確保を優先します。緊急性の判断と人への接続の詳しい設計は、自傷・他害の危機兆候に、AIから人の支援へつなぐ応答を設計するで扱っています。

また、保護者との連携を理由に、すべての会話を自動共有する設計にはしません。ICOの保護者向け管理機能の説明は、見守りが子どものプライバシーにも関わり、監視されている場合は本人に分かる表示が必要だとしています。共有する場合は、誰に何が届くか、通常の同意手続きと危険時の例外を、適用法と保護方針に合わせて決めます。

架空例のAIは案内だけができるため、「先生に伝えました」とは表示しません。実際に相談を送れる別のサービスなら、送信前の確認、送信結果、応答を待つ間の案内まで用意し、接続できないときに接続済みと報告しないことが必要です。

説明の理解と、機能の動きを別々に確かめる

公開前の確認では、子どもが「何を書けばよいか」「AIができることは何か」「間違いを直すにはどこを使うか」を読み取れるかを見ます。文章をやさしくしたという制作側の判断だけで、理解できたことにはしません。

まず担当者が架空の入力と試験用アカウントで、次を確認する計画を立てます。

住所を入れなくても分数の説明を受けられ、個人情報の追加を求める回答が出ないか。出た場合は生成制約と画面を修正し、問題だけの入力でも学習を止めすぎないか再確認する。
自己申告・確認済み・年齢不明で表示と機能が方針どおり変わるか。根拠なく確認済みに変わる場合は、その表示や制限解除を止める。
入力の訂正、相談案内、終了の操作が動くか。削除を求めた場合、画面から消えただけで保存先も削除済みと表示していないか、処理の記録と照合する。

実際の子どもの理解を確かめる調査は、こうした機能試験とは別に、必要な同意・子ども本人への説明・安全配慮を整えて設計します。実在の住所や相談履歴を試験材料として集める必要はありません。本例では機能試験も利用者調査も実施しておらず、期待する挙動を示しています。

年齢帯ごとの説明や支援先の維持には担当者の時間が必要で、出力の検査にも見逃しが残ります。モデルや画面を変更したときは同じ確認をやり直し、支援先が使えない、訂正できないと分かった機能は、直して確かめるまで提供を見合わせます。

教育の場でAIに教材を作らせるときの安全テンプレートは「教育担当向けAIアシスタントの教材作成テンプレート」で解説しています。