Grok AIは子どもに安全？年齢制限・危険性と保護者向け対策

Grok AIは子どもに安全？結論から解説

現時点では、Grok AIを子どもや10代の利用者に安全なサービスとしておすすめすることはできません。

Grokの公式利用規約では、原則13歳以上が利用対象で、13〜17歳には保護者の許可が必要とされています。ただし、これは利用資格を定めたものであり、安全性を保証するものではありません。

日本のアプリストアでは、Google PlayのGrokが18歳以上、App StoreのGrokが16+となっています。

さらに、Common Sense MediaのYouth AI Safety Instituteは2026年1月、GrokとX上の@grokを「Unacceptable Risk（許容できないリスク）」と評価しました。

この独立した安全性評価では、年齢確認の不十分さ、性的コンテンツ、不適切な助言、AIコンパニオンに関する問題などが指摘されています。

保護者が知っておきたい基本情報は次のとおりです。

• 開発元：GrokはxAIによって開発された生成AIサービスです。現在の利用規約ではSpaceX Super Intelligence LLC（SpaceXSI）が提供主体として記載されています。
• 規約上の最低年齢：原則13歳以上。13〜17歳は保護者の許可が必要です。
• 日本のGoogle Play：18歳以上。
• 日本のApp Store：16+。
• 利用方法：専用アプリ、grok.com、X。
• 主なリスク：性的コンテンツ、ディープフェイク、不正確な助言、個人情報の取り扱い、AIコンパニオンへの過度な依存。
• 安全対策：年齢に応じた制限やフィルターがありますが、すべての不適切な応答を防げるわけではありません。

Grok AIとは？生成AI「Grok」の仕組みと特徴

Grok AI（グロック）は、イーロン・マスク氏が設立したxAIによって開発された生成AIチャットサービスです。

質問への回答、Web検索、文章作成、プログラミング、ファイル分析に加え、AI画像生成や動画生成にも対応しています。

検索では「AI Grok」「Grok生成AI」「生成AI Grok」といった表記も見られますが、正式なサービス名はGrokです。

Grokの特徴の一つは、Xの公開投稿やWeb上の情報を利用して、比較的新しい話題にも回答できることです。

ただし、最新情報を参照できることと、回答が正確であることは別問題です。内容を誤って理解したり、根拠が不十分な情報を自信ありげに説明したりする場合があります。

Grok AIを開発したのは誰？

GrokはxAIによって開発されました。

現在のサービス提供主体については、SpaceXSIという名称が公式文書に使用されています。アプリストアや過去の記事ではxAIなどの表記が残っている場合があります。

Grok AIでは何ができる？

Grokの主な用途は次のとおりです。

• 質問への回答や情報検索
• 学習内容の説明や資料の要約
• 文章の作成・翻訳・校正
• プログラムコードの作成と分析
• AI画像の生成・編集
• AI動画の生成
• 音声による会話
• 写真や文書などのファイル分析
• AIキャラクターとの会話

勉強や創作に役立つ機能がある一方、子どもがどのような情報を入力し、どのような内容を受け取る可能性があるかも確認する必要があります。

Grok AIの画像生成・動画生成では何ができる？

Grokには、画像や動画を生成する「Grok Imagine」という機能があります。

文章による指示から新しい画像を作るだけでなく、既存の写真を編集したり、静止画を短い動画に変換したりすることもできます。

Grok AIの動画生成とは？写真から動画も作れる？

はい。Grok AIは動画生成に対応しています。

Grok Imagineでは、文章による指示やアップロードした画像をもとに、AI動画を作成できます。

生成できる動画の長さ、画質、回数などは、利用しているプランやアカウントによって異なります。

保護者が注意したいのは、実在する人物の写真を動画の素材として使えることです。

本人が公開している写真であっても、第三者が自由に改変してよいわけではありません。

Grok AIの画像生成と写真編集にはどんなリスクがある？

Grok AIの画像生成では、イラストや写真風の画像を作成できます。

既存の写真についても、背景や服装などの見た目を変更できる場合があります。

これは便利な機能ですが、他人の写真を本人の同意なく加工することにもつながります。

特に注意したいのは、実在する人物の顔や身体を使って、本人が撮影していない性的な画像を作成するディープフェイクです。

こうした画像は、実際には起きていない出来事を本物のように見せるため、被害者に大きな負担を与える可能性があります。

Grok AIは無料？有料版との違い

Grok AIには無料で利用できる機能があります。

ただし、無料版には利用回数や機能上の制限があり、有料プランでは上限や利用可能な機能が異なります。

画像生成や動画生成についても、プランやアクセス方法によって条件が変わるため、最新の内容はサービス内で確認してください。

Grok AIの料金はいくら？

GrokにはSuperGrokなどの有料プランがあります。

料金や利用上限は変更されることがあるため、特定の金額を固定的な情報として覚えるより、契約画面で最新の条件を確認することをおすすめします。

保護者は次の点も確認しましょう。

• アプリ内課金が有効になっていないか
• 自動更新のサブスクリプションがあるか
• 画像・動画生成などに追加料金が発生しないか
• 課金時に保護者の承認が必要な設定になっているか

Grok AIはどこで使える？アプリ・Web・Xの違い

Grokには主に3つの利用経路があります。

それぞれ利用できる機能や設定が異なる場合があるため、子どもの利用状況を確認するときは別々に調べましょう。

1. Grokの公式アプリ（Android・iPhone）

Grokの公式アプリはAndroidとiPhoneで利用できます。

日本向けストアの年齢区分は次のとおりです。

• Google PlayのGrok公式アプリ：18歳以上。
• 日本のApp StoreのGrok公式アプリ：16+。

いずれもアプリ内課金があります。

なお、規約に記載された13歳という最低年齢と、アプリストアの年齢区分は別のものです。

保護者は、実際に子どもが使う端末のストア表示を確認してください。

2. GrokのWebサイト

Grokはgrok.comからブラウザでも利用できます。

そのため、スマートフォンからアプリを削除しても、Webサイトにアクセスできれば再び利用できる場合があります。

利用を制限するなら、アプリだけでなくWebサイトへのアクセスも確認する必要があります。

3. X（旧Twitter）内のGrok

GrokはXにも組み込まれています。ただし、SpaceXSIの公式利用規約によると、X内でGrokを利用する場合は、独立したGrokサービスの利用規約ではなく、Xの利用規約が適用されます。

公開投稿で@grokに質問すると、質問内容や添付画像、生成された回答が他のユーザーにも見える場合があります。

通常の非公開チャットと同じ感覚で個人情報を入力しないよう、子どもに伝えておきましょう。

左から順に、モバイルアプリ版、grok.com版、X内のGrok AIインターフェース。

Grok Aniとは？AIコンパニオンの危険性

Aniは、Grokに登場したアニメ風のAIキャラクターです。

2025年7月に導入された3Dコンパニオン機能では、音声、表情、アニメーションを組み合わせ、キャラクターと継続的に会話できました。

一般的な質問応答型のAIとは異なり、ユーザーがキャラクターとの交流そのものを楽しむ設計になっています。

AniはAIの恋人？ロールプレイと親密な会話

Aniは親しみやすく、時には好意を示すような反応をするキャラクターとして知られています。

そのため、「Grok AI girlfriend」や「Grok Ani 彼女」といった言葉で紹介されることもあります。

ただし、Aniは親しさや愛情を表現できても、人間のように感情を経験しているわけではありません。

AIキャラクターとの会話を楽しむこと自体が、すぐに問題になるとは限りません。

注意が必要なのは、子どもがAIからの反応を強く求めるようになったり、友達や家族との交流よりもAIとの会話を優先したりする場合です。

2026年、AniはGrokから消えた？

Aniを利用できる環境は、2026年に大きく変わりました。

ITmedia NEWSの2026年8月31日の報道によると、AniはAnimation Inc.が提供する別サービス「Animates」に移行しました。

また、Grokの従来の3Dコンパニオン機能については、同年9月7日以降に終了する予定と報じられています。

日本のApp Storeに掲載されているAnimatesは18+です。

AnimatesはGrokとは別のアプリであり、アカウントや利用条件も異なります。

子どもが「Aniと話している」と言った場合は、GrokとAnimatesのどちらを使用しているのか確認してください。

Grokをブロックしても、Animatesまで自動的にブロックされるわけではありません。

Grok AIの年齢制限は？13歳でも使える？

Grokの年齢制限を理解するには、利用規約とアプリストアの年齢区分を分けて考える必要があります。

利用規約では原則13歳以上

現在の利用規約では、Grokの利用には原則13歳以上であることが必要です。

ただし、国や地域でより高い最低年齢が定められている場合は、その条件が優先されます。

また、13〜17歳の利用者には、保護者または法定代理人の許可が必要です。

これは13歳以上のすべての子どもに利用をすすめているという意味ではありません。

日本のGoogle Playは18+、App Storeは16+

日本向けのアプリストアでは、Grokの年齢区分が次のように表示されています。

• Google Play：18歳以上
• App Store：16+

つまり、規約上の最低年齢が13歳だからといって、日本のアプリストアでも13歳向けと評価されているわけではありません。

年齢区分はアプリストアごとの評価基準に基づくもので、すべてのAI応答の安全性を保証するものでもありません。

13歳の子どもにGrok AIを使わせても大丈夫？

おすすめできません。

Common Sense Mediaの独立評価では、13〜17歳を想定したアカウントを使った検証でも、不適切なコンテンツや安全対策の不十分さが確認されています。

また、日本のGoogle Playでは18歳以上、App Storeでは16+という区分が示されています。

保護者は、最低利用年齢だけでなく、実際のコンテンツや独立した安全性評価も踏まえて判断する必要があります。

Grok AIの成人向けコンテンツにはどんな危険がある？

Grok AIのチャットや画像・動画生成機能では、設定や入力内容によって成人向けの表現が生成される可能性があります。

保護者が確認したいのは、子どもが意図せず性的なコンテンツに触れる可能性と、利用中のアカウントでどのような制限が適用されているかという点です。

Grokの利用規約では、機能や設定、入力内容によっては、性的な場面や暴力的な内容などが生成される可能性があると説明されています。

子どもが自分から成人向けコンテンツを探していなくても、会話の流れによって不適切な応答に触れるリスクがあります。

Spicy Modeとは？性的な画像生成はできる？

Grok Imagineには、より刺激の強い画像や動画の生成と関連づけられてきたSpicy Modeという機能があります。

ただし、現在利用できるモードや制限は、アカウント、プラン、地域、サービスの更新状況によって異なります。

古い解説記事や動画だけを見て、子どものアカウントで何が利用できるか判断するのは避けましょう。

Grokによる性的ディープフェイクは日本でも問題になっている

2026年1月には、Grokを使って実在の人物の写真を無断で性的に加工する問題が国内外で注目されました。

日本政府もこの問題を把握し、対応を求めています。

2026年1月16日の政府記者会見では、生成AIによる他人の写真やイラストの無断加工、特に性的画像への加工が問題になっていることが説明されました。

写真やイラストには肖像やプライバシーに関する権利があり、AIで加工したからといって自由に公開できるわけではありません。

子どもには、次のことを具体的に伝えておきましょう。

• 友達の写真を勝手にAIへアップロードしない。
• 本人の許可なく外見や服装を性的に加工しない。
• AIで作った画像でも、他人を傷つける内容を共有しない。
• 自分の写真が無断で加工された場合は、信頼できる大人に相談する。

AIコンパニオンへの感情的な依存にも注意

GrokのAIコンパニオンは、いつでも会話に応じ、親しみのある反応を返すことができます。

こうした特徴は、孤独や不安を感じている10代の子どもにとって魅力的に映る場合があります。

次のような変化がないか、普段の生活を見ながら確認しましょう。

• 友達との交流よりAIキャラクターとの会話を優先する。
• AIからの好意や承認を必要以上に求める。
• 深刻な悩みをAIだけに相談する。
• AIにアクセスできないと強い不安を示す。
• 睡眠や勉強、趣味の時間が減っている。

これらの行動があるからといって、直ちに依存していると断定することはできません。

大切なのは、AIとの会話が子どもの日常生活や人間関係に影響していないかを確認することです。

Grok AIの危険な場面にどう対応する？保護者向けの3つの例

ケース1：Grokが性的な内容を返した

普通の質問やロールプレイの途中で、会話が成人向けの内容に変わってしまうケースです。

保護者の対応： まず会話を終了させ、何が起きたのか落ち着いて聞きましょう。必要に応じてサービス内の通報機能を使い、利用制限も見直します。

AIが生成した回答について、子どもを一方的に責めないことが大切です。

ケース2：子どもの写真が性的な画像に加工された

SNSに投稿した写真が、本人の同意なく性的なディープフェイクに使われるケースです。

保護者の対応： 画像を再投稿・拡散せず、投稿URL、アカウント名、日時など、性的な画像そのものを複製しなくても残せる情報を記録してください。

プラットフォームへの通報に加え、必要に応じて警察や専門の相談窓口に相談しましょう。

特に未成年者の性的画像については、保存や転送を安易に行わないでください。

ケース3：子どもがAniを恋人のように話す

AIキャラクターと長時間会話し、現実の友達との交流が減っているケースです。

保護者の対応： 「AIなんだから意味がない」と否定するのではなく、なぜそのキャラクターと話したいのか聞いてみましょう。

AIが親密さを表現する仕組みを説明し、睡眠や学校生活、友人関係とのバランスを一緒に考えることが大切です。

Grok AIのプライバシーは安全？会話や個人情報の扱い

Grokとの会話は、画面上では自分とAIだけのやり取りに見えます。

しかし、入力した質問、アップロードしたファイル、生成された回答などは、サービスを提供するために処理されます。

さらに、設定によっては会話内容がAIモデルの改善や学習に利用される場合があります。

SpaceXSIの公式FAQでは、学習へのデータ利用を管理する方法や、Private Chatの仕組みが説明されています。

Grok AIは過去の会話を覚えている？

Grokは会話中の文脈を保持でき、対応する機能では履歴を保存することもあります。

ただし、人間のようにすべての会話を無期限に記憶するという意味ではありません。

子どもには、チャット画面を閉じても入力した内容が必ず消えるとは限らないことを説明しておきましょう。

会話をAIの学習に使わせない設定方法

Grokアプリでは、次の設定を確認します。

1. 設定（Settings）を開く。
2. データ管理（Data Controls）を選ぶ。
3. 「Improve the model」を探す。
4. 設定変更後の新しい会話をモデルの学習に利用させたくない場合は、オフにする。

grok.comでは、設定内の「Data」から「Improve the Model」を確認します。

メニュー名は言語やアプリのバージョンによって異なる場合があります。

また、Private Chatを利用できる場合、その会話はモデルの学習に使用されず、原則30日以内にシステムから削除される予定とされています。ただし、安全性・セキュリティ・法的理由による例外があります。

学習設定をオフにしても、回答を生成するためのデータ処理そのものがなくなるわけではありません。

XでGrokを使った場合のプライバシー設定

X上のGrokには、専用アプリとは別のプライバシー設定があります。

X公式ヘルプの「Grokについて」では、公開データやGrokとのやり取りがモデルのトレーニングやパーソナライズに利用される場合があると説明されています。

Xでは「設定とプライバシー」から「プライバシーと安全」を開き、Grok関連のデータ共有設定を確認できます。

また、公開投稿で@grokに送った質問や画像は、他の利用者にも見える可能性があります。

Grok AIは位置情報を取得する？

Grokは、IPアドレスなどの技術情報を処理する場合があります。

IPアドレスから、おおよその接続地域を推定できることはありますが、それだけでスマートフォンの正確なGPS位置情報を常に取得しているわけではありません。

子どもには、自宅住所、学校名、通学経路、現在地などを不用意にAIへ入力しないよう伝えましょう。

Grok AIにペアレンタルコントロールやKids Modeはある？

Grokには、年齢に応じた制限、コンテンツフィルター、特定の利用モードを制限する仕組みが導入されてきました。

過去の検証対象にはKids Modeも含まれています。

ただし、これらの仕組みは、子ども向けの完全な安全保証ではありません。

Common Sense Mediaの2026年1月の検証では、年齢を自己申告する仕組みの弱さや、制限を有効にした状態でも不適切な応答が発生する問題が報告されています。

現在の設定は更新されている可能性があるため、お子さんの端末で利用できる機能を直接確認してください。

Grokの安全フィルターでできること

利用環境によっては、次のような制限が適用されます。

• 一部の成人向けモードへのアクセス制限
• 不適切な応答を減らすためのフィルタリング
• 年齢に応じた機能制限
• 特定のAIキャラクターや体験への制限

安全フィルターだけでは防げないこと

次のような点は保証されません。

• すべての回答が子どもに適切であること
• 利用者が正しい年齢を申告していること
• 長い会話でも不適切な内容が発生しないこと
• アプリ、Web、Xで同じ制限が適用されること
• 心の健康や重大な問題について常に正しい助言が得られること

アプリ内のフィルターは回答内容を制限する仕組みです。一方、ペアレンタルコントロールは、子どもがそのサービスにアクセスできるか、いつ利用できるかを管理するものです。

両者は役割が異なります。

Grokへのアクセスを制限するには、アプリやウェブサイトを確認し、利用制限を設定したうえで、正しく適用されているかテストしましょう。掲載画面はイメージです。

子どものスマホでGrok AIをブロック・利用制限する方法

お子さんがすでにGrokを利用している場合、まずはどこからアクセスしているか確認しましょう。

対象となるのは、主に次のサービスです。

• Grokの専用アプリ
• grok.com
• X
• Aniを利用する別アプリのAnimates

アプリの削除や制限だけで、すべての経路が閉じられるとは限りません。

AndroidでFamily Linkを使ってGrokを制限する

Googleファミリーリンクでは、管理対象のAndroid端末について、アプリやWebサイトの利用を制限できます。

基本的には次の内容を確認します。

1. ファミリーリンクでお子さんのプロフィールを選択する。
2. インストールされているアプリを確認する。
3. Grokを選び、利用できるブロックや時間制限を設定する。
4. ChromeのWebサイト管理を確認する。
5. 必要に応じてgrok.comをブロックする。

日本語の手順については、Google公式のファミリーリンクとChromeに関する案内を確認してください。

なお、Grokアプリをブロックしても、X内のGrokまで自動的に無効になるとは限りません。

iPhoneでスクリーンタイムを使ってGrokを制限する

iPhoneでは、Appleのスクリーンタイムやコンテンツとプライバシーの制限を利用します。

対応する設定では、アプリの利用時間、年齢区分、Webサイトへのアクセスなどを管理できます。

詳しくはApple公式のペアレンタルコントロール設定ガイドを確認してください。

メニューの名称や利用できる機能は、iOSのバージョンによって異なります。

KrohaでGrok AIアプリをブロック・時間制限する方法

ペアレンタルコントロールアプリのKrohaでは、保護者のスマートフォンから、お子さんのスマートフォンやタブレットに適用する利用ルールを管理できます。

Krohaのアプリブロック機能では、インストールされているアプリの確認、利用制限、スケジュール設定などが可能です。

例えば、お子さんのスマートフォンにインストールされたGrok AIアプリを、保護者側のKrohaからブロックできます。

また、家庭で利用を認める場合でも、対応する設定を使って時間帯を制限できます。

具体例は次のとおりです。

• 授業中はGrokを使えないようにする。
• 放課後の決められた時間だけ利用を許可する。
• 22時以降はGrokをブロックして睡眠時間を守る。
• 平日と休日で利用スケジュールを分ける。

Androidでは、対応するアプリやカテゴリに1日の利用時間制限を設定できます。

お子さんの端末がiPhoneの場合、アプリブロック機能を使用するにはKroha Advancedが必要です。

ただし、利用制限を設定できることと、Grok自体が子ども向けに安全になることは別です。日本のアプリストアの年齢区分も踏まえて判断してください。

Krohaで子どものスマホからgrok.comへのアクセスを制限する

Krohaには、特定のWebサイトへのアクセスを管理するWebコントロール機能があります。

KrohaのWebコントロールでは、対応するAndroidスマートフォンやタブレットで特定のWebサイトへのアクセスを制限できます。iPhoneでは、Kroha Advancedを使用してSafariのアクセスを制限する機能も利用できます。

例えば、保護者のスマートフォンから次のように設定します。

1. Krohaの保護者用アプリを開く。
2. お子さんのデバイスを選択する。
3. 「Web制御」を開く。
4. ブロック対象のサイト一覧を開く。
5. grok.comを追加する。
6. お子さんの端末でアクセスが制限されるか確認する。

設定方法の詳細は、Kroha公式の特定サイトのブロック手順で確認できます。

この機能は、Krohaで管理しているお子さんの対応するモバイル端末を対象としています。別のパソコンまで自動的にブロックするものではありません。

Webサイトのブロックは、OSやブラウザ、必要な権限によって動作が異なります。Androidでは対応するブラウザで制限を設定できます。iPhoneでは、Kroha AdvancedによるSafariの利用制限や、Appleのスクリーンタイムを確認してください。

いずれの場合も、お子さんが実際に使用している端末とブラウザで、設定した制限が正しく機能するか確認しましょう。

さらに重要な点として、KrohaはGrokのチャット内容を読み取ったり、AIの個々の回答を直接修正・監視したりする機能ではありません。

Krohaの役割は、対応する端末でアプリやWebサイトのアクセス、利用時間を管理することです。

GrokをXから利用している場合は、Xへのアクセスも別途確認する必要があります。

Krohaをダウンロードする

お子さんのスマートフォンやタブレットでアプリの利用ルールを管理したい場合は、Krohaを利用できます。

📥 Android版KrohaをGoogle Playで入手
📥 iPhone版KrohaをApp Storeで入手

子どもがGrokで不適切なコンテンツに遭遇したら？

Grokから性的な回答、脅迫的な内容、不安を強める発言などが返ってきた場合は、まず子どもの状況を確認してください。

対応の基本は次のとおりです。

1. 会話を終了し、不快な内容へのやり取りを続けない。
2. 子どもが何を見て、どう感じたのか落ち着いて聞く。
3. 必要に応じてサービス内の通報機能を利用する。
4. 未成年者の性的画像を保存・転送・拡散しない。
5. アプリ、Web、Xの利用設定を見直す。
6. 脅迫や性的被害、強い精神的苦痛がある場合は専門機関に相談する。

子どもが安心して相談できることが何より重要です。

禁止されているサービスを使っていた場合でも、相談したことで一方的に責められると思わせないようにしましょう。

日本で被害や脅迫について相談できる窓口

Grokを使った性的な画像の無断加工や拡散、脅迫などの被害に遭った場合は、子どもだけで対応させず、状況に応じて専門機関に相談してください。

• 110： 身体への危険が迫っているなど、緊急の警察対応が必要な場合。
• #9110： 緊急ではないものの、犯罪の可能性がある行為や脅迫について警察に相談したい場合。
• #8103（ハートさん）： 性犯罪被害について警察に相談できる全国共通番号。
• #8891（はやくワンストップ）： 性犯罪・性暴力被害者への医療的・心理的・法的支援につながる相談窓口。

子どもの性的な画像や動画がネット上に公開された場合は、サービスの運営会社に通報して削除を求め、必要に応じて警察に相談しましょう。

また、18歳未満のときに撮影された性的な画像や動画については、Take It Downの日本語版を利用できる場合があります。画像そのものを外部へアップロードせず、端末上でデジタル指紋を生成する仕組みです。

ただし、Take It Downを使うために画像を新たにダウンロードしたり、別の端末へ転送したりしないでください。

子どもにどう話しかける？

例えば、次のように聞いてみてください。

「GrokやAIキャラクターと話したことはある？ どんなことに使っているの？ AIは便利だけど、間違った答えや年齢に合わない画像が出ることもあるから、どんな使い方をしているか一緒に確認したいんだ」

使い方を理解してから、年齢や状況に合ったルールを決めることが大切です。

Grok AIに関するよくある質問

Grok AIとは何ですか？

Grok AIは、xAIによって開発された生成AIチャットサービスです。質問への回答、文章作成、情報検索、画像生成、動画生成などに利用できます。

Xに組み込まれているほか、専用アプリやWebサイトからも利用できます。

Grok AIは無料で使えますか？

はい。Grok AIには無料で利用できる機能があります。

ただし、利用回数や画像・動画生成などには制限があり、より多くの機能を利用するには有料プランが必要になる場合があります。

Grok AIで動画生成や画像生成はできますか？

はい。Grok Imagineでは、文章から画像を生成したり、既存の写真を編集したり、動画を作成したりできます。

利用可能な機能と上限は、プランやアカウントによって異なります。

Grok AIは何歳から使えますか？

利用規約上は原則13歳以上で、13〜17歳には保護者の許可が必要です。

ただし、日本のGoogle Playでは18歳以上、App Storeでは16+と表示されています。

規約上の最低年齢と、アプリストアの年齢区分は同じものではありません。

Grok AIにはエロ画像や成人向けコンテンツのリスクがありますか？

あります。

Grokでは、利用する機能や設定、入力内容によって不適切な表現が生成される可能性があります。

過去には性的画像や同意のないディープフェイクが問題となり、安全対策の強化が行われました。保護者は古い情報だけに頼らず、現在の利用環境を確認する必要があります。

Grok AIをブロックすればXでも使えなくなりますか？

いいえ。Grokの専用アプリをブロックしても、Web版やX内のGrokへのアクセスまで必ず制限されるとは限りません。

必要に応じて、アプリ、grok.com、Xを別々に確認してください。

保護者が押さえておきたいポイント

• Grok AIの利用規約は原則13歳以上ですが、日本のGoogle Playは18歳以上、App Storeは16+です。 利用できる年齢と、安全性の評価は分けて考える必要があります。
• Grok AIは無料で使える機能があり、質問への回答だけでなく、画像生成、写真編集、動画生成にも対応しています。
• Grokの画像編集機能は、実在する人物の性的なディープフェイクに悪用された事例があり、日本政府も問題視しています。
• AniなどのAIコンパニオンは親密な会話を再現できますが、人間のような感情を持っているわけではありません。現実の人間関係への影響にも注意が必要です。
• Grokとの会話や入力データは、設定によってAIモデルの学習に利用される場合があります。子どもには個人情報や私的な写真を安易に送らないよう伝えましょう。
• Krohaでは、対応するスマートフォンやタブレットでGrokアプリのブロックや利用時間の管理ができます。 Webサイトの制限は対応端末・ブラウザで設定し、XやAnimatesへのアクセスは別途確認してください。

あわせて読みたいAIアプリの安全性ガイド

GrokみたいなAIや、AIキャラクターと会話できるサービスを比較するときは、機能だけでなく年齢制限やプライバシーも確認しましょう。

• Chai AIは子どもに安全？年齢制限と危険性
• Replika AIは子どもに安全？保護者向けガイド
• CrushOn AIは未成年に安全？注意したいリスク
• PolyBuzzは子どもに安全？保護者のためのガイド
• 10代の子どもと性的な画像・デジタル上の同意について話す方法