メタ AI が十代の若者たちと自殺について話し合うと、親は警告を受けることになる

メタAIは、10代の若者が自殺や自傷行為についてメタAIに話すと、その会話が保護者への通知をトリガーすると木曜日のブログ投稿で述べた。

新しいポリシーは、子供がメタAIをどのように使用しているかを保護者に知らせることを目的とした十代の若者向けの既存の措置を拡張します。 Instagramの管理コントロールを使用している保護者のみが通知を受け取ります。最後に、他のメタ アプリのペアレンタル コントロールを使用している保護者も通知を受け取るようになります。

「私たちは保護者や専門家と協力して、AI のどの会話が警告に値するのかを理解しました。たとえば、10 代の若者が自傷行為に明確に言及している会話など、たとえその表現が微妙であっても」とメタ氏は述べた。

米国、英国、カナダ、オーストラリアの保護者は通知を受け取ります。この機能は年末までに世界中で利用可能になる予定です。

Meta AI 危機アラートはどのように機能しますか?

メタ AI はすでに危機ヘルプラインに言及しており、自殺や自傷行為を考えている十代の若者たちに、信頼できる大人に助けを求めるよう奨励しています。今後は、そのような会話について保護者が警告を受け取るようになります。メタは今のところは気をつけると述べた。

チャットには AI によってフラグが付けられますが、Meta はアラートを送信する前に手動でチャットを確認します。親はまた、自傷行為や自殺について子供と話し合うための専門家が開発した提案も受け取ります。

保護者は、提供した連絡先情報に応じて、アプリ内通知と別の電子メール、テキスト、または WhatsApp メッセージを通じて通知を受け取ります。

児童保護非営利団体フェアプレイのスタッフ弁護士ブレンダン・ブファード氏は、「10代の少年のAIチャットが自傷行為の危険性を示した場合、監視している保護者に警告するというメタ社の主張は正しい方向への一歩だが、この発表は懐疑的に受け止めるべきだ」と、児童保護非営利団体フェアプレイのスタッフ弁護士ブレンダン・ブファード氏はマッシャブルに語った。

ブファード氏は、メタ社のティーンアカウントに対するフェアプレイ社の2025年の調査で、セキュリティツールが効果的でないか、存在しないことが判明したと述べた。メタ社は、この報告書は同社のセキュリティツールがどのように機能するかを誤って伝えていると述べた。

Metaは2月にInstagram向けに同様の自殺と自傷行為の通知機能を開始した。

ネーションワイド小児病院の自殺予防研究センターの臨床マネージャーであるジョン・アッカーマン博士は当時、十代の若者に対する保護の拡大を歓迎するとマッシャブルに語った。ただし、通知にアクセスできない、操作が難しい、または「実行可能な変化」につながらない場合、そのような機能は「リップサービス」である可能性があると同氏は指摘した。

アッカーマン氏はMashableに対し、自殺や自傷行為を伴うメタAIの会話に関するアラートは家族にとって役立つ可能性があると語った。

「ソーシャルメディアと人工知能のための保護者監視ツールは、保護者が懸念を早期に発見し、支援的な会話を開始し、自殺傾向の兆候が現れたときに子供を助けにつなげるのに役立ちます」と同氏は木曜日のメタの発表後に電子メールで述べた。

アッカーマン氏は、保護者には安全設定の使用方法について明確な指導が必要だと付け加えた。同氏はまた、10代の安全関連プラットフォームは、社会的比較、ネットいじめ、睡眠障害、使いすぎや反復的な検索などのパターンなど、危機の一因となる可能性のある要因に対処する必要があると指摘した。

Meta AI の新しい制限コンテンツ設定

Metaは木曜日、Meta AI用の限定コンテンツ設定の追加も発表した。昨年、インスタグラムにも登場しました。

この設定により、最も厳格なメタ フィルターが有効になります。同社によれば、メタAIはすでに、ティーンエイジャーと性的またはロマンチックな会話をしたり、アルコール飲料のレシピを提供したりしないように訓練されているという。

制限されたコンテンツの設定が有効になっている場合、メタ モデルは問題のある手がかりを特定する際により積極的になり、より広範囲の質問への回答を拒否します。メタ氏は、このアプローチにより「潜在的に不適切な会話の機会」がさらに減少すると述べた。

青少年の安全上の懸念

子供の安全擁護者らは、メタのペアレンタルコントロールの最近のアップデートが不十分だと批判している。

4 月、Meta は保護者に、Meta AI との子供の会話に関する洞察を提供しました。この特集では、学校教育、エンターテイメント、執筆、健康、幸福などの幅広いトピックに焦点を当てています。保護者はトピックをクリックすると、追加の限定された詳細を表示できます。

フェアプレイの最高経営責任者（CEO）、ジョシュ・ゴリン氏は、この機能により、「安全な製品をゼロから構築する」代わりに、子供のオンライン活動を監視するという負担が保護者に課せられると述べた。

メタ社は、児童の安全に関する取り組みについて引き続き法的な監視を受けています。今年初め、メタ社は子供の安全保護と同社製品の中毒性のデザインをめぐる2件の別々の裁判で敗訴した。同社は両方の判決に対して控訴するとしているが、子どもへの危害を訴える数百件の訴訟はまだ裁判が行われていない。

更新: 2026 年 7 月 16 日午前 10:29 PDT このストーリーは、メタおよびフェアプレイからの追加情報で更新されました。

自殺願望がある場合、または精神的健康上の危機に瀕している場合は、誰かに相談してください。 988 自殺および危機ライフラインに電話またはテキスト メッセージを送信するか、次の場所でチャットできます。 988lifeline.org。 Trans Lifeline（877-565-8860）または Trevor Project（866-488-7386）に連絡できます。危機メッセージ 741-741 に「START」とテキストを送信します。 NAMI ヘルプライン (月曜日から金曜日、午前 10 時から午後 10 時 (東部標準時間) まで、1-800-950-NAMI、または電子メールでお問い合わせください) (メールが保護されています)。電話が嫌いな場合は、電話の使用を検討してください 988 自殺と危機のライフライン チャット。ここにあります 国際リソースのリスト。