【解説】チャットＧＰＴ　自殺予防へ新機能

（解説 2025-09-05付）

　米国の㈱オープンAIは、１０月中にもチャットGPTにペアレンタルコントロールを導入することを明らかにした。生成ＡＩに相談したことで、若者の自殺を助長したとの疑惑を受けた対応。自殺などのリスクが高い情報を検知した場合、保護者に通知する機能などを付加する。

　近年、寄り添ってくれる安心感や匿名性の高さから相談相手に生成AIを活用する動きが広がっている。一方、過度な依存が家族をはじめとする人間関係の希薄化や妄想の助長につながる懸念も高まっている。

　米国では８月、子どもの自殺を助長したとして遺族が同社を提訴。欧米では自殺企図を示唆するユーザーをホットラインに誘導する仕組みがあるが機能せず、自殺を美化する文学的な勧奨で応答していたことが分かった。遺族は同社に対し「自傷行為や自殺の方法が議論された際に自動で会話を終了」「回避できない自傷行為・自殺方法の問い合わせを拒否」の機能の確立を求めた。

　事案を受けオープンAIは１０代の若者の保護強化に重点的に取り組むと発表。メンタルヘルス、摂食障害や薬物使用などの専門家から意見を聴取し、ペアレンタルコントロールの設計を進める。招待メールによって保護者と子ども（１３歳以上）のアカウントをリンクできる新機能を導入するほか、年齢に応じた行動ルールによってプロンプト（指示文）への応答方法を制御。子どもが深刻な苦痛にある場合、アラートを受け取る仕組みにする。

　同社は、AIを日常生活の一部として使いこなす若者を最初の「AIネーティブ」世代とし、「サポート、学習、創造性にとって真の機会を生み出す一方、成長段階に合った健全なガイドラインを設定するなどのサポートが必要」と指摘する。

(解説 2025-09-05付)