未成年の精神的影響を懸念　チャットGPTに監視機能

精神衛生への悪影響を背景に対策を発表

米オープンAIは9月3日までに、対話型AI「チャットGPT」を未成年が使用する際の安全対策を発表した。背景には、利用の急増による精神的影響や社会問題化した依存の懸念がある。導入時期は10月で、対象は主に10代の利用者とその保護者となる。

新たに導入されるのは「ペアレンタルコントロール」と呼ばれる監視機能で、保護者が子供のアカウントと自分のアカウントをひも付ける形式となる。これにより、子供が利用する際のやり取りを親が確認できるようになり、年齢に不適切な回答が行われていないかをチェック可能となる。

新制度では、子供が重大なストレスや悩みを抱えているとシステムが判断した場合、自動的に保護者へ通知が送られる。こうした機能は、子供が抱える問題を早期に察知し、深刻化する前に介入できる体制を整えることを目的としている。

アメリカでは、AI利用が関係するとされる自殺や事件が続けて報告されている。8月にはカリフォルニア州で16歳の少年が命を絶ち、遺族がオープンAIを訴えた。このような事例は社会的関心を呼び起こし、企業に対策強化を迫る要因となった。

オープンAIは「若者の発達段階に即した支援が必要」との立場を示し、AIの普及とともに社会的責任を強調した。今回の監視機能の導入は、企業によるリスク軽減策であると同時に、業界全体に広がる安全対策の先例となる可能性がある。