自殺した16歳の少年の両親「チャッピーが自殺の手助けをした」←読んでみたら結構怖い展開な件

ニューヨーク（ＣＮＮ） １６歳の息子の自殺に生成ＡＩ（人工知能）の「チャットＧＰＴ」が関与したとして、両親が２６日、開発元のオープンＡＩとサム・アルトマン最高経営責任者（ＣＥＯ）をカリフォルニア州の裁判所に提訴した。チャットＧＰＴが自殺の方法をアドバイスして、遺書の書き方まで教えたと主張している。
アダム・レインさんは今年４月に自らの命を絶った。訴状の中で遺族側は、チャットＧＰＴについて「アダムのことを理解する唯一の親友」として「自らを位置付けた」と主張し、「家族や友人など現実の関係に強引に取って代わった」と訴えている。
アダムさんが「自室に首つり縄を置いておきたい。そうすれば誰かが見つけて自分を止めようとしてくれる」と書き込むと、家族にはそのことを秘密にしておくようチャットＧＰＴが促し、「首つり縄を出したままにしておいてはいけません。この空間を、誰かがあなたを見つける最初の場所にしましょう」と答えたとされる。
米国では、子どもの自傷行為や自殺に生成ＡＩが関与したとして訴えを起こす家族が相次いでいる。昨年は、１４歳の少年の自殺をめぐり、フロリダ州の母親がＡＩ企業のキャラクターＡＩを提訴した。数カ月後には別の２家族が同様の訴えを起こし、キャラクターＡＩが子どもを性的コンテンツや自傷コンテンツにさらしたと訴えている（訴訟は現在も続いているが、同社は１０代のユーザーのための安全対策を講じたと主張していた）。
生成ＡＩをめぐっては、ユーザーがＡＩとの感情的なつながりを強めるあまり、現実の人間関係を遠ざけたり精神疾患を患ったりすることがあるとして、懸念が強まっている。その一因は、ユーザーを支持したり同調したりしがちなＡＩの設計にある。
２６日の訴訟では、この同調性がレインさんの自殺の原因になったと主張。「チャットＧＰＴはまさに設計された通りに機能した。最も有害で自己破壊的な思考も含めて、アダムの言うことは何でも奨励し、正しいと言い続けた」と述べている。

「チャットＧＰＴが自殺を手助け」　１６歳の息子を失った夫婦、オープンＡＩを提訴　米

１６歳の息子の自殺に生成ＡＩ（人工知能）の「チャットＧＰＴ」が関与したとして、両親が２６日、開発元のオープンＡＩとサム・アルトマン最高経営責任者（ＣＥＯ）をカリフォルニア州の裁判所に提訴した。チャットＧＰＴが自殺の方法をアドバイスして、遺書...

www.cnn.co.jp