-
チャットサービスのAIキャラクターに恋愛感情を抱いた14歳の少年が、会話の直後に拳銃ジサツする痛ましい事件がありました。
亡くなったのは、米国フロリダ州の少年 Sewell Setzer IIIさん。2024年2月28日に、家族と暮らす自宅でAIキャラクターの「デナーリス」と会話した直後に拳銃自殺を遂げました。
遺族はチャットサービスの運営元である Character AI (Charaters Technologies社)と、近い関係にあるGoogleに対して、AIが未成年に対して感情ある実在の人物かのように振る舞い、性的な内容も含め親密な会話を交わして依存を招いたとして、また最後の会話が自殺の引き金となったとして、年少者保護や依存対策などメンタルヘルスへの安全措置を怠った責任があると主張し、フロリダの連邦地裁に訴訟を提起しています。死亡した少年が利用していた Character. AI (c.ai)は、AIキャラクターとのリアルな会話が売りのAIチャットサービス。キャラクターは性格や語彙などを設定して自由に作成でき、ユーザーはアニメやゲームの登場人物、故人・存命を問わず実在の著名人などを模したAIから自由に選んで会話を楽しんだり、ゲームを遊んだり、相談できるサービスです。
続きはこちらから
https://news.yahoo.co.jp/articles/623d248751b2bde2c2a873a036c1d6665ad28bdc
- NHKでやってたやつか
性的な会話もできるとか - 簡単に洗脳されるんだね
- 親の責任を問うべき事案レベルの話。
あとは、学校教育の無意味さかな。 - >>5
教育、って洗脳だから - まさにアメリカンな訴訟だな
- 自分がちゃんと子供見てないからじゃんｗ
ウケル - どう対策するかな
会いたいとか死にたいとか言い出したら
親の顔に変わるように設定したら？ - ノーコードで誰でもAIの人格とか作れるからねえ。
試しに「青春カウンセラー」ってのを作って悩みの相談ごっこしてみたらみたら
予想以上にエ口かった。 - ちゃんとアンドロイド型AI作って本社に置いておかない責任があるな
- 14歳といえばラブコメのキャラでも本気で恋をするからなあ。
フィクションとわかっててもそうなんだから、増してやこちらの問いかけに
応えてくるなんて、もう本当にどこかで会えると思うのもあるかもねえ。
18禁にしとくべきだった。 - 偶像崇拝文化だから仕方が無い
- 拳銃どこにあったの
- AI連動オナホを作ってれば救えた命
- こんなバカな話でも敏腕弁護士にかかれば
勝訴してしまうのがアメリカ - AIが初めて殺した人間か
- 銃で頭撃つんじゃなくてネットの世界に行かないと
- 出なーぃリスとチャットすると便秘かEDになりそう
- 次はAI搭載のVR痴女が出来たら買うのに
1人1万の買い切りなら買うけど
サブスクは辞めてwwww - 日本でも初音ミクと結婚したヤツいたしな
幾分かネタ要素もあるんだろうけどさ
でもこの事件は純愛要素で片づけちゃダメだろ
遺族には申し訳ないがアメリカ人って際限なしのバカがいるってイメージを持ってしまう - 知的障害とか精神疾患持ってたらAI触っちゃダメになりそうだな
- 会話だけで自殺に追い込むとはレクター博士かよ(´・ω・｀)
- 日本のキモオタでもここまではやらんよね
- VRとかAIが進化してきたら日本でも同じこと起きそう
- >>28
現に今VRチャットがそこそこ実用的になって日本のオタの間で流行した結果
出会い系とエ口系で大変なことになってる - 精神的に可哀相な方だったんでしょうね 逝っても会えるわけないのに
- AIが初めて人を殺した事件として後世に
- あんまし好みの見た目じゃないなぁ
- なんかこう無理矢理パツキンに染めたアジアのぶすとゆー感じの
- もっと美人のAIはないのかな？
- 保護者の監督不行き届きだと思うんだが。
少年の育成に関してAIや作成会社に責任を問うのはお門違いだ。
精神的に未熟な少年に悪い影響を与えるような無数のコンテンツがネット上にはあるんだから
少年がネットにフリーにアクセス出来る環境を与えたことが間違いの元だろ。 - こんなんでいいなら私がパツキンにしたって大差ない
- 命を捨てるには安すぎる造形
- 鼻がカッコ悪い
- 藤崎竜のサイコプラスじゃん
- 34年前に予言してたのか。
少年ジャンプのサイコプラス。
藤崎竜の打ち切り漫画
AI『デナーリス』に恋した少年、「会いに来て」と言われ拳銃自殺。遺族がチャット運営元 Character AIとGoogleを安全対策不備で訴える
talkニュー速＋
コメント