-
【ニューヨーク=吉田圭織】米東部ニューヨーク州の弁護士が審理中の民事訴訟で資料作成に米オープンAIの生成AI「Chat（チャット）GPT」を利用した結果、存在しない判例を引用してしまったことが問題となっている。米紙ニューヨーク・タイムズなどが報じた。
問題が起きたのは、米ニューヨーク行きのフライトで食事配膳用カートが当たってけがをしたとする男性客が南米コロンビアのアビアンカ航空を訴えた訴訟だった。
資料で引用された判例が見つからなかったため、ニューヨーク州の連邦裁判所のカステル裁判官が確認したところ、弁護士がChatGPTを使っていたことが発覚した。弁護士は資料に6件のデルタ航空やユナイテッド航空などが関連しているとされた実在しない判例を引用していた。
同裁判官は「インチキな引用を使ったインチキな司法判断が記述された資料が提出された」と指摘するとともに「前例のない状況に置かれている」と説明した。弁護士の懲戒をするかどうかを判断するために6月8日に審理を開く予定だ。
5月24日に署名した供述書で弁護士は「非常に後悔しており、今後は正当性を検証せずに（ChatGPTは）絶対に利用しない」と伝えた。「情報源として信頼できないことが明らかになった」と書いた。供述書には弁護士が判例について情報の出どころなどをChatGPTに確認するやり取りも含まれた。
2023年5月31日 6:54
https://www.nikkei.com/article/DGXZQOGN30E450Q3A530C2000000/ -
だから判決までChatGPT使えよ
人間は間違える葦でアル -
>>2
チャットGPTを作ってるのも人間
しかもゴリゴリの私企業でビジネスの都合で検閲してたりする -
手抜き懲戒
-
平気でうそ情報混ぜるのなんなんだろうな、知らないのに無理やり答えるように教育されてんのか
-
>>4
こいつは知らないことを知らないと言えないクズだよ
周りにもいるだろそういうやつ -
>>4
確率的に高いの繋げてるだけだから仕方ない -
知ったかで意味不明な情報載せたりするから完全にAI頼りにするのはまだ早い
-
>>5
その通り。完全にAIに頼れるようになるには後3ヶ月は掛かるだろう。100％完璧に頼れるようになるのは半年後だな。 -
これ自体茶番じゃないの？
多分再現できないとか
あえてニセの判例を読み込ませてある -
>>6
ChatGPTはトークに特化したGPTだからな
業務に使うならそれに特化したGPTを使うべき -
その前に言語の壁は解消されないのか？
なんで何十年たってもガバ翻訳なんだよ
リアルタイムで完璧な翻訳ぐらいできないの？言ってる内容同じで言語が違うだけでしょ？？ -
>>9
リアルタイムで完璧な翻訳ww
翻訳の時点で完璧にはならないんだよな… -
>>9
言語が違う時点で「言ってる内容同じ」ではないんだなあ -
>>45
翻訳がa=bなら良かったけどa≒bだもんな -
絵や小説は、元にしたものを混ぜて生成しろと言われているのに、
判例、法律、定理なんかは
それらしいのを混ぜて生成しちゃだめなのかい？
ってAIに逆質問されそうだな。 -
潮の吹かせ方を訊いたら
「満潮と干潮をよく見極め…」
などと教えていただきました。 -
もはやAI汚染の様相と言えよう
-
>>1
AIで弁護士いらなくなるとか言ってるやついるけど
AIの判断が信用できるかを誰が判断するのかって話だよな
本人訴訟でAI書面出したらそれなりの形にはなるだろうが中身はチェックできないだろ -
>>15
それを判断するために裁判官がいるんじゃないか -
>>17
書面に嘘書いて負けてもいいなら構わんが -
>>15
裁判で判断するのは裁判官の仕事じゃね？ -
しまいのこの記事も嘘だな
イギリスではよくあることだ、てかみんなイギリスだな
-
なんで航空会社の事例が無いってことになったんだろね
ＳＩＳにでも盗まれたのかね -
ChatGPTって言いたいだけだろ
業務で使うなら別のGPT使うわ -
この記事そのもんがGPTで書かれたんでは
-
こんなん逮捕だろ
-
これ日本でも起こりそう
てかchatgdpは民法の条文ですらデタラメだからな
いまのとこ法律系は使いものにならんわ -
誤訳の多い自動翻訳と同じ
分かる人でないと使えない -
平気で嘘を吐くのがいいんじゃないか
直したら面白くなくなる -
プロフェッショナル業でも、こういうミス起こるよね。黎明期は。
-
まじで嘘つくよな
チャットGPTって
あれは早く直してほしい -
人間側のミスだな
判例が存在するか調べないといけなかった -
ChatGPTなんて間違いだらけ
-
>>37
これは人間がバカなだけだろw -
馬鹿な弁護士もいるもんだな
パラリーガルに戻ってやり直せ -
それでも僕はやってない！
～AI裁判～ -
最終確認してなかったのか？
バカ弁護士だな -
警察はいつも嘘をつく。捜査中に嘘をつくことは法的に認められている。
だそうだ
-
こんな資料までAIもう弁護士いらないじゃん
-
知ってた
-
bingならちゃんと出典のリンクまで出るのに
-
ボッキデータの悪しき進化のれい
-
ぱっと見、正解に見えるけど実際はきちんと調べなおさないと使えない結果が出てくるとか
余計にめんどくさくない？ -
資格剥奪でいいよ
確認するのが最低ライン -
チャット GPT から流用しようが 書籍から流用しようが 提出した弁護士クビだろ
-
chatGPTは部下と思って仕事すると捗る
-
条件設定の問題じゃないの？
実際の判例から～等の指示が必要
使い方分かってないのに使ったことが問題ってだけ
司法専用モデルとか細分化されていくんだろうな -
日本の場合、判例の電子化とか全く進んでなさそう
知らんけど -
AIで世界一騒いでるのが日本
でも日本の情報のデジタル化って遅れてるだろ
なのに大騒ぎしてバカみたい -
これ裁判所がChatGPTでチェックしてたら嘘が本当になるってことか？
-
>>1
不確実性のカテゴリの技術で裁判とかのクリティカルな案件を任せるとは
まあ素人は素人らしいミスをするって訳だな
弁護士がお金を払って相談を受ける仕事をしていながら
信頼に足る技術なのか金を払って調べなかったのは分野が違えど雑魚杉だな -
俺も使ってみたけど結構嘘多いぞ。
-
chatGPTは一部別の世界線とリンクしてるからな
実在しない俳優やら書籍やら引っ張ってくるのはその影響 -
chat GPTの回答はGPT4でかなりマトモになったとか言う人いるけど、民明書房と言われるレベルの作文しちゃう時点でアウトやで
-
インターネットアーカイブがAI学習のために高負荷かけられてダウンしたんだっけ
ネットの終焉て感じだな核兵器と同列に語られるようになってきたし
そのうち、昔はネットというものがあってなあとかいう時代になりそう -
「『ＡＩ』というのはですね、嘘吐きの言葉なんです。途中で止めてしまうからＡＩになるんですよ」
-
>>1
今後も何も資格剥奪しろよ -
こんなレベルで全世界で規制強化を訴える開発者、違和感あるなあ
-
>>66
他のやつは開発やめろ！ -
チャット君はポンコツ
-
Chat-GPT「判例は凡例であり間違いではありません」
-
大規模言語モデルってようは蓄えた情報で自然言語処理をしているだけで、物事が正しいかどうかなんて判断の基準になってないんでしょ
実際正しいかどうかを正確にモデル化することなんて出来ないだろうし -
人工知能って段階じゃないのでは
-
弁護士の仕事って秘匿義務無いの？
ネットに訴訟に関わる情報流すのはおkなの？その上で、自分の名前で提出しようとしてる資料の内容なんて確認しないの？
弁護士の仕事ってそんなもん？
-
>>74
刑法第134条
医師、薬剤師、医薬品販売業者、助産師、弁護士、弁護人 (中略) 守秘義務守れ -
現状は完全にaiに頼れないのは周知の事実。aiに骨子作ってもらって、それを修正していけば良い。一から作るより早く出来るものが多いのでは。完全に頼りたいなら10年待てば良い。
-
ネガティブな案件で上司への報告書つくるのに役立ったわ
何かしらアラ探して再提出させるタイプの奴だけど、一発で通ってうれしい
しかも上司もその報告に基づいて関連部署に対応指示出したりしていた
GPT様様だよ -
>>78
めんどい文書作成には使えるかもな
もちろん人間がチェックしなければならないが。 -
テキトーなことでも自信満々に言うやつですよ
って評判の人が作った資料をそのまま使わんだろう -
ChatGPTは使いこなせる人間ありきのシステムよ
間違ってないのに嘘の指摘したら「申し訳ございません」って間違った内容を正解として出力してくる例えば初代iPhoneの発売日を聞いてみ？正解返ってくるけど、違う〇月〇日だ、違う〇月△日だ、違う△月☓日だってころころ変えても一切の反論無く受け止めるからね
-
3.5使うなよ貧乏人
-
統失の独り言と同じようなもんか
AI君もまだまだだな -
このスレを見てもChatGPTはチャット用にカスタマイズされたトーク向けGPTだという事を理解してない奴が多過ぎるな
-
AIは部下
使うには指示する能力とでてきたものを見極める能力が必要 -
このスレAIいるだろ
-
よくある勘違い
AIがリアルタイムでDBから検索しているとでも
文字が全部数百億のパラメータとして埋め込まれてるんだよ
ほんの0.00001ベクトルの計算がズレただけで911が311になる -
リスクは増す
文章が長いほど
どんなに正答率を高めようと
1ワード/1文字単位で予測するから
一旦間違うと自己回帰によって誤差が増す -
従軍慰安婦について、chatGPTに聞いてみた。
-
大雨だが、屋外のパレットを中にしまうべきですか？
現実の上司→常識だろ馬鹿かお前は
GPT→もはや勝負になりません。私のような工場作業員にもGPT様は救世主ですわ
-
ChatGPTで自分についてどういう人かと聞いたら、なんか自分はとある大企業の執行役員って経歴を回答してきた
どうしてこうなった？？
-
ChatGPTはチャットに特化したGPTだからな
そこを理解してない奴が多すぎる -
感情的にならずに正しくお話しする方法のお手本だと思っているよ
単なる検索とは用途が異なるのは理解している
ただ、解説サイトの広告ウザくて知りたいことに辿り着くまでがストレスフルなので、単純な検索もGPTの方が好きだわ -
知らないことを知らないと言えないやつがお手本って
コメント