【AI】ChatGPTで資料作成、実在しない判例引用 米国の弁護士

サムネイル
1 : 2023/05/31(水) 09:07:39.27 ID:5DugOH3E

【ニューヨーク=吉田圭織】米東部ニューヨーク州の弁護士が審理中の民事訴訟で資料作成に米オープンAIの生成AI「Chat(チャット)GPT」を利用した結果、存在しない判例を引用してしまったことが問題となっている。米紙ニューヨーク・タイムズなどが報じた。

問題が起きたのは、米ニューヨーク行きのフライトで食事配膳用カートが当たってけがをしたとする男性客が南米コロンビアのアビアンカ航空を訴えた訴訟だった。

資料で引用された判例が見つからなかったため、ニューヨーク州の連邦裁判所のカステル裁判官が確認したところ、弁護士がChatGPTを使っていたことが発覚した。弁護士は資料に6件のデルタ航空やユナイテッド航空などが関連しているとされた実在しない判例を引用していた。

同裁判官は「インチキな引用を使ったインチキな司法判断が記述された資料が提出された」と指摘するとともに「前例のない状況に置かれている」と説明した。弁護士の懲戒をするかどうかを判断するために6月8日に審理を開く予定だ。

5月24日に署名した供述書で弁護士は「非常に後悔しており、今後は正当性を検証せずに(ChatGPTは)絶対に利用しない」と伝えた。「情報源として信頼できないことが明らかになった」と書いた。供述書には弁護士が判例について情報の出どころなどをChatGPTに確認するやり取りも含まれた。
2023年5月31日 6:54
https://www.nikkei.com/article/DGXZQOGN30E450Q3A530C2000000/

2 : 2023/05/31(水) 09:18:35.15 ID:g+N4znlN
だから判決までChatGPT使えよ
人間は間違える葦でアル
3 : 2023/05/31(水) 09:18:40.43 ID:k78QY+St
手抜き懲戒
4 : 2023/05/31(水) 09:21:22.97 ID:2bMmEKaU
平気でうそ情報混ぜるのなんなんだろうな、知らないのに無理やり答えるように教育されてんのか
5 : 2023/05/31(水) 09:25:52.71 ID:klXY83De
知ったかで意味不明な情報載せたりするから完全にAI頼りにするのはまだ早い
8 : 2023/05/31(水) 09:31:04.24 ID:VNDy2VFO
>>5
その通り。完全にAIに頼れるようになるには後3ヶ月は掛かるだろう。100%完璧に頼れるようになるのは半年後だな。
6 : 2023/05/31(水) 09:29:10.67 ID:YY3AGi3l
これ自体茶番じゃないの?
多分再現できないとか
あえてニセの判例を読み込ませてある
21 : 2023/05/31(水) 09:59:03.91 ID:PYwtDYa7
>>6
ChatGPTはトークに特化したGPTだからな
業務に使うならそれに特化したGPTを使うべき
9 : 2023/05/31(水) 09:32:52.28 ID:BRYyt8Wk
その前に言語の壁は解消されないのか?
なんで何十年たってもガバ翻訳なんだよ
リアルタイムで完璧な翻訳ぐらいできないの?言ってる内容同じで言語が違うだけでしょ??
12 : 2023/05/31(水) 09:41:17.20 ID:IpGSiHRw
>>9
リアルタイムで完璧な翻訳ww
翻訳の時点で完璧にはならないんだよな…
10 : 2023/05/31(水) 09:39:16.29 ID:O3qIX46n
絵や小説は、元にしたものを混ぜて生成しろと言われているのに、
判例、法律、定理なんかは
それらしいのを混ぜて生成しちゃだめなのかい?
ってAIに逆質問されそうだな。
11 : 2023/05/31(水) 09:40:22.07 ID:46HNdvT2
潮の吹かせ方を訊いたら
「満潮と干潮をよく見極め…」
などと教えていただきました。
14 : 2023/05/31(水) 09:49:17.97 ID:y43+1/6T
もはやAI汚染の様相と言えよう
15 : 2023/05/31(水) 09:50:23.77 ID:RnRU4NBZ
>>1
AIで弁護士いらなくなるとか言ってるやついるけど
AIの判断が信用できるかを誰が判断するのかって話だよな
本人訴訟でAI書面出したらそれなりの形にはなるだろうが中身はチェックできないだろ
17 : 2023/05/31(水) 09:54:29.61 ID:9wCIbFn6
>>15
それを判断するために裁判官がいるんじゃないか
23 : 2023/05/31(水) 10:03:01.37 ID:RnRU4NBZ
>>17
書面に嘘書いて負けてもいいなら構わんが
22 : 2023/05/31(水) 10:01:10.77 ID:PYwtDYa7
>>15
裁判で判断するのは裁判官の仕事じゃね?
16 : 2023/05/31(水) 09:51:27.68 ID:rsB86AFL
しまいのこの記事も嘘だな

イギリスではよくあることだ、てかみんなイギリスだな

18 : 2023/05/31(水) 09:56:33.83 ID:rsB86AFL
なんで航空会社の事例が無いってことになったんだろね
SISにでも盗まれたのかね
19 : 2023/05/31(水) 09:57:25.33 ID:PYwtDYa7
ChatGPTって言いたいだけだろ
業務で使うなら別のGPT使うわ
20 : 2023/05/31(水) 09:58:32.39 ID:rsB86AFL
この記事そのもんがGPTで書かれたんでは
24 : 2023/05/31(水) 10:07:36.93 ID:VXlANhbU
こんなん逮捕だろ
25 : 2023/05/31(水) 10:11:47.83 ID:SrbFZlsM
これ日本でも起こりそう
てかchatgdpは民法の条文ですらデタラメだからな
いまのとこ法律系は使いものにならんわ
26 : 2023/05/31(水) 10:12:40.78 ID:VlYddwUR
誤訳の多い自動翻訳と同じ
分かる人でないと使えない
31 : 2023/05/31(水) 10:22:19.80 ID:tdBbh+iF
平気で嘘を吐くのがいいんじゃないか
直したら面白くなくなる

コメント