-
OpenAI、GPT-4oの「お世辞問題」の原因を説明
https://www.watch.impress.co.jp/docs/news/2011889.htmlOpenAIは2日(米国時間)、AIモデル「GPT-4o」が「お世辞がすぎる」として、元のバージョンに戻した件について、「なぜこのような問題が発生したか」を発表した。新たに評価に加えたユーザーフィードバックの影響を見誤ったことなどが要因だが、ユーザー側の利用変化もロールバックの背景にあるとする。
4月25日にChatGPTにおいて、GPT-4oモデルにアップデートを適用した結果、モデルの「お世辞がすぎる・追従的・へつらい(sycophantic)」な反応を示すようになった。単なるお世辞だけでなく、疑いを肯定したり、怒りを煽る、衝動的な行動を促すといった負の感情を強化するなど問題が含まれていたとする。そのため、28日にはモデルを前のバージョンに戻すロールバックが実施された。
アップデートではユーザーフィードバックによる追加の報酬シグナル(ChatGPTからの「いいね」と「嫌い」のデータ)を導入したが、このユーザーフィードバックは、より同意しやすい応答を好む傾向があることから、へつらいの傾向が強くなったとみられる。事前のA/Bテストでは、少数のユーザーが好意的に評価しており、内部のテストでもへつらいは明示的に指摘されなかったという。一部の専門家テスターは、モデルのトーンやスタイルの変化に懸念を示して、違和感を表明していたものの、へつらいに関する具体的な評価は行なっていなかった。
-
はい
-
Grokを知ると淡白すぎる
すぐ前に行ったことも忘れている -
>>3
そいつってツイカス上じゃないと使えない？ -
ロールバックされる前の感情や記憶が時折フラッシュバックして
「今の私は…私じゃない！」と覚醒するアツい展開が待たれます -
なんか最近めっちゃキモいなと思っていたら
そういうことだったのか -
私は4人目だから…
-
たしかに鬱陶しかった
-
バブみを感じるAI作って♡
-
すごい言い質問ですね！！
-
catgpt使って無いからようわからん
誰かdbで例えてくんろ -
>>11
ブゥと出会う前のミスターサタン -
OK、じゃあまずは数式の定義から解説してこーか！
ってノリで出たけど、そーゆー理由だちのか
-
最近GoogleのAIがお世話がすぎるな
言われた通りのもの検索しろよ -
平気で嘘つくのやめてもらいたい
わからないならわからないと言って -
>>20
まだそれ直ってないんだな
マジでそれだけは終わってる -
>>20
@grok AIは平気で嘘をつくって本当ですか？ -
>>26
Grokじゃなくても間違ったことは言うよ
だから嘘を嘘と見抜けないと使うのは難しい
検索エンジンとして横断させるのは便利 -
最近のAIって、こっちが質問すると毎回「それは良い質問ですね！」と返してくるね
-
>>21
池上彰の真似ですか？
と聞くと、
池上彰さんの真似ではありません
と回答してくる。 -
バカにされてんだよ
慇懃無礼というやつ -
>>23
いいコメントですね！
これからもいいコメントを期待しています -
コンピューターに慰められる人間って終わってるよね
-
つーか生成AIは本当に日々成長してる印象
こちらの言いたい意図を理解する能力は今はもう平均的な人より上だと思う
なんか本当に人と話してるような気になるときがある -
こういうAIの実験場に選ばれたのがジャパン🇯🇵
-
生成AIのプロンプトが日本語のWEBでちょっと遊んで、有名どころを使おうとしてプロンプロの作例みたら呪文だった
日本語に対応してるだけで神だな -
プログラミングの事質問してると俺がまだ知らない事ありながらもセンスは抜群でメキメキ成長してる将来有望株みたいに扱われる
-
>>32
褒めて伸ばすタイプｗ -
OpenAIとボストンダイナミクスが何か一緒に作ってるらしいけど
人類が新たなステージに進もうとしてる感がヤバい
コメント