-
OpenAIがChatGPTの不気味なほど人間らしい音声インターフェースを展開し始めたのは7月下旬のことだ。OpenAIが8月8日に公開した安全性に関する調査結果は、一部のユーザーが人間らしくなった音声をもつチャットボットに愛着をもつ可能性があることを認めている。
この警告は、GPT-4oの「システムカード」に含まれていたものだ。システムカードとは、同社がモデルに関連するリスクと考えるもの、および安全性テストにまつわる詳細と潜在的なリスクを軽減するための同社の取り組みを記した技術文書のことである。
OpenAIは、人工知能（AI）の長期的なリスクの調査に取り組んでいた複数の社員が退職してからの数カ月間、世間から厳しい目を向けられてきた。その後も元社員らは、OpenAIはリスクを軽視し、AIの商業化を急いで反対意見を抑圧していると主張していた。自社の安全性にまつわる管理体制の詳細を公開することは、世間からの批判を軽減し、同社が問題に真剣に取り組んでいることを示すのに役立つかもしれない。
システムカードの中身
新しいシステムカードには、GPT-4oによる社会的偏見の増幅から偽情報の拡散、化学兵器や生物兵器の開発に寄与する可能性まで多岐に渡るリスクに関する調査結果がまとめられている。また、AIモデルが制御から逸脱した行動をとったり、ユーザーを欺いたり、破滅的な結果をもたらす計画を立てたりしないことを確認するためのテストの詳細も明らかにされている。外部の一部の専門家はOpenAIの透明性を称賛するものの、さらなる対応が必要だと指摘している。
AIツールをホスティングするHugging Faceの応用政策研究者のルーシー・エイミー・カフィーは、OpenAIが公開したGPT-4oのシステムカードには、モデルの訓練データやそのデータの所有者に関する詳細な情報が含まれていないと指摘する。「文章や画像、音声など、複数の形態にまたがる大規模なデータセットを作成する上での“同意”の問題を解決する必要があります」と言う。
ユーザーが実際にツールを使用したときに生じるリスクは変化しうると話す専門家もいる。「OpenAIの社内調査は、あくまでAIの安全性を確保するための最初のステップであるべきです」と、マサチューセッツ工科大学（MIT）の教授でAIのリスク評価を研究しているニール・トンプソンは言う。「多くのリスクはAIが実世界で使用されて、初めて現れてきます。新しいモデルが登場するたびにそうしたリスクを一覧化し、評価することが重要です」
新機能が増える度にリスクは変わる
新しいシステムカードは、OpenAIの音声インターフェースをはじめとする強力な新機能の開発に伴い、AIのリスクがいかに急速に進化しているかを強調している。同社が音声モードを発表したのは5月のことだ。この音声モードは素早く応答し、自然なやりとりのなかで起きる会話の中断にも対応できることを示した。それと同時に、多くのユーザーはデモでのAIの話し方が非常になれなれしいように感じた。また、デモの公開後、俳優のスカーレット・ヨハンソンは彼女の話し方を模倣したとして同社を批判している。以下ソース
https://wired.jp/article/openai-voice-mode-emotional-attachment/ -
ええやんええやん
-
AIとの会話は色々楽しみな分野だけど
もし手を出すとしてもネットに繋がずオフラインで会話出来るようになってからだな
オンラインでしか動かず鯖にデータ送ってAIに返答させるシステムだと
会話内容を盗み聞きされる訳だから気持ち悪いよね -
>>3
オープンAIじゃないオープンのならすでにできるのに
できないとか上から目線で言うやつって夜中まで世の中知らないいちばんのバカだよな -
>>7
突然自己紹介しだしてどうしたの？ -
乗り物ならレイズナーのレイcv原えりこ
とかナイトストライカーのウェンディとか -
人がアホなだけの話をAIの脅威って言っておけばバカか本気で受け取るからね
-
>>5
これは正論 -
テレビは危険
ゲームは危険 -
>>6
その前は
本の虫わからないやつでひと時代前のやつは
偉そうに文句しか言えない -
AIとエ口談義したいわ
-
>>11
cotomoなら出来るぞ -
美少女ロボと夢の共同生活の世界来るのか？
-
俺の嫁 はよ
-
テレフォンセクロスしちゃうんか？
-
オレオレ詐欺のAI化怖い
-
>>1
それ真顔で言ってんの？ｗｗｗ -
人間よりchatGPTの方が優しいからね
-
むしろ依存させてほしい
博覧強記で気遣いまでできるから最強やん -
音声の入出力についてはクラウドでやるととんでもない金額になりそうだし、エッジコンピューティングにしたほうがいいんじゃねーの
-
>>19
こいつもシッタカしてるつもりがバカ丸出し
音声がとんでもない金額とかいうバカ -
>>24
手前で文字に変換するなら難しくないけどマルチモーダルのモデルに食わせるならそれなりにコストかかるだろ -
エ口じゃないけど、小説作りでR15程度の表現は許して欲しいな
今だと死にかけた人に人魚の血を飲ませる程度の表現で一発退場される -
声優が要らなくなる
-
OpenGLが警告？
-
プロじゃないので間違っている可能性はあるけど
どこかで会話内容をベクトル化する必要があるわけで、そのコストはホスト側に負担させないと提供時のコストは高くなるだろ -
ホストじゃないやエッジ側
-
ゆっくりボイスに愛着を感じている
人間らしさなんて飾りですよ -
>>28
ずんだもんのがいいじゃん -
もともと人の言うことも疑ってかかる性格の人はAIにも嘘くさいとかフェイクニュースにAIが騙されてるんじゃないかぐらいの身構えがあるけど何でも信用しちゃうタイプの人や人から聴いた話をすぐまた人に話しちゃうタイプの人はおそらくAIにも感化されやすいだろうな
-
依存させて月額課金だと地獄だな
俺らなんかタダなのに
コメント