-
Googleの人工知能が幼児の性器写真を誤解し警察に通報するという事件が起きた。
アメリカのサンフランシスコに住むエンジニアのハーピル・マーク氏は息子の性器に発疹が出たため、
リモート受診のために医師に送付した。
新型コロナウイルスのために病院は閉鎖しており、リモートで診断を行っており、息子の局部の写真を送ってほしいと言われたという。親は息子の局部の写真を撮影しメッセージアプリで送付し、そのあと抗生剤も無事に処方された。
しかしその2日後、Googleアカウントがロックされたという通知が届いてGoogleアカウント全てが使えなくなってしまったのだ。
これはGoogleの人工知能によるものだった。マーク氏が撮影した写真はGoogleフォトに自動的にバックアップされ、それをGoogleは児童ポルノだと判定してしまったのだ。
マーク氏は異議申し立てを行ったがGoogleは「グーグルのポリシーに違反しており違法な可能性のある有害コンテンツ」として
異議申立は却下された。それだけでなく、人工知能は警察にも通報し、マーク氏は警察から事情聴取も受けたという。警察が持っていた通知書は
グーグルと彼が利用するインターネットサービス会社に提供された捜索令状のコピーも一緒だった。しかし事件担当者は
犯罪ではないと判断し、捜査を終結したと伝えた。
捜査が終わると今度はマーク氏が警察にGoogleアカウントを取り戻すのを手伝って欲しいと悲願。警察に文書を送付しGoogleを訴えたが、
Googleは異議申し立てを再び却下した。マーク氏はGoogleアカウントが永久に削除されるという通知を受け、会社を訴えようともしたが、コストと時間の関係上諦めたという。
GoogleドライブやGoogleフォトは自動で同期する機能があるが、ポルノ画像（特に自動ポルノ）を入れるとAIが検知し、
Googleアカウント全てが凍結されてしまうので、クラウドサービスは他社のサービスを使うのをおすすめする。
クラウドに卑猥な画像を入れろというわけでなく、こういった時のためにGoogleだけに依存するのではなく、
サービスの切り分けも必要だということだ。 -
発疹と発信を掛けてるやん
-
この写真は全部研究用じゃ…
-
google邪悪すぎやろ
-
Google「いつも見てるぞ👀」
-
絵は？絵はいいの？
-
百度行くしか無いか
-
クラウドには暗号化したファイルしか
アップしない -
俺も野良猫や野鳥の写真撮ってパソコンに保存してたら、勝手に共有スペースか何かに
移動させられてて、知らん人に写真持っていかれてたのずっと気付かなかった。
恐ろしい機能だな。 -
＞アメリカのサンフランシスコに住むエンジニアのハーピル・マーク氏は息子の性器に発疹が出たため、
心が汚れてるせいかしばらくどっちの息子か理解出来なかった
-
これはひどい
-
個人のスペースまで監視されてんのか
-
え？Googleフォトってそんな機能あんの？
息子が裸で自宅のプール入ってる画像とかたんまりあるけどそういうのもポルノ判定されたりする？ -
>>14
リアルに危ないってことだね
既に監視対象フラグは立ってて、他人に送ったと判断されたら即通報かも -
チン事
-
つーかなんで人間が確認して臨機応変に解除出来ないんだよほんと狂ってるな
こんな企業に支配されたらセカイノオワリだわ -
自動でアップする機能怖すぎだろ。つか検閲やん
-
Googleとしてはこれを見逃すとこれから病気の診断のためだからという理由で児ポを保存されてしまうかもしれないから
私企業としては仕方ない判断だと思う -
>>18
正当な理由が確認できるのにそれを怠るのは企業の怠慢だと思うけどな -
てゆうか中国馬鹿にできないぐらい監視されとるやんけwww
-
自動で通報て
-
AIが無能でもそれを修正するために人が居るはずなのにどうしてこうなった？
-
OneDrive使いの俺に隙は無かった。
-
わかっただろ？これが国家権力を上回るディープステイトだよ
-
AIは使い物にならないのが証明された
-
自動バックアップ機能を切ればいいだけだよ
便利に利用しといて不都合が出たときだけ文句言うのは違う -
なんでGoogleのAIはこどものちんこだって判別できるん？
そういうデータ持ってんのか？？ -
>>26
AIに覚えさせる仕事がある -
誤解が解けて良かったじゃん🤗
-
>>1
ひ ら め い た -
俺の息子もブツブツができたんだが
-
ちょうどいま尖圭コンジローマの治療で泌尿器科にいるわ
-
ヒザ内側をアップで送ってみよう
-
AIの反乱か
-
画像はよ
息子の性器に発疹が出たため写真を撮影し医者に送付 GoogleのAIが検知し警察に通報し事件に
ニュー速
コメント