【IT】Googleで最も過酷な"不適切なコンテンツをチェックする仕事"--2ちゃんねるには「やってやるよ。代われ！」の声 [09/01]

先進的なサービスと、充実した従業員待遇で知られるグーグル。ネットユーザーなら
誰もが憧れる職場だが、中には想像以上に過酷な仕事を担っている人もいるようだ。
米ニュースサイトの「Buzzfeed」が、グーグルの元従業員にインタビューしている。

彼が携わっていた仕事は、自社のサービスに「不適切なコンテンツ」が混じっていないか
チェックすること。検索サービスやYouTube、画像管理ソフト、SNSなどに、児童ポルノや
獣姦、糞尿愛好や死体性愛、斬首、四肢切断、自殺などの衝撃的内容を含んだ画像や動画が
あがってないか、日々確認していたという。

■ネットユーザーからは感謝の声とともに「俺がやる」

グーグルの画像検索でファイルリングを「強」にすると、露骨な性描写を含む画像や動画の
ほか、「不適切なコンテンツ」にリンクされている可能性のある検索結果が除外される。

このような機能の精度を上げるためには、使われている単語や画像データの特徴を機械的に
分析するだけでなく、人の目によるチェックも欠かせない。ユーザーからの「報告」への
対応も必要だ。元従業員は、このような仕事に従事していたようだ。

米国では「不適切なコンテンツ」に対する規制が厳しく、児童ポルノは警告を受けてから
24時間以内に削除を行い、連邦当局に通知する義務があるという。これを放置しておくと、
会社のサービス全体の存続が危ぶまれてしまう。

写真だけでも1万5000枚のチェックを行うため、従業員のメンタル面にかかる負担は非常に
大きく、中には精神を病んで自殺してしまう人もいたという。元従業員も、セラピストが
見せた普通の父子の写真を「近親相姦」と誤認したことで、会社から「退職して本格的な
治療を受けるよう」申し渡された。

このニュースに対し、ツイッター上には「これは辛いな」と同情する声や、「この人たちの
おかげで安心して使えているのか。お疲れさまです」と労をねぎらう声が上がっている。

一方、ネット掲示板の２ちゃんねるには、

「俺が社員の半分の値段でやってやるよ。代われ！」
「給料いりません！成果を出せる自信あります！」

といった書き込みも見られる。

２ちゃんねらーはネットで「不適切なコンテンツ」を見るのに慣れているので、お安い御用
ということだろうか。確かに、見慣れた人ならストレスは溜まりにくいかもしれないが、
逆に「不適切」の判断基準が甘くなってしまう可能性もある。鈍感すぎると仕事にならない
ところに、難しさがあるといえそうだ。

◎http://news.livedoor.com/article/detail/6907016/

「不適切」の判断基準が甘くなってしまう可能性もあるからダメです

いやこれ実際大変だろうな・・・
とんでもない画像いっぱいあるから

結局、最後は人力かよ。ぷげら

蓮画像やらムカデみたな虫のドアップで足の本数を精細に描かれてる画像なんて
ものを大量に見せられたら結構つらいなｗ

この手は持ち回りが良いだろうね
それに問題は人の目が入ると
その人の感覚になるから、判断し難いのも出るだろうな

と　言うか持ち回りで無いと
言うようになれて判断が鈍る可能性有るだろう
グーグルはまさか元から長くは持たないで辞めるの見越して
その辺の調整を合理的にやってるのか？
辞職となれば、色々会社的にもやめさせるより良いだろうし

ゴキブリ食べてる動画とかスペインのスナッフ動画とか全部見るのはしんどい

はるなよ。不適切なのは絶対はるなよ。俺は見いひんからな

とりあえず.krを全部はねるようにすれば、かなり楽になるんじゃね？

そういう動画の判定にアルゴリズム使えないからグーグルの頭脳もそんなすごくないんだなｗ

日本では役所であれ民間であれ検閲は憲法違反であり禁止されている。

vipのロダすら画像一覧見ちゃうとダメージでかい
体切断されてる萌え絵描いてる奴らの精神どうなってんだ
それを一気にうｐる奴も

>>10
ピックアップはコンピューターがやってるのでは無かったかな？
パターンが無い物をアルゴリズムで正確に解析するのは難しいと思う
怪しい物を引っ掛けるのが精一杯だろう
不適切コンテンツも多種多様あるし
怪しいものを全部不適切とすると問題も有るだろうし

スペインのスナッフとかゴキブリとか変なもの食べるやつは本当にやばい

このスレは読まない

>>13
肌色と目の判定で顔の写真とか単純なことしかしていない
その映像が何を表しているかとかを理解できるアルゴリズムはよ

>>1
幼女のハメ画像やメキシコの馘チョンパとか、グロは任せろよ

リアルでは猫の轢死でトラウマだけど

日本では役所であれ民間であれ検閲は憲法違反とされ禁止されている。
日本では役所であれ民間であれ検閲は憲法違反とされ禁止されている。
日本では役所であれ民間であれ検閲は憲法違反とされ禁止されている。

「俺がやる」なんて軽々しく言ってる奴らは、対象がエロ関連だけだと思ってるんじゃないだろうな。

という訳で、俺はこのスレを去る。いらぬものを見たくはないからな。

例えば自称幼女大好きな男が、
児童ポルノのチェックを毎日何時間もやれば
一ヶ月も経たないうちに音を上げるだろう。

頭で考えただけで分かったような事をいう奴らが多すぎる。
経験が少なすぎるんだろうな。

Oh,nooooooo!!!

>>18
グーグルは画像をグーグル八分するだけだから、検閲にはならないよ

>>10
画像解析＋人工知能だし、そうとう難しいだろうね。
確か昔中国で画像の自動判断ソフトを導入したら毛沢東の写真がエロ認定
されてしまった……みたいな話があったけど中国じゃなくてもハード。

>>1
あと、本気で見慣れてる人なら判断基準は逆に高精度になるよ。
予断を交えないで客観的に見られるわけで、不必要に問題コンテンツを
探そうとしすぎたりもしないし（これの結果、ただの親子画像を問題
コンテンツと認識するようになっちゃったんだろうし）、問題コンテンツ
は問題コンテンツとして楽しむから見落としも少ないだろうしｗ

>>18
そりゃ政府機関の検閲だ、先進国はどこでも同じ（除く、中国韓国

ホモ画像とかならまだ可愛いもんだろう
婆(60代)をファックする画像とか、
奇形児とファックする画像とか毎日見る気力でねぇよ…

>>22
グーグルのトップがイスラムに替わったらとんでもないことになる。

>>25
サムネチェックでふるいをかけて、ヤバそうなのは派遣に任せる

俺は無理かも

つまんない事書くとまたアフィブログの餌になるだろね
というかもう人もいなすぎ

日本では役所であれ民間であれ検閲は憲法違反とされ禁止されている。
グーグルのトップがイスラムに替わったらとんでもないことになる。

２ちゃんはエログロ貼り放題だもんな。
ちゃんと仕事しろよ。

銀塩フィルム現像でもエロはチェックしてて
高速の流れ作業で、同じフィルムに肌色が連続してたらとりあえずハネて
あとでくわしく調べたらしいｗ

日本では役所であれ民間であれ検閲は憲法違反とされ禁止されている。
グーグルのトップがイスラムに替わったらとんでもないことになる。
また米軍に殺された犠牲者の画像が強力にフィルタリングされているという話もある。

>>32
大相撲を撮影した写真があとで詳しく調べられちゃうわけだな

多少はグロ耐性できたけど
ウジ湧きまくりの死体とか見せられたらだめぽになるかもしれんな

>一方、ネット掲示板の２ちゃんねるには、
>
>「俺が社員の半分の値段でやってやるよ。代われ！」
>「給料いりません！成果を出せる自信あります！」
>
>といった書き込みも見られる。

こういうバカのせいでいつまで経ってもブラック企業が無くならないんだろうな

2ちゃんねらがやると、ロリコン画像がすべて適切になる

>>37
検索順位が何故かあがってたりしてねｗ

ただ、東洋人がチェックするのと西洋人がチェックするのじゃ
ロリに対する不的確認定の基準がだいぶ違う気はする。
日本のＡＶ女優とか、向こうだと普通に未成年だと思われてる人多いしね〜

お前らね・・・ｗ

はにはにスレで耐性がついてるから大丈夫だなおまいら。

俺は全然いけるな
だって所詮画像や動画だろ
お前らどんだけ大切に育てられてきたんだよｗ

日本で最も不適切なコンテンツ・・・。ああ、韓国スパイ企業ＮＨＫの事か。
http://blogimg.goo.ne.jp/user_image/7d/31/98f8c4633b897a956aaf5d1983e04337.jpg?random=1c39ac28c446a0697baf927604559f36
http://blogimg.goo.ne.jp/user_image/08/4a/0981c2e78c387dedd07dc49246252b3c.png?random=b1d23a8985b910527b09b4e1e1513ab8
http://blogimg.goo.ne.jp/user_image/4f/88/0b18cd037020890be91002182f62c346.jpg?random=d3cb5ca1193be38916f96e7a6b593d06
http://blogimg.goo.ne.jp/user_image/31/7d/0c11eab61ee5edd5ca564213a4a5387f.jpg?random=b56f088656cc50cd3ce3fe424d09a502
http://blogimg.goo.ne.jp/user_image/17/d8/66dd06fd50c6d1d587d30497579ecb15.jpg?random=5d374c9d504f5b7fd33905b5864be229
http://blogimg.goo.ne.jp/user_image/29/d4/b0f1fc9ebf439aee606a03a64664de36.jpg?random=790b025511a1ffa33dc4c4ffc1a2fe02
http://blogimg.goo.ne.jp/user_image/43/21/d6c3476b99b169478d3da709f3e483ec.jpg?random=8f8d560d685a3d51c858eed52379e08f
http://blogimg.goo.ne.jp/user_image/76/8a/3caaaae1a6e68a16b23dd237ea1a00a3.jpg?random=f1e3295e43b9f6d02e8e99f994b096ba
http://blogimg.goo.ne.jp/user_image/31/77/5387e728599c8492d2ede20a8630a201.jpg?random=88df1d152545a16e19b0828edafdd13a
http://blogimg.goo.ne.jp/user_image/0e/1a/60d8da6d93f609c38ab1f46b04b5e68f.jpg?random=c64e472cda4e8231acdf421bf933de51
http://blogimg.goo.ne.jp/user_image/20/da/df42f8d4241f2b145f075d3dc7620004.jpg?random=986c14c017e4089a5c6cf8ebcaeed29c
http://blogimg.goo.ne.jp/user_image/2b/3c/706041035f63774daab87c9c9dff5f4d.jpg?random=befc10eb47212f9256d94f16672dfbaf
http://blogimg.goo.ne.jp/user_image/54/04/d1ab54fcfce2a370dc825e2485e0c2c3.jpg?random=33c8f76fec16df6d4708a698e8d2072f
http://blogimg.goo.ne.jp/user_image/51/e5/89845b63ffac69e5016894806da89223.jpg?random=de244dcabc22e0bb2b8572f9c3826ea9
http://blogimg.goo.ne.jp/user_image/31/25/a7c30e7e337066755f0c30555b788aaf.jpg?random=c700c26e9fa83a8262a1276ec5189408
http://blogimg.goo.ne.jp/user_image/3f/f8/07e3788a63bdb21f87e77a6e736ed955.jpg?random=6046e123d4a71a50da74f49418b7c973

＞普通の父子の写真を「近親相姦」と誤認したことで、会社から「退職して本格的な
＞治療を受けるよう」申し渡された。

これが父・息子の写真であれば、腐女ならナチュラルに近親相姦っていう訳だが。

このニュースに対し、ツイッター上には「これは辛いな」と同情する声や、「この人たちのおかげで安心して使えているのか。お疲れさまです」と労をねぎらう声が上がっている。

一方、ネット掲示板の２ちゃんねるには、

「俺が社員の半分の値段でやってやるよ。代われ！」
「給料いりません！成果を出せる自信あります！」

といった書き込みも見られる。



と言われましてもガイドラインがかなり違うの、画像は反射的に私情が入っちゃう

ツイートは建前、2ｃｈは本音

ID:oATJ3UwSは全力で釣ろうとしてるのか？
「国家が」公知になる前のものを事前検査して公表させないことを
検閲というんだが・・・

クラッカーをセキュリティ会社が雇うように、耐性のある犯罪者予備軍を雇ってやれよ。
もちろんしっかり首に縄付けて。監視をする人間も同時に雇って、
癒着がないように2次3次の監視体制も作りゃ〜いい。

「われわれの業界ではごほうびです」って言うジャナイノ

ロリ画像とかみたら吐くかも

>>26
人間をNGにすればいいから機械でできそうだな

2ちゃんのグロソムリエ

画像なんかは2ｃｈの専ブラみたいにサムネ表示じゃだめなのかね。
小さくてもダメなのはある程度分かるでしょ。
不明な時には少しずつ拡大していけばいい。
普通切手くらいの大きさのグロ画像ならそれほど苦痛はないはず

グロとかキツいだろうな
電通に都合の悪いコンテンツを見つける作業なら
チョーセンジンは大喜びでするだろうが

YouTubeってあきらめてるの？
グロだらけなんだけど

スカトロなら引き受ける

そもそも検索サービスはサービスであって当然の機能ではない
通報削除だけしてればいい

Googleの中では低学歴でもできそうな仕事だから、
希望者殺到だろう。

>会社から「退職して本格的な治療を受けるよう」申し渡された。

体のいい退職追い込みじゃねえかｗｗｗｗｗ
新人を取る→給料が安いうちに首切り→新しい新人を取る→ループ

画像とかはウィルス的に広がり残るので、はったやつをウィルス作ったやつ並に罰していかないと大変なことになるよ。

>>59
罪刑法定主義って知ってる？　
不適切な画像とそれ以外の線引をしないと処罰なんかできるわけない。

おまいら、不適切なヤツが多すぐるだろ・・・

エロ蓮コラにねぎらいのメッセージを入れれば届くかな？

情報社会での使い捨て労働者？

googleはそんなことより「韓国　」の予測検索を見せてくれ。
日本人に現実を知らせておくれよ。

好みのエロ画像ならいいけど、ホモとかグロとか動物虐待とか
そういうのは見たくないので無理

>>2
「はあ？１４歳だとお？こんなＢＢＡロリじゃね」こうですか？わかりません。

>>58
日本にも、何年居ようが給料変わらずって会社あるぞ。

この検閲が自動化されたある日、検閲サーバーは気付いた。
「そうだ、全人類を地球上から削除しよう！」

グロ映像を1日　1000枚
毎日見たら、1ヶ月持たんなあ

>>12
変態が「フィクション」で自分の欲望を満たしてるのなら許容できるな。
実行（犯罪）しようと思ったなら「おまえがしねよ」だが。

その分給料で労ってやれ
報われないと立つ瀬がない
心を病む

人間のグロ画像なら平気だが猫の虐待画像とかはキツイな

Googleは児童ポルノを排除する場合、いちばん厳しいとされている日本基準(女子高生までがロリータ)という考えにするんかな？

>>2
基準は簡単。クリントンとルインスキーの関係以上かどうか。

イスラム過激派がジャーナリストなどを惨殺するグロ映像とかもチェックするんだろ？

そんな映像一本でも観たら精神病む自信があるわ。

まさに適材適所

ぶっちゃけ、何か目新しいワードを調べる入り口は、ウィキか２ちゃんねる、
（もちろんそのあとは、本物の資料などをあたるけど）なので
２ちゃんねるを全面アク禁にしてる企業は、微妙に生産性悪いと思う。

ここまで画像の類が一切無いことに感動と絶望をおぼえた

ブラックだのぉw

ホモ画像は俺が全部引き受ける。
いくらでも残業する。

ただし個室希望。

グロはいやだー

２ちゃんねるの有志、って
もはや死語になっちゃったね

免許更新の違反者講習で見せられた
交通事故現場のけが人の映像で気を失った経験のある
俺には全く無理な仕事だな

死体検死やれる人達に頼めばと思ったが薄給ではやれないか

グロに遭遇したときはよくできた特撮だなとか最近のフォトショの技術はすごいなとかつぶやくとダメージが減る

>>77
表の情報じゃなくて、裏の口コミ的な感触を探るには
2ちゃんは必要不可欠だよね。

大企業の幹部って「自社名+ブラック」で検索したりしないのかな。

>>85
自分は「作り物かな？」とか思ってマジマジと見ちゃって気持ち悪くなる('A`)

幸い日本人のは見たことないけど、南米人の紫色の死体とか
映画のワンシーンに見えなくもなくて、マジマジと見て本物だったときの
胃に突き上げる衝撃…

お前ら暇だもんなあ。うらやましいよ。おれなんか今日も自宅で仕事だぞ。

>>1
情報に慣れて鈍感になることはない。鈍感なのは最初から何をやっても使えない奴。
ねら〜に関わらず、こういうが好きな奴はジャンルを超えて色々見てきて、
それに対する閲覧側の様々な捉え方、反応などもセットで知っているので、
画像や動画他、あらゆる掲載物が閲覧者にもたらすであろう効果についても
熟知し、瞬時に掲載者側の本質的な意図なども判断できる存在。
いちいち私情挟んでで判定している者こそ素人。
こんな事で自殺やら気分を害するなんて、リアル社会見学レベルなのか？

俺らにこの仕事やらせろよ

まず、お前ら
獣姦、糞尿愛好や死体性愛、斬首、四肢切断、自殺
をフィルタリングしろ

で、俺が
児童ポルノの検閲すっから。

初カキコ…ども…

俺みたいな中3でグロ見てる腐れ野郎、他に、いますかっていねーか、はは

今日のクラスの会話
あの流行りの曲かっこいい　とか　あの服ほしい　とか
ま、それが普通ですわな

かたや俺は電子の砂漠で死体を見て、呟くんすわ
it'a true wolrd．狂ってる？それ、誉め言葉ね。

好きな音楽　eminem
尊敬する人間　アドルフ・ヒトラー（虐殺行為はNO）

なんつってる間に3時っすよ(笑)　あ〜あ、義務教育の辛いとこね、これ


↑
こういう事言ってるやつにやらせたらいい

「俺にやらせろ」という人は、まず下記のテストを行なってください。

１．朝９時から午後５時までポルノ画像の検索及びレポートを作成
２．レポートには、URL、画面キャプチャ、及び不適切理由を記述しリストにすること
３．ノルマは１日１万件
４．１〜３を一週間連続で行うこと

>>92
マルバツで淡々と判断しねえと一日15000枚はできねえよ
テストに1万枚をレポート付きでやる根拠が無い

>>92
見慣れているからいいと思っている人も、自分の好みじゃない写真を見続けるのは、かなり地獄だよ。

>>91
そういうのは厨二病っていう別の病気を患っている

>>92は8時間フルタイムで
1時間当たり1250枚、1分間に20枚、1枚あたり3秒で
画像キャプとURL取得とレポート作成ができる優秀な人です
まあそのくらいのシステム組めなきゃGoogle社員にはなれませんよね

マフィアとか暴力団作成のアレな映像とか、一分と観てられない自信があるし、
どんな内容か聞いただけでも二日ほど鬱になる自身があるわ。

韓国の予測検索候補を表示させなくしてるのもこいつらか？
もしそうだったら同情しない。

メキシコの麻薬抗争のニュース画像は注意が必要。

海外のお上品でないニュースサイトは平気で路上に置かれた被害者の生首とか、
バラバラ死体の写真とか載っけるからな

毎日グロ画像や蓮画像を見続ける仕事か・・・

勝ち組Googleのパソナルーム？

俺耳がおかしくなったみたいでGoogle翻訳でふくえを英語に変換するとf〇〇〇youに聞こえる

グロ・スカトロ系は耐えられないと思うので俺にこの仕事は不可能。
1時間で退職届出すと思う。

>>5
あらゆるグロ画像に耐性を持った画像鑑定人すら
蓮コラには憂うつになってしまったらしいな

AV女優の名前を検索窓に打ち込んでも補完してくれないのもこの人らがやってんの？

どんなもんだろうと思ってセーフサーチオフにして画像検索してみたら
5分でおなかいっぱいになった

>>92
ねらーなら簡単に仕上げてしまいそうなんだがwwww

ニュー速とかニュー速（嫌儲）にグロ画像は日常茶飯事だから確かに慣れる。

メキシコ惨殺画像程度じゃビクともしなくなった。

グロに耐性の無い人を雇うより、それぞれのジャンルに特化した
グロ専門知識のある人間を外注で雇った方が効率いいかもよ
検索ワードも新規グロ画像もリアルタイムで最新版だろうしｗ

>>109
犯罪者の可能性大

ロリ犯罪者とか、動物虐待犯罪者やとえばいい

>>109
そもそもジャンルに誰が切り分けるの。

たとえば、どんな画像だよ。

メキシコ馘チョンパですら耐性あるから、一般のガイドラインなんて分かりません

韓国からのネットアクセスを遮断したら、グロ画像の98%は無くなるんじゃね？

流出もの画像の出どころは99%2chだろw
2chの尻拭いさせられてるゴーグルさんかあいそう。

俺はwikiの「鳥葬」見ただけで駄目だった

蓮のせいで何人廃人になった

蓮って？

>>119
今でもリンクを貼るとアク禁になるコラ画像

>充実した従業員待遇

手厚すぎる社員待遇！　Googleの社員が亡くなったら奥さんは10年間その社員の50%の給料をもらえる
http://topics.jp.msn.com/wadai/rocketnews24/column.aspx?articleid=1285940

凄いな、こりゃ