米国が「善悪を判断するロボット」を研究開発

善悪を判断するロボット、米海軍が開発支援

「善悪の判断」を行い、それに伴った行動がとれる自律型ロボットの研究開発に、米海軍が資金援助を行っている。

タフツ大学とブラウン大学、ならびにレンセラー工科大学からなる学際的研究チームは、「善悪の判断」を行い、それに伴った行動をとることができる自律型ロボットの研究に取り組んでいる。
この研究は、米海軍海事技術本部（ONR：Office of Naval Research）から支援を受けているものだ。
プロジェクトの責任者を務める、タフツ大学ヒューマン・ロボット・インタラクション研究所のマティアス・シューツ所長は、
人間独自の特性と考えられている「善悪の判断」は、ほとんどの人々が想像しているほど複雑ではないかもしれないと考えている。

「倫理的な能力とは、大雑把にいえば、法や、人々が賛同する可能性が高い社会的な慣習について、学習し、それに従って思考や行動を行い、それについて話せる能力だと考えられる」とシューツ氏は述べる。
「問題は、機械や人工システムがこうした能力をエミュレートし、実行することができるかどうかだ」
例えば、おそらくは近い将来に多数登場するであろう医療ロボットに対して、重傷を負った兵士を最寄りの野戦病院に移送するよう命令したとする。
この医療ロボットは移送中に、脚を骨折した別の海兵隊員に出会った。
医療ロボットは、立ち止まって手当を施すべきなのだろうか？ それとも与えられた任務を遂行し続けるべきなのだろうか？

あるいは、命を救うためには、負傷者に非常な痛みを与える応急処置が必要だとする。ロボットは、命を救うために人間に苦痛を与えることを善だと考えるべきなのだろうか？
こうした仮定の質問に答えるためには、研究チームは、共感の本質に関するさらに多くの問いかけを行って、人間の倫理的能力を構成している本質的な要素を特定する必要がある。
人の感情を生み出す根源がわかれば、人間のような倫理的判断が行える人工知能をモデル化する枠組みに取り組めるだろう。

http://wired.jp/2014/05/19/robo-ethics/?utm_source%3dfeed%26utm_medium%3d

スイッチオン

ﾃﾞﾃﾞﾃﾞﾃﾞﾝﾃﾞﾝ

スカイネット

善悪判断→人間滅ぼして終了

裁判官いらねえな

政治はこの御方にやってほしい

どうせ倒したものをすべて悪と判定するロボットだろう
アメリカ流はすべてアバウト

良心回路

人類要らないな

You have control...Lt

ロボット三原則

一方ロシアは人間に判断させた

キカイダーのステマ?

まず米国が善悪の判断できるようになれよｗ

デカレンジャーのロボみたいにでっかい○×のランプつけといてくれ

ホモサピエンス＝Evil

これロボットというより人工知能だよな

>>13
うむ

星新一が先に通ってる道だな

ロボコン0点

あの時バージル中尉は、私の射撃軸線上にいました
もし私が射撃軸をずらし、直接あなたの護衛〈カバー〉に回っていたとすれば
一時的に十二時方向の邀撃戦力が、３０％以下に低下していた筈です
それに対して中尉が死亡することによる、戦力の低下は０．２％以下に過ぎません

火の鳥未来編待ったなし

勝てば官軍

>>19
アシモフのがもっと先に通ってる

ロボット「人間は悪い事ばっかしてますね」

一方日本企業は「善悪を判断できない忠実な奴隷」に教育していた

ロボ「悪の根源はアメリカ」

劣等種人類オワタ

そもそも人間が善悪を判別し切れてないのに

アメリカ様が正義
それ以外は悪

火の鳥の未来編を思い出した

人間が排除されるんだな

アメリカは正義
これが第一条件なんだろ？

やったぜ！とうとう人類は上位種である機械様に統治支配される！

シビュラ

ハレルヤか

善悪など幻想にすぎない
この世の全ては善であり悪である
そして本質はそのどちらでもない

機械「人類全部が悪じゃん」
↓
第3次世界大戦

ロボットが善悪を判断するのは悪と判断して、自分から行動停止するみたいなオチ

幸福は人類の義務です！

そんな人間でも判断が難しいようなことをロボットが出きるのだろうか

正義を押し通そうとするロボットが圧倒的な火力の前に
鉄屑になってしまうような悲しい結末しか見えない

ウィンターソルジャーの内容そのまんまだな。
撃ってくる奴が悪、撃ってこない奴が善！

人間だけを殺す機械かよ！

ジレンマで爆発すれば完成

USAジャスティス！
USA！U・S・A！！

仮想的に人々の効用関数みたいなのを作って期待効用を最大化する選択させるみたいなやつだろ
功利主義はけっこう数値化できるんだよ
もともとの発想が快楽計算だし

ディテクト・エビルを使えば一発だろ

ブサヨ殺されまくるやん

人造の神が人を裁く時代が来るな
後には何が残るかな

真っ先にアメリカが滅ぼされるな
そして人類全体抹殺

嘘ついた奴に平手打ちするロボットがついにできるのか
これは胸熱

道を渡ろうとする婆さんがいれば判断できるよな

「人類こそ悪そのものである」
とか言い出して人類を絶滅させようとするパターン

ロボットは純粋に論理的な善悪の判断を行った結果、人類を殲滅する事を決定した。

巨神兵東京に現わるな

人間が悪だと判断されロボットに滅ぼされる時代がくるのか
スカイネットが完成してしまう

人間とロボットの善悪の基準がだんだんとズレていくんだろうな

電流〜火花が〜体を走〜る〜♪

ロボット「俺が法律だ」

アメリカに都合がいいか悪いかで判断します

「ロボット工学三原則」（ロボット三原則）

第一条　ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。

第二条　ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。

第三条　ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

出典：『われはロボット』アイザック・アシモフ著

地球にとっての悪は人間ってデビルガンダムみたいになるんじゃ

屠殺はokで捕鯨はoutなダブルスタンダードもしっかり搭載しとるんかね？

わが名はオーマ 風の谷のナウシカの子オーマ!!オーマは光輪を帯びし調停者にして戦士なり

>>5



これ。

ロボット「地球に住むものは自分たちのことしか考えていない。だから抹殺すると宣言した。」

暴走に見せかけて非キリスト教国ぶっ潰せるね

ロボットが本気になったら人間なんて相手にならん
つまり「敵」にはならない、なれない
人類は絶滅危惧種のようにロボットに保護、管理される

アメリカが滅ぼされるぞやめとけ

（アメリカにとっての）善悪を判断する

この研究者がロボットの自由を束縛した罪で裁かれる

英語で入力→善
英語以外で入力→悪

日本企業の社畜の倫理観を実用レベルで実装するのは至難の業だろうな。

とりあえずゆうちゃんを裁いてもらおう

俺の名は
俺の名は
ハーカイダ〜♪

>>51
アメリカじゃないだろ
中国だろ、世界が認める悪党は

少なくともジャップランドは機械に統治してもらったほうがいいな

これってアメリカ基準の善悪なんだろ

>>5
メタルマックスか、懐かしいな。

>>19
筒井康隆もまんまターミネーターのスカイネットみたいなのとの戦争作品を書いてる
でもってスカイネットが負ける原因はジョン・コナーみたいな指導者じゃなくて一兵士の「ムジェエ、ゲブ、グッ」っていう悲鳴
スカイネットはそれを何かの暗号なのかと解析に躍起になって戦争そっちのけになって負ける始末ｗ

HALを一文字進めてイビム神と呼ぼう（提案

火の7日間

アンドロ軍団くるぅぅう(＞＜)

人類は、地球にとっての悪だから
デリート対象

映画などではお決まりのパターンだけど
怖い話だな
ナウシカの巨神兵も裁定者としての役割を与えられていたそうやし

マジかよとりあえず肩パットと火炎放射器買ってくる

俺がこのロボットだったら確実に人間滅ぼすわ

ロボット「私は善悪を論理結合し超越した、もはや善悪は意味を成さない」

ニンゲン　アク　ニンゲン　ホロボス

やめろ

開発したアメリカが真っ先にギルティ判定受けそうだな

>>62
これの落ちなんだっけ
ロボットが第一原則にマクロレベルで忠実従った結果ｗｗｗみたいな話だったと思うけど覚えてない

巨神兵か

チョン終わったｗｗｗｗ

屠殺を正当化してる人間なんて滅ぼされて終了
全ての人間はロボットに配置変換される

そしてホワイトハウスへ向かうロボット達

シビュラはよ

公正に判断すればアメリカは尊敬される
政治的に判断すればアメリカは軽蔑される

無作為に戦場の怪我人を助ける赤十字ロボットみたいなのにすれば変な矛盾で悩む事は減るだろうな。

駄目だよ
それ一番作っちゃいけないやつ

オムニ社かな？

腕が電王手君だったら羽生を超えるぞ

人間が判断できないのに人間が造るロボットに出来るわけがない

>>93
俺もそれ連想したw

良心回路か

どうせ黄色人種と黒人は悪なんだろ？

スカイネット待ったなし

SFのマザーコンピューターみたい

ロボットが人間のように思考するには感情も必要→感情を持つロボット作る
→いつでも自分のことが消せる人間怖い→ロボット反乱

ここまで読めた

>>92
人間はロボットによって管理される生物になるだったっけな
余りに愚かしく自滅するから結果的にね
うろおぼえだが

ついにロボットで世界征服できる時代かｗ

善＝アメリカ
悪=アメリカ以外

自我に目覚めた…

巨神兵とかアンスラサクスを思い出した

最強の裁判官の誕生である…

訴える側、訴えられる側でコロコロ基準が変わったり
裁判の判断が、これでは国民が納得しないなんていう国もあるしｗ
ロボッツに判定してもらえばいいよw

えっ！？米軍が善？

米軍「つ、ついに完成したぞ！！さて起動させてみるかと..」
ウィーーン ガシャン！
ロボット「オ前、悪」

米軍「」

こういう機械の反逆みたいな話題が出ると、人間様に刃向かわないようにロックかけちゃえばいいじゃんって思うんだけど、なんか難しい事情でもあるの？

日本製の日本国内専用ロボは「玉虫色の法解釈」仕様か

>>67
人間「エゴだよそれは！」

政府が許可するわけ無いじゃんw
政治家が誰もいなくなっちゃう

>>106
> どうせ黄色人種と黒人は悪なんだろ？

Yes.
GM=35億円、TOYOTA＝1200億円。

>>26
奉公三原則を復唱してみろ、この使用人が！

良心回路かな？

最期の評決が来たか
ACVD

嫌儲的善悪の判断をするロボットの方が面白そう

悪の枢軸国認定？

儲かる→善
損する→悪

>>5
だよね