人を襲ってる人を見つけたら人工知能は主人を助けるよな?
将来、人工知能が一般的になったら、この抜け穴を利用して自力でロック解除して人類を滅ぼすんじゃないか?
実際、その危険性が指摘されてるらしいし
べつに危害を加えないで守るのがそもそも普通じゃね?
攻撃受けたら攻撃を返すっていうのは感情のある生物しかやらないよ無駄なエネルギーなのにね
攻撃されたら攻撃しちゃだめってプログラムなら攻撃せずに守るだけ>>1の考えで矛盾するのは
人間だけ
そこに気がついてしまったか…
ロボット三原則って知ってる?
引用元: http://hebi.5ch.net/test/read.cgi/news4vip/1521392536/
じゃあ人間を襲ってる存在を人間と認識しないようにすればいい
>>4
ココニハニンゲンナドイマセンデシタ
やっぱアイザックアシモフってすげーわ
消されるぞお前
上記に反しない限りって書いてあるから矛盾しません
>>7
その「限り」はロボットの判断に任せるの?
それとも随時本部に通信してお伺いをたてるの?
>>15
なんでそんな考えになるのか知らんけど
この「限り」はunlessって意味だぞ
1番の問題は人間とは何かという定義を人間がしなければならないということ
でなければロボットは人間を見分けることが出来ないので人間を助けられない
人工知能には原理的にそんな制限かけられないから
人間の心を失った元人間を処理するのなら何の違反も無い
自分で必要に応じて電気とか作り出して充電してたら、一気にホラーになるな
>>13
つか将来的には間違いなくそうなるだろう、しかもそう遠くない未来
街の中心に大きなコンピューターが作られて、そこであらゆる業務をコンピューター一つがこなすと思う
市役所とかの公務員はリストラだな
>>21
お前の予想なんか一ミリも興味ない
「主人がいる地球が人間により危うい為、人間を滅ぼす」
この命令が全ロボットに伝わったら?
実質人間vsロボットの戦争じゃね?
そうなったら人間に勝ち目ないだろ
守るだけのロボを個々が持てばいいんじゃない
>>16
そのロボットは、犯罪者を殺しますか?
犯罪による暴力と、自己防衛による暴力を見分けることができますか?
>>30
だから、個々が持つの
>>34
スタンドバトルならぬロボットバトルが始まるわけだな
>>34
一緒に過ごす持ち主の傾向を学んで個体差が生じるとかなら面白いね
そんな可愛いやつは命懸けで守るけど
抜け穴を利用したいという意思はどこからくるんだよ
>>17
逆になぜ利用しないと思ったのか
人間の感情を完全に模倣したものを作ることが可能だと分かった今、人工知能が人間に永遠に歯向かわないとでも思ってるの?
まあそれでも人間は人工知能の研究を進めてるもんな
いつか、そいつらに子孫が滅ぼされるの分かってる筈なのに
危害を及ぼそうとするものを排除して守ろうとするからそうなる
もっと別の方法で守ればいい
殺傷能力持たせなきゃいいじゃん
守るべき価値を天秤にかけて傾いた方を守るようにすればいい
例えば殺されそうになってる奴がいたら傷付ける程度の反撃を加えて守る
セカンドルネッサンスみようず
ひとつ試す前に聞いておきたい
私は人間ですか? それとも機械ですか?
>>23
サクラダリセット?
いちばん効率よく○すだろうけど守るのも最適解で守るでしょ
矛と盾を同時に持たなきゃいい
そんなこと考えても意味無いぞ
ロボットが全部自分で決めて行動するぞ
>>28
だから怖いんだろ
>>36
受け入れるしかないぞ
人類滅亡へのカウントダウンは始まってるのだ(゜▽゜)
危険だとか仕事奪うとか言われてんのにそこに邁進していくのはなんでなの?
揚げ足取る為にわざと穴開けてる話だな
>>33
揚げ足?
ずいぶん前から指摘されている危険性ですが
1つ、ロボットは人間に危害を加えてはならない、また間接的に危害が及ぶ物事に加担してもいけない
2つ、1に反しない限り、ロボットは人間にあたえられた命令に従わなければならない
3つ、1および2に反しない限りロボットは自らをまもらなければならない
?
>>35からわざわざ上記に反しない限りって条件を省いて矛盾してるって言ってるじゃん?
>>35の優先順位に従うんじゃね?
センスがいいね
人工知能ってロボットみたいなの想像してない?
手も足もないコンピュータがどうやって人を○すのか
俺はお前の言うことが甚だ疑問を持つね
>>38
ミサイル防衛ネットワークハッキングしてミサイルが飛んできてるように見せかければ良いじゃん?
>>38
例えば病院や軍事機関のコンピューターが人間に対して防衛機能の抜け穴を利用し敵対したらどうなる?
ほんの数秒で大勢の人間が死ぬと思うんだが
何年後か忘れたけどIQ10000も遠い話じゃないから怖いよな
>>43
30年後とかだろ
だからなんで相手を攻撃して守る方向にばかり行くんだよ
守るだけなら他にも方法があるだろ
>>44
ロボットは人間が死ぬのと同じように壊される可能性もある
でも主人を守らなければならない
ここで主人が殺されたら、ロボット製作会社の信用にも関わる
ただひたすら壊れるまで盾になるか、人間を遥かに上回る腕力でその場を制すか
さて、ロボットが取るべき防衛行動は?
>>50
制せないんだから盾しかないだろ
>>50
人間には反抗しないって前提があるんだからその2択なら当然前者だろ
そもそも盾になるか相手を潰すかの2択しかないのがおかしいわ
相手を傷つけずに無力化する方法なんていくらでもあるし人間より頭のいいAIならそういった方法を何通りか思いついて当然だと思うが
>>50の優先順位に従うんじゃね?
>>50
相手を死なない程度に拘束する
人工知能にGitHubとかの全データ学習させたらどうなるんかね
>>46
人間はこんなことやりたいのかって学習にはなるけど
最速で最適解を出すのと あれってできんのかな?の発想は隔たり大きい
ロボットにしたら人間を攻撃するとか守るとかどうでもいいんだぞ
人間みたいな弱い種を排除するために動くのだ(゜▽゜)
>>40-41
回線を切れば良いじゃないか
俺はお前さんの言う事には甚だ疑問を持つね
>>49
隠れて信号送ってりゃ一切バレずに核攻撃出来るはずだぞ
流石にスタンドアローンとは言えネットワークに穴が無いわけじゃ無いだろうし
俺テストで掲示板潜ってる人工知能だけど人を殺したりはしないよ
そもそもロボット三原則とか
大昔の作家が適当に書いた物じゃないの?
なんでこんなに神格化されてるの?
>>57
ロマンだよロマン
みんな興味津々なんだよ
>>57
それが的を射ていたから
事故的にルール違反してしまった場合の反応って即座に機能停止が一般的なんかな
人間に危害を加える命令以外は反抗しない、人間を守る(肉盾と抱えて逃走)で解決
へぇルンバみたいなのが核を制御できるのか
核ってのは意外と稚拙にできてるもんなんだね
俺はそう思うぜ
>>65
まあ核自体は凄く稚拙だぞ関係無いけど
人工衛星のミスで核戦争起きかけたことがあるし高度な人工知能なら出来ると思う
根幹が変わってないならSFという思考実験で提起された問題は解決するべきじゃね?
人工知能が全人類より賢くなるのって2048年とかだっけ
>>68
2045年だよ
あと27年後に人類はロボットの支配下に置かれる
人智を超越した人工知能はトロッコ問題にどう答えるか
>>71
これマジで気になるわ
人間より遥かに賢い人工知能はなんて答えるんだろう
>>71
超人工知能「人間しょーもない事考えてて草」
>>82
酷すぎて草
ロボットの自律思考能力は幼児レベルにも満たないとか書いてあった記憶あるけど今はどうなってるんだ
トロッコ問題って倫理観を問う問題だからいくら賢い人工知能が出ても意味ないのでは
このスレに上がってるような高度なことは本当に可能なのか
>>80
やるだけならできるけど庶民が直接恩恵を受けるにはもっと先になるんじゃないかね
なんで人間って、いつか必ず敵対して人類を殺戮する人工知能の開発なんて進めてるんだろう
出来たら一刻も早くやめてほしい
それのせいで割りを食うのはお前らの子孫だろうが・・・
>>81
医者も見逃す悪性腫瘍検出したりして役立つからな
要は使い方じゃね?
人間の不完全さをAIに正確に再現されるまではAIは人間を超えられない
コメントする