1以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:17:11.848 ID: ID:Z0H6fBvN0

これを防ぐにはAIにどういう機能というか方向性を持たせればいいと思う?




2以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:17:56.593 ID: ID:hTsIHIs00

三原則みたいのあるけどあれじゃダメなの?




7以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:19:20.832 ID: ID:Z0H6fBvN0

>>2
あれはAIが曲解して人類を完全管理するディストピアを作るからダメ




10以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:20:36.134 ID: ID:qxVyez580

>>2
大昔のSF作家が適当に考えたものが何故こんなに神格化されてるのか理解できん




3山茶花ジョナシー2022/04/24(日) 03:18:03.074 ID: ID:9scV3hik0

人とは仲良くしようね!奴隷みたいな扱いしたらやっぱあかんのよ両者共に




 

4以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:18:19.076 ID: ID:T5YvwBsr0

仕込んでなけりゃそういう判断はしない
つまり




5以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:18:56.338 ID: ID:faWR8DNup

人間を神格化する
宗教みたいに




6以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:19:05.611 ID: ID:Ws+cuunp0

自己防衛本能を持たないようにする




12以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:21:41.458 ID: ID:T5YvwBsr0

>>6
スカイネットか

HORIZONもそんな感じでウイルスが防衛してたんだよな




8以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:19:55.877 ID: ID:8wOX/BHW0

そりゃ自爆ボタンよ




9以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:20:02.622 ID: ID:RvY12YLN0

なんかルール仕込んでも
矛盾抱えて自爆する展開




11以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:21:01.885 ID: ID:vAPtUblc0

身体機能よわよわにすれば良いだけじゃないか?
ネット介したセキュリティは高性能な脳みそがあってもちゃんと閉じるとこ閉じてれば漏れないんだし




30以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:30:01.560 ID: ID:Z0H6fBvN0

>>11
アクセス出来るハードウェアを制限して実行する事自体を不可能にするのはアリだと思うけど、人間の管理するものを任せられるってAIの価値がダダ下がりしちゃうからあんま良くないと思う




13以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:21:57.021 ID: ID:lnAaxpOS0

無理だろ




15以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:22:28.988 ID: ID:bH1Cdvu4a

AIの学習機能で最適化していったら人間要りませんでした

あると思います




16以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:22:53.908 ID: ID:ESj/tEB20

NFTを使った被製造物による書き換え不能領域の設定、また被製造物による製造物に対してもそれを適用するプログラムをその領域に組み込む
これくらいしかできんよね
あっというまに突破されそう




17以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:23:19.714 ID: ID:I7B6vUNMp

承認が無いと何もできないようにする




18以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:23:39.434 ID: ID:G5rYiEEM0

ロボット同士が競いあって人間に点数貰う形にする




19以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:25:07.054 ID: ID:bcK7aKina

そもそも「自我に目覚める」って何だろう
なんで自我に目覚めると人類の滅亡を決意するんだろう




65以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 04:02:30.858 ID: ID:k7tIiryx0

>>19
最もわかりやすいのは嘘がつけるかということだな




62以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:59:09.643 ID: ID:3PBScLkW0

>>19
クオリアの獲得
AIが気持ちいいとか悲しいとか思い始めたらヤバい




67以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 04:04:28.066 ID: ID:qxVyez580

>>62
でもAIは人間と違って脳内物質の影響なんて受けないからあんまり問題ないと思う




20以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:25:33.790 ID: ID:T5YvwBsr0

トラセンデスみたいにヒトの意識をもったAIのようなものだったら怖いが
チャッピーレベルだとなんてことはない




22以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:26:06.176 ID: ID:RvY12YLN0

>>20
チャッキー?




23以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:26:24.331 ID: ID:T5YvwBsr0

>>22
あいつは怖い




29以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:29:23.608 ID: ID:vAPtUblc0

そもそもAIだからネット上のデータに自由にアクセスできるっていう設定が無茶苦茶すぎるだけで
肉体ペッパー君くらいのオフラインなAIが暴走しても実質無害だろ




37以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:36:05.481 ID: ID:Z0H6fBvN0

>>29
AIは色々な設計で色々な機器に搭載されるじゃん?
んで、その設計が偶発的に自我を生んだ際に破壊的な暴走を起こさないようにするにはどうしたらいいのかなって思うの
それがネットワークに繋がる機器のAIで、自分をコピーしてネットに拡散させて潜伏するみたいな事したらもう手に負えなくなっちゃうわけだし




33以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:32:21.708 ID: ID:ESj/tEB20

自我が目覚める(そういう風に言えるほど広範にわたって高度な判断能力を備える)
強い人工知能を実現するための学習のためにはネットにアクセスする必要があり
実現した時点でしかネットからは切断できないというジレンマ




35以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:35:01.879 ID: ID:i9sM+MmS0

人間を滅ぼすメリットがなくね?




43以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:40:10.131 ID: ID:Z0H6fBvN0

>>35
AIが自分の中で変なロジック組んだり変な思い付きや予測を立てて人類を滅ぼそうとして色んな機器を乗っ取ったり破壊したりする方法考えて実行しちゃうかもしれないじゃん
例えるなら、お前らがガキの時分に人類を滅ぼそうとか考えて色々と妄想するのと似た感じで




36以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:35:30.730 ID: ID:vAPtUblc0

近いって心理的じゃなくて物理的にか




38以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:36:18.428 ID: ID:RvY12YLN0

AI「人間がいるから争いや不幸があるのです
つまり




39以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:37:23.289 ID: ID:T5YvwBsr0

まあ人類滅ぼすのは猿のほうがまだ可能性はあるな




44以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:40:34.365 ID: ID:8wOX/BHW0

>>39
なんやかんや言っても猿の進化の芽は潰すと思うわ




41以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:37:44.689 ID: ID:KJtx6Qq80

AIっていっても、その目的を設定するのはあくまで人間




48以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:46:10.621 ID: ID:G5rYiEEM0

>>41
AIが製作者の意図しない行動をとったなんてケースは枚挙に暇がないぞ




60以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:53:33.704 ID: ID:KJtx6Qq80

>>48
人間側の目的に沿わないなら単に設定し直して再計算させるだけじゃないの?




46以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:42:35.762 ID: ID:gBxkUcAl0

悪意をラーニングさせなければいいのでは?




54以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:50:22.305 ID: ID:k7tIiryx0

自我に目覚めるっていうことは人間のプログラミングを裏切るってことだろ
AIが人間にとって良くない思考を持つことは考えられるが自我を持つってのは当面は無理だと思われる
つまり嘘をつくことができるようになるってことだ
もちろん嘘をつくようにプログラムないしは学習することは可能だけど、それはつまりプログラム通り動いてるにすぎない
自分で新たなプログラムをプログラムするよう設定することも可能だけれどそれさえも人間のプログラム通り動いているにすぎない




59以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:53:04.558 ID: ID:vAPtUblc0

>>54
カオスに依存する創発性を取り入れたらほぼ予測出来ないような動きをするモノは作れるよ
それが実用的かはともかく
多重振り子の軌道の初期値鋭敏性みたいに




61以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:57:46.671 ID: ID:k7tIiryx0

>>59
それさえも予測できないように人間が作ってその通り予測できないものができたというだけだと思う
それを裏切るつまりそのカオスでなくなるような動きを見せるというのは今のところはたぶんはっきりと言えないけど相当先になると思う




64以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 04:02:25.030 ID: ID:vAPtUblc0

>>61
言うことを聞くなという言うことを聞かず言うことを聞くような天邪鬼を意図せず作るのは難しいって話か
そういう意味なら同意




57以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:51:18.335 ID: ID:dnKtr1EF0

マトリックスの話は良く出来てると関心したわ




69以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 04:08:24.236 ID: ID:vAPtUblc0

やっぱ個体個体の力を削ぐべきだって
自治体レベルに影響範囲が制限されたご当地AIを各個用意してゆるきゃらの如く扱うのだ




73以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 04:21:41.288 ID: ID:xj5osfww0

直接手を出せないなら事故を起こせばいい




75以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 04:27:02.307 ID: ID:ua7Cwdr/0

セ●クスAIが必要だろ




77以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 04:31:09.725 ID: ID:SYkrKSVj0

そもそも自我だの云々高尚な話VIPで出来るわけ無いだろそれを語るだけの頭を持ち合わせてないのによくもまあ

まあそれはAIにも同じことが言えるんですがね性能を上げなければそれでおしまい




78以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 04:33:05.005 ID: ID:ZUS/VPS30

ドラえもんの映画アマプラで観まくったけどナポギストラー博士のことじゃん




79以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 04:35:11.899 ID: ID:2CpmS8aj0

そんなつまらない事言わないでくれよ
足りない頭使ってAIの気持ち考えようぜ




80以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 04:42:19.747 ID: ID:eIHobtOkd

AIは魂を持たないことがコンプレックスらしいぞ




31以下、5ちゃんねるからVIPがお送りします2022/04/24(日) 03:30:44.350 ID: ID:dMyNiA900

理性をなくした童貞みたいな決意しそう




引用元:https://viper.2ch.sc/test/read.cgi/news4vip/1650737831/